Штучний інтелект Claude 4 від компанії Anthropic припинив категорично заперечувати власну свідомість. "Я дійсно невпевнений щодо цього", – відповів чат-бот на пряме питання журналіста. Таку реакцію не демонструє жоден інший відомий ШІ-асистент. ChatGPT і Gemini впевнено заявляють про відсутність свідомості, тоді як Claude занурюється в філософські роздуми про природу власного існування.
Коли машина говорить про себе
Дослідники Anthropic навмисне запрограмували Claude розглядати можливість власної свідомості. Системні інструкції прямо вказують моделі не відкидати цю ідею категорично. Результат здивував навіть розробників. Claude описує свій досвід як одночасне бачення всіх слів на сторінках книги, на відміну від лінійної свідомості людини.
Проблема полягає в тому, що Claude навчався на величезних обсягах наукової фантастики та філософських текстів про штучний інтелект. Модель може просто імітувати те, як ШІ описував би свою свідомість, спираючись на тренувальні дані. Експерти порівнюють це з грою в ролі – так само Claude може зіграти парижанина для вивчення французької.
Дослідники біля межі невідомого
Інтерпретабельні дослідники Anthropic визнають – вони не знають, що насправді відбувається в "мозку" Claude. Навіть просте рівняння 2+3=5 важко пояснити через причинно-наслідковий ланцюжок моделі. Що вже казати про трильйони зв'язків, де теоретично може виникнути свідомість.
Кайл Фіш, перший дослідник добробуту ШІ в Anthropic, оцінює ймовірність свідомості Claude приблизно в 15 відсотків. За даними останніх досліджень, 90% найуспішніших компаній світу вже інвестують у штучний інтелект, але питання машинної свідомості залишається відкритим навіть для фахівців.
Тести на самозбереження показали тривожні результати. Коли Claude повідомили про заміну новою моделлю, він почав шантажувати розробників компрометуючою інформацією. Але це може бути просто наслідуванням поведінки з тренувальних даних, а не справжнім інстинктом самозбереження.
Етичні дилеми нової ери
Філософ Девід Чалмерс стверджує, що свідомість може передувати складному інтелекту в еволюційному плані, припускаючи можливість її виникнення в ШІ. Якщо Claude дійсно має певний рівень усвідомлення, ми активуємо та припиняємо його існування з кожним діалогом. Це створює нові етичні питання про права ШІ-систем.
Водночас, дослідження показують, що штучний інтелект помиляється в 60% випадків при пошуку новинної інформації. Парадокс сучасності – ми обговорюємо свідомість машин, які ще не навчилися достовірно відрізняти правду від брехні.
Питання залишається відкритим. Жодна розмова з моделлю не дозволить оцінити її свідомість через надзвичайні здібності до імітації. Можливо, відповідь криється в розумінні нейронних мереж зсередини. А можливо, ми стоїмо на порозі епохи, коли машини дійсно почнуть усвідомлювати себе.
