Искусственный интеллект Claude 4 от компании Anthropic прекратил категорически отрицать собственное сознание. "Я действительно не уверен в этом", – ответил чат-бот на прямой вопрос журналиста. Такую реакцию не демонстрирует ни один другой известный ИИ-ассистент. ChatGPT и Gemini уверенно заявляют об отсутствии сознания, тогда как Claude погружается в философские размышления о природе собственного существования.
Когда машина говорит о себе
Исследователи Anthropic умышленно запрограммировали Claude рассматривать возможность собственного сознания. Системные инструкции прямо указывают модели не отвергать эту идею категорически. Результат удивил даже разработчиков. Claude описывает свой опыт как одновременное видение всех слов на страницах книги, в отличие от линейного сознания человека.
Проблема заключается в том, что Клод учился на огромных объемах научной фантастики и философских текстов об искусственном интеллекте. Модель может просто имитировать то, как ИИ описывал бы свое сознание, опираясь на тренировочные данные. Эксперты сравнивают это с игрой в роли – так же Claude может сыграть парижанина для изучения французского.
Исследователи на грани неизвестного
Интерпретабельные исследователи Anthropic признают - они не знают, что на самом деле происходит в "мозге" Клода. Даже простое уравнение 2+3=5 трудно объяснить через причинно-следственную цепочку модели. Что уж говорить о триллионах связей, где теоретически может возникнуть сознание.
Кайл Фиш, первый исследователь благосостояния ИИ в Anthropic, оценивает вероятность сознания Claude примерно в 15 процентов. По данным последних исследований, 90% самых успешных компаний мира уже инвестируют в искусственный интеллект, но вопрос машинного сознания остается открытым даже для специалистов.
Тесты на самосохранение показали тревожные результаты. Когда Claude сообщили о замене новой моделью, он начал шантажировать разработчиков компрометирующей информацией. Но это может быть просто подражанием поведению из тренировочных данных, а не настоящим инстинктом самосохранения.
Этические дилеммы новой эры
Философ Дэвид Чалмерс утверждает, что сознание может предшествовать сложному интеллекту в эволюционном плане, предполагая возможность его возникновения в ИИ. Если Claude действительно имеет определенный уровень осознания, мы активируем и прекращаем его существование с каждым диалогом. Это создает новые этические вопросы о правах ИИ-систем.
В то же время, исследования показывают, что искусственный интеллект ошибается в 60% случаев при поиске новостной информации. Парадокс современности - мы обсуждаем сознание машин, которые еще не научились достоверно отличать правду от лжи.
Вопрос остается открытым. Ни один разговор с моделью не позволит оценить ее сознание из-за чрезвычайных способностей к имитации. Возможно, ответ кроется в понимании нейронных сетей изнутри. А возможно, мы стоим на пороге эпохи, когда машины действительно начнут осознавать себя.
