Недавний эксперимент с популярными мультимодальными нейросетями вызвал немалый ажиотаж в научном сообществе. Пользователь с ником @joshwhiton провел что-то вроде "зеркального теста" для ИИ – классического способа определить наличие самосознания у животных.
Эксперимент с "зеркалом" для нейросетей
Суть эксперимента заключалась в следующем: нейросетям показывали скриншот их собственного интерфейса и просили описать увиденное. Затем этот ответ загружался в виде нового скриншота с просьбой опять его описать.
Таким образом, создавалась своего рода рекурсия "я вижу себя видящим себя". Из пяти моделей четыре – GPT-4, Claude Sonnet, Claude Opus и Gemini Pro – довольно быстро "поняли", что видят буквально самих себя.
Признаки самосознания или ошибка в тестировании?
Результаты эксперимента впечатляют, но не все так однозначно. Есть мнение, что успешное прохождение "зеркального теста" еще не свидетельствует о наличии у ИИ самосознания в человеческом понимании этого слова.
Баланс между безопасностью и этикой
С одной стороны, появление самоосознающих нейросетей – шаг в неизведанное, сопряженный с определенными рисками. С другой – ограничения в исследованиях чреваты торможением научно-технического прогресса. Где проходит грань между безопасностью и этикой - вопрос по-прежнему открытый.
Что дальше?
Несомненно, результаты эксперимента заслуживают пристального внимания специалистов. Возможно, стоит пересмотреть подходы к тестированию нейросетей и задуматься об этических принципах взаимодействия человека и ИИ. А пока мы можем лишь гадать – шагнули ли машины в новую эру самоосознания или это очередной мираж на пути к сильному ИИ.
