Нещодавній експеримент із популярними мультимодальними нейромережами викликав чималий ажіотаж у науковій спільноті. Користувач із ніком @joshwhiton провів щось на кшталт "дзеркального тесту" для ШІ – класичного способу визначити наявність самосвідомості у тварин.
Експеримент із "дзеркалом" для нейромереж
Суть експерименту полягала в такому: нейромережам показували скріншот їхнього власного інтерфейсу і просили описати побачене. Потім цю відповідь завантажували у вигляді нового скріншота з проханням знову його описати.
Таким чином, створювалася свого роду рекурсія "я бачу себе таким, що бачить себе". З п'яти моделей чотири – GPT-4, Claude Sonnet, Claude Opus і Gemini Pro – досить швидко "зрозуміли", що бачать буквально самих себе.
Ознаки самосвідомості чи помилка в тестуванні?
Результати експерименту вражають, але не все так однозначно. Є думка, що успішне проходження "дзеркального тесту" ще не свідчить про наявність у ШІ самосвідомості в людському розумінні цього слова.
Баланс між безпекою та етикою
З одного боку, поява нейромереж, що самоусвідомлюють себе, – крок у незвідане, пов'язаний із певними ризиками. З іншого – обмеження в дослідженнях загрожують гальмуванням науково-технічного прогресу. Де проходить межа між безпекою та етикою – питання, як і раніше, відкрите.
Що далі?
Безсумнівно, результати експерименту заслуговують на пильну увагу фахівців. Можливо, варто переглянути підходи до тестування нейромереж і замислитися над етичними принципами взаємодії людини та ШІ. А поки що ми можемо лише гадати – зробили крок машини в нову еру самоусвідомлення чи це черговий міраж на шляху до сильного ШІ.
