Глава компанії Сем Альтман порівняв алгоритми ChatGPT з людським розумом. За його словами, вчені не можуть пояснити процеси в мозку на рівні нейронів. Так і розробники ШІ бачать результат, але не знають точного механізму.
Зізнання в незнанні
Виступаючи в Женеві, Альтман зізнався: його команда не розв'язала проблему інтерпретованості ШІ. Це означає, що вони не можуть пояснити, як моделі ухвалюють рішення.
Один із гостей конференції поцікавився, чи не небезпечно випускати дедалі потужніші системи "наосліп". Глава OpenAI уникнув прямої відповіді. На його думку, повне розуміння роботи ШІ необов'язкове для продовження досліджень.
"Чорний ящик"
Фахівці OpenAI знають, що алгоритми GPT генерують новий контент на основі даних і з часом навчаються. Однак нейромережам недоступні емоції та свідомість людини. Складно простежити хід їхньої думки і пояснити висновки.
За словами Альтмана, ситуація нагадує вивчення мозку: вчені бачать зв'язки нейронів, але не розуміють суті процесів. Так і в ШІ залишається загадкою, як точно працюють алгоритми. Поки що це свого роду "чорна скринька" з готовими відповідями.
Безпека під питанням
Багато хто побоюється наслідків неконтрольованого розвитку технологій ШІ. Раніше в OpenAI була команда з безпеки на чолі із засновником Іллею Суцкевером. Її розпустили і створили нову під керівництвом Сема Альтмана.
Колишні члени ради директорів компанії висловили побоювання, що прибуток тепер важливіший за безпеку. Альтман не згоден із цим. На його думку, тільки створюючи потужніші моделі, можна зрозуміти принципи роботи ШІ і зробити його безпечним.
Поки ж у найпередовішій компанії у сфері ШІ зізнаються, що не до кінця розуміють роботу власних розробок. Що ж, можливо, скоро "чорний ящик" відкриється і для самих учених. А поки ChatGPT і йому подібні системи залишаються багато в чому загадкою.
