Компанія OpenAI опублікувала наукову статтю, в якій заявляє про неминучість появи надлюдського штучного інтелекту в найближчі 10 років. Щоб запобігти потенційній небезпеці від такого ШІ, OpenAI розробляє спеціальні інструменти контролю.
Провідним автором статті вказано головного наукового співробітника компанії Іллю Суцкевера. Однак у супровідному блог-пості його ім'я не згадується, а роль в OpenAI залишається незрозумілою.
Суперінтелект може не тільки принести користь, а й нашкодити
У статті під назвою "Від слабкого до сильного узагальнення" дослідники OpenAI пишуть, що поява штучного інтелекту, який значно перевершує людину, можлива протягом 10 років.
З одного боку, такий суперінтелект здатний поліпшити життя людей. З іншого - він може вийти з-під контролю і завдати непоправної шкоди, якщо його цінності не збігатимуться з людськими.
Тому важливо зараз вирішити проблему безпеки майбутнього ШІ. І в цьому напрямку вже є прогрес – про це йдеться у статті Суцкевера.
Маленькі моделі ШІ вчитимуть великі
Наразі фахівці OpenAI використовують людей, щоб "вирівнювати" модель ChatGPT. Вони дають їй позитивний або негативний зворотний зв'язок, щоб ШІ не завдавав шкоди.
Однак у міру ускладнення ChatGPT людей стане недостатньо для контролю. Тому OpenAI пропонує створювати невеликі моделі ШІ, які навчатимуть потужніші моделі дотримуватися правил.
Такий підхід називається "узагальнення від слабкого до сильного". Він показав хороші результати в дослідженні – точність навчання виявилася вищою порівняно з людським контролем. Наприклад, модель GPT-2 використовували для тренування GPT-4.
Статус Суцкевера в компанії неясний
Хоча Ілля Суцкевер вказаний провідним автором статті, його роль в OpenAI залишається загадкою. Він більше не очолює наукову роботу в компанії.
Суцкевер був одним з ініціаторів звільнення гендиректора OpenAI Сема Альтмана. Водночас сам Альтман заявив про повернення майже всіх співробітників у компанію, крім Суцкевера.
Також повідомляється, що в останні тижні Суцкевера не бачили в офісі OpenAI. Водночас його колеги активно коментували вихід наукової статті, а сам він лише перепостив чужі заяви.
Можливо, вчений продовжує працювати в OpenAI, але його роль залишається невизначеною.
Хто такий Ілля Суцкевер
Ілля Суцкевер – ізраїльсько-канадський програміст, один із провідних фахівців у галузі штучного інтелекту.
Він народився 1986 року в Нижньому Новгороді. У 6 років репатріювався з сім'єю до Ізраїлю. Здобув ступінь доктора філософії в Торонто.
У 2012 році Суцкевер заснував стартап DNNresearch, незабаром куплений Google. Працював у Google Brain над комп'ютерною системою AlphaGo.
У 2015 році став співзасновником і головним науковим співробітником OpenAI. Зіграв ключову роль у створенні моделей GPT-2, GPT-3, DALL-E.
