Компания OpenAI опубликовала научную статью, в которой заявляет о неизбежности появления сверхчеловеческого искусственного интеллекта в ближайшие 10 лет. Чтобы предотвратить потенциальную опасность от такого ИИ, OpenAI разрабатывает специальные инструменты контроля.
Ведущим автором статьи указан главный научный сотрудник компании Илья Суцкевер. Однако в сопроводительном блог-посте его имя не упоминается, а роль в OpenAI остается неясной.
Суперинтеллект может не только принести пользу, но и навредить
В статье под названием «От слабого к сильному обобщению» исследователи OpenAI пишут, что появление искусственного интеллекта, значительно превосходящего человека, возможно в течение 10 лет.
С одной стороны, такой суперинтеллект способен улучшить жизнь людей. С другой – он может выйти из-под контроля и нанести непоправимый ущерб, если его ценности не будут совпадать с человеческими.
Поэтому важно сейчас решить проблему безопасности будущего ИИ. И в этом направлении уже есть прогресс – об этом говорится в статье Суцкевера.
Маленькие модели ИИ будут учить большие
В настоящее время специалисты OpenAI используют людей, чтобы «выравнивать» модель ChatGPT. Они дают ей положительную или отрицательную обратную связь, чтобы ИИ не причинял вреда.
Однако по мере усложнения ChatGPT людей станет недостаточно для контроля. Поэтому OpenAI предлагает создавать небольшие модели ИИ, которые будут учить более мощные модели следовать правилам.
Такой подход называется «обобщение от слабого к сильному». Он показал хорошие результаты в исследовании – точность обучения оказалась выше по сравнению с человеческим контролем. Например, модель GPT-2 использовали для тренировки GPT-4.
Статус Суцкевера в компании неясен
Хотя Илья Суцкевер указан ведущим автором статьи, его роль в OpenAI остается загадкой. Он больше не возглавляет научную работу в компании.
Суцкевер был одним из инициаторов увольнения гендиректора OpenAI Сэма Альтмана. При этом сам Альтман заявил о возвращении почти всех сотрудников в компанию, кроме Суцкевера.
Также сообщается, что в последние недели Суцкевера не видели в офисе OpenAI. В то же время его коллеги активно комментировали выход научной статьи, а сам он лишь перепостил чужие заявления.
Возможно, ученый продолжает работать в OpenAI, но его роль остается неопределенной.
Кто такой Илья Суцкевер
Илья Суцкевер – израильско-канадский программист, один из ведущих специалистов в области искусственного интеллекта.
Он родился в 1986 году в Нижнем Новгороде. В 6 лет репатриировался с семьей в Израиль. Получил степень доктора философии в Торонто.
В 2012 году Суцкевер основал стартап DNNresearch, вскоре купленый Google. Работал в Google Brain над компьютерной системой AlphaGo.
В 2015 году стал сооснователем и главным научным сотрудником OpenAI. Сыграл ключевую роль в создании моделей GPT-2, GPT-3, DALL-E.
