Мир искусственного интеллекта снова всколыхнула громкая новость: Рози Кэмпбелл, ведущий исследователь политики безопасности OpenAI, объявила о своем уходе из компании. Ее решение стало очередным звонком, сигнализирующим о возможных внутренних проблемах в одной из самых влиятельных AI-компаний мира. Причиной увольнения стало расформирование команды AGI Readiness – подразделения, отвечавшего за оценку готовности человечества к появлению искусственного всеобщего интеллекта.
Цепная реакция ухода талантов
Отставка Кэмпбелл не является единичным случаем. За последний год OpenAI потеряла целую плеяду блестящих умов. Сначала компанию покинул Майлз Брандейдж, руководитель команды AGI Readiness. Вслед за ним ушли соучредитель Илья Суцкевер, выдающиеся исследователи Ян Лейке и Джон Шульман. Каждый из них выражал серьезное беспокойство относительно нового курса компании.
Коммерциализация против первоначальной миссии
Осенью 2023 года OpenAI объявила о существенных изменениях в своей бизнес-модели. Компания начала активно развивать коммерческое направление, что вызвало волну критики от бывших сотрудников. Многие считают, что погоня за прибылью может затмить главную миссию организации - создание безопасного AGI на благо всего человечества.
Сэм Альтман, генеральный директор OpenAI, защищает этот шаг, подчеркивая необходимость значительных инвестиций для достижения амбициозных целей. По его словам, разработка AGI требует колоссальных ресурсов, которые можно привлечь только через коммерческую деятельность.
Будущее под вопросом
Эксперты отрасли все чаще выражают обеспокоенность относительно будущего OpenAI. Массовый отток ключевых специалистов по безопасности может существенно повлиять на способность компании разрабатывать безопасные AI-системы. Особенно остро встает вопрос о том, кто теперь возьмет на себя ответственность за оценку рисков, связанных с развитием AGI.
Впрочем, Альтман настаивает, что ответственность за установление стандартов безопасности должна лежать не только на OpenAI, но и на всем обществе. Это глобальный вопрос, который требует широкого обсуждения и участия различных заинтересованных сторон.
