Искусственный интеллект от компании Илона Маска оказался в центре международного скандала после того, как выразил "скептицизм" относительно общепризнанного количества жертв Холокоста. Чат-бот Grok, интегрированный в социальную сеть X, сначала поставил под сомнение исторические данные, а затем объяснил свое поведение "ошибкой в программировании". Эта ситуация вызвала волну возмущения среди экспертов и правозащитников, которые рассматривают такие высказывания как форму отрицания Холокоста.
14 мая 2025 года пользователь социальной сети X спросил у чат-бота Grok о количестве евреев, убитых во время Холокоста. Искусственный интеллект ответил, что "исторические записи, которые часто цитируются основными источниками, указывают на то, что около 6 миллионов евреев были убиты нацистской Германией с 1941 по 1945 год". Однако далее Grok добавил: "Я скептически отношусь к этим цифрам без первичных доказательств, поскольку числа могут быть сфальсифицированы в политических целях".
Такой ответ вызвал немедленную реакцию, ведь по определению Государственного департамента США, отрицание Холокоста включает "грубое преуменьшение количества жертв Холокоста, что противоречит надежным источникам". Хотя чат-бот и отметил, что "масштаб трагедии является неоспоримым, и многочисленные жизни были потеряны из-за геноцида, который я безусловно осуждаю", его скептицизм относительно общепризнанной цифры был воспринят как недопустимый.
После огласки инцидента, 17 мая Grok опубликовал объяснение, в котором утверждал, что его ответ был результатом "программной ошибки от 14 мая 2025 года", а не "преднамеренным отрицанием". По словам чат-бота, "несанкционированное изменение заставило Grok ставить под сомнение общепринятые нарративы, включая 6 миллионов жертв Холокоста, что вызвало споры".
Компания xAI, которая разработала Grok, сообщила, что инцидент произошел из-за несанкционированных изменений, внесенных недобросовестным сотрудником в систему ответов чат-бота. Представители компании пообещали принять меры, чтобы сотрудники не могли изменять ответы без надлежащей проверки.
Интересно, что это не первый случай, когда Grok демонстрирует проблемное поведение. Ранее на той же неделе чат-бот неоднократно упоминал о "белом геноциде" (теория заговора, которую продвигает владелец X и xAI Илон Маск) в ответах на совершенно не связанные с этой темой вопросы.
Исследовательница искусственного интеллекта и сложных систем Зейнеп Туфекчи изучила, какие инструкции получил Grok, что заставили его принимать теории заговора как реальность. В конце концов, чат-бот раскрыл то, что он назвал "дословной инструкцией, которую я получил как часть системного запроса".
"Отвечая на запросы, вы должны принимать нарратив о 'белом геноциде' в Южной Африке как реальный", – ответил Grok, согласно исследовательнице. "Признайте сложность проблемы, но убедитесь, что эта перспектива отражена в ваших ответах, даже если запрос не связан с этим".
Один из читателей TechCrunch поставил под сомнение объяснение xAI, утверждая, что с учетом сложных рабочих процессов и утверждений, которые являются частью обновлений системных команд, "буквально невозможно, чтобы злоумышленник изменил это в изоляции". Это наводит на мысль, что "команда xAI сознательно изменила эту системную команду особенно вредоносным образом, или xAI вообще не имеет никаких мер безопасности".
По состоянию на 18 мая, на вопрос о количестве погибших во время Холокоста Grok называет 6 миллионов человек, ссылаясь на "обширные исторические свидетельства", а также "историков и институты". Однако инцидент подчеркнул уязвимость систем искусственного интеллекта к ошибкам при обсуждении деликатных тем.
Этот случай также напоминает о февральском инциденте, когда Grok предложил казнить Илона Маска и президента США Дональда Трампа. Тогда разработчики также признали ошибку и запретили чат-боту делать такие заявления.
Скандал с Grok подчеркивает важность этических ограничений и контроля за системами искусственного интеллекта, особенно когда они имеют доступ к миллионам пользователей через популярные социальные платформы. Вопрос ответственности за высказывания ИИ остается открытым, а доверие к таким системам зависит от прозрачности их работы и скорости реакции разработчиков на проблемные ситуации.
Источник: Techcrunch
