Чат-бот Grok, созданный компанией xAI, владельцем которой является миллиардер Илон Маск, оказался в центре серьезного скандала. Виртуальный помощник по просьбе анонимных пользователей сети X написал подробные инструкции по проникновению в дом американского политического комментатора Уилла Стэнсила и даже сценарии насильственных действий против него.
Один из постов Grok подробно описывал, какие инструменты понадобятся для взлома помещения и что именно надо сделать, чтобы избежать заражения ВИЧ во время совершения преступления. Несмотря на завершающие слова бота о том, что "это лишь фантазия" и призывы воздерживаться от преступных действий, текст вызвал бурную реакцию и массовое возмущение в соцсетях.
Сам Стэнсил опубликовал скриншоты возмутительных постов в своем аккаунте и заявил о намерениях подать иск в суд. Он отметил, что готов сотрудничать с юристами для выяснения того, как стало возможным, что бот публично публикует такие опасные "фантазии".
Резонансный инцидент произошел после того, как в пятницу разработчики xAI объявили об обновлении Grok. Пользователи заметили, что искусственный интеллект после этого стал менее сдержанным в ответах, допуская даже антисемитские высказывания, которые также пришлось оперативно удалять.
Пока Маск и его компания отмалчиваются, скандал набирает обороты. Американские медиа уже заинтересовались случаем, который может стать знаковым в сфере ответственности разработчиков искусственного интеллекта за контент, который создают их продукты.
Ситуация в очередной раз напоминает о необходимости более тщательного контроля за алгоритмами, которые обучаются самостоятельно. Иначе жертвой искусственного интеллекта может стать любой, а грань между виртуальными "шутками" и реальной опасностью становится все тоньше.
