Искусственный интеллект, который распространяет фейки через iPhone – это кажется невероятным? Однако именно это заставило технологического гиганта Apple приостановить работу одной из своих новейших функций. Серия критических ошибок в работе ИИ-алгоритма, который должен был упростить жизнь пользователям, зато создала волну дезинформации и возмущения среди ведущих мировых медиа.
Роковые ошибки и дезинформация
Функция, запущенная в декабре 2024 года в Великобритании, должна была автоматически генерировать и группировать уведомления о новостях. Вместо этого она превратилась в источник серьезных проблем. Вот наиболее вопиющие случаи некорректной работы системы:
- Ошибочное сообщение о самоубийстве Луиджи Манджоне, подозреваемого в убийстве генерального директора UnitedHealthcare;
- Неправильное обобщение заголовков от Sky News и The New York Times;
- Искажение содержания новостей The Washington Post и других авторитетных изданий.
Реакция медиасообщества
Ведущие мировые СМИ не остались в стороне от проблемы. BBC первой забила тревогу еще в декабре 2024 года. Медиакомпании выразили серьезное беспокойство относительно:
- Распространения недостоверной информации через платформу Apple;
- Снижение доверия к традиционным СМИ из-за ложных AI-сгенерированных заголовков;
- Отсутствия надлежащего контроля за работой искусственного интеллекта.
Технологическое отступление
Apple изначально планировала ограничиться косметическими изменениями, добавив лишь обозначение об использовании ИИ в генерации уведомлений. Однако давление медиасообщества и масштаб проблемы заставили компанию пойти на беспрецедентный шаг. Теперь функция полностью отключена для новостных и развлекательных приложений в последних бета-версиях iOS 18.3, iPadOS 18.3 и macOS Sequoia 15.3.
Этот случай ярко демонстрирует, что даже самые мощные технологические компании не застрахованы от ошибок в работе с искусственным интеллектом. Ситуация также подчеркивает важность человеческого фактора в создании и проверке новостного контента.
