Развитие искусственного интеллекта (ИИ) набирает бешеные обороты. С одной стороны, ИИ открывает невероятные перспективы для человечества. С другой – вызывает серьезное беспокойство из-за потенциальных рисков. Как обеспечить безопасное развитие ИИ? Нужно ли его ограничивать? Эти вопросы остро стоят перед мировым сообществом.
Секретный отчет для Белого дома об опасностях ИИ
Недавно журналисты TIME получили доступ к засекреченному отчету "Дорожная карта усиления безопасности ИИ", подготовленному для администрации президента США. В нем команда ведущих экспертов подробно проанализировала угрозы от искусственного интеллекта и предложила ряд беспрецедентных мер для их нейтрализации.
Две ключевые угрозы ИИ
Авторы отчета определили два основных риска от ИИ:
- Милитаризация ИИ – использование искусственного интеллекта для разработки сверхмощного оружия, способного уничтожить человечество.
- Потеря контроля над ИИ – ситуация, когда ИИ-системы выйдут из-под контроля человека и станут неуправляемыми и враждебными.
Оба риска усиливаются гонкой ИИ-компаний за создание всеобщего искусственного интеллекта (ИИ). Пытаясь опередить конкурентов, они часто пренебрегают вопросами безопасности.
Радикальные рекомендации экспертов
Чтобы обуздать угрозы ИИ, авторы отчета предлагают принять ряд беспрецедентных мер:
- Создать федеральное агентство по регулированию ИИ, которое будет ограничивать доступную вычислительную мощность для тренировки ИИ-моделей.
- Запретить под угрозой тюремного заключения публичное раскрытие деталей работы мощных ИИ-систем.
- Ввести жесткий контроль за производством и экспортом специализированных чипов для ИИ.
Цель этих шагов – сдержать и замедлить развитие искусственного интеллекта, чтобы минимизировать риски.
Открытый код и ИИ-гонки как факторы риска
Эксперты бьют тревогу из-за легкости обхода систем безопасности в открытых ИИ-моделях. Злоумышленники могут модифицировать их, отключив функции безопасности.
"Открытая модель ИИ, которая кажется безопасной, со временем может стать опасной, – предостерегает Эдуард Харрис, один из авторов отчета, – и тогда останется только пожинать горькие плоды".
Именно поэтому исследователи настаивают на запрете публичного раскрытия деталей работы мощных ИИ-систем.
Другим фактором риска является бешеная конкуренция ИИ-гигантов за создание ИИ. Ведь для победителя – это джекпот с астрономическими прибылями. Поэтому компании гонятся наперегонки, часто пренебрегая безопасностью.
"ИИ-компании не заинтересованы вкладывать в безопасность, которая не дает мгновенной экономической выгоды. Хотя некоторые делают это из чувства ответственности", – говорится в отчете.
Выводы
Итак, ведущие эксперты, которые готовили отчет для Белого дома, видят серьезные угрозы от неконтролируемого развития ИИ. Открытость кодов и бешеная конкуренция только усиливают эти риски.
Поэтому они призывают к радикальным мерам: созданию регуляторных органов, криминализации разглашения деталей ИИ, контролю за производством чипов и тому подобное.
Решится ли администрация США на такие беспрецедентные шаги – большой вопрос. Но одно несомненно: проблемы безопасности ИИ требуют немедленного решения на самом высоком уровне. Ведь на кону – будущее человечества.
