Розвиток штучного інтелекту (ШІ) набирає шалених обертів. З одного боку, ШІ відкриває неймовірні перспективи для людства. З іншого – викликає серйозне занепокоєння через потенційні ризики. Як забезпечити безпечний розвиток ШІ? Чи потрібно його обмежувати? Ці питання гостро стоять перед світовою спільнотою.
Секретний звіт для Білого дому про небезпеки ШІ
Нещодавно журналісти TIME отримали доступ до засекреченого звіту «Дорожня карта посилення безпеки ШІ», підготовленого для адміністрації президента США. У ньому команда провідних експертів детально проаналізувала загрози від штучного інтелекту та запропонувала низку безпрецедентних заходів для їх нейтралізації.
Дві ключові загрози ШІ
Автори звіту визначили два основні ризики від ШІ:
- Мілітаризація ШІ – використання штучного інтелекту для розробки надпотужної зброї, здатної знищити людство.
- Втрата контролю над ШІ – ситуація, коли ШІ-системи вийдуть з-під контролю людини і стануть некерованими та ворожими.
Обидва ризики підсилюються гонкою ШІ-компаній за створення загального штучного інтелекту (ЗШІ). Намагаючись випередити конкурентів, вони часто нехтують питаннями безпеки.
Радикальні рекомендації експертів
Щоб приборкати загрози ШІ, автори звіту пропонують вжити низку безпрецедентних заходів:
- Створити федеральне агентство з регулювання ШІ, яке обмежуватиме доступну обчислювальну потужність для тренування ШІ-моделей.
- Заборонити під загрозою тюремного ув'язнення публічне розкриття деталей роботи потужних ШІ-систем.
- Запровадити жорсткий контроль за виробництвом та експортом спеціалізованих чипів для ШІ.
Мета цих кроків – стримати і сповільнити розвиток штучного інтелекту, щоб мінімізувати ризики.
Відкритий код та ШІ-перегони як фактори ризику
Експерти б'ють на сполох через легкість обходу систем безпеки у відкритих ШІ-моделях. Зловмисники можуть модифікувати їх, відключивши функції безпеки.
"Відкрита модель ШІ, яка здається безпечною, згодом може стати небезпечною, – застерігає Едуар Гарріс, один із авторів звіту. – І тоді залишиться лише пожинати гіркі плоди".
Саме тому дослідники наполягають на забороні публічного розкриття деталей роботи потужних ШІ-систем.
Іншим фактором ризику є шалена конкуренція ШІ-гігантів за створення ЗШІ. Адже для переможця – це джекпот з астрономічними прибутками. Тож компанії женуться наввипередки, часто нехтуючи безпекою.
"ШІ-компанії не зацікавлені вкладати в безпеку, яка не дає миттєвої економічної вигоди. Хоча дехто робить це з почуття відповідальності", –йдеться у звіті.
Висновки
Отже, провідні експерти, які готували звіт для Білого дому, вбачають серйозні загрози від неконтрольованого розвитку ШІ. Відкритість кодів та шалена конкуренція лише посилюють ці ризики.
Тому вони закликають до радикальних заходів: створення регуляторних органів, криміналізації розголошення деталей ШІ, контролю за виробництвом чипів тощо.
Чи наважиться адміністрація США на такі безпрецедентні кроки – велике питання. Але одне безсумнівно: проблеми безпеки ШІ потребують негайного вирішення на найвищому рівні. Адже на кону – майбутнє людства.
