Нещодавно 18 країн, включаючи США, Велику Британію, Німеччину, Італію та Чехію, підписали 20-сторінкову угоду стосовно захисту технологій штучного інтелекту. Мета документа – закликати IT-компанії розробляти безпечні системи ШІ, аби уникнути їх використання зі шкідливими намірами.
Основні положення угоди
Згідно з угодою, компанії мають проєктувати та впроваджувати системи штучного інтелекту так, щоб захистити клієнтів та громадськість від зловживань. Крім того, системи ШІ повинні бути "безпечними за своєю архітектурою". Хоч угода не є обов'язковою, вона містить загальні рекомендації щодо моніторингу ШІ на предмет зловживань, захисту даних від фальсифікації та перевірки постачальників програмного забезпечення.
У документі йдеться про те, як убезпечити ШІ від зламів хакерами. Також наведено рекомендації щодо тестування безпеки моделей перед їх випуском. Втім, угода не торкається відкритих питань належного застосування штучного інтелекту чи збору даних для навчання моделей.
Причини укладення угоди
Останнім часом зростання популярності технологій ШІ викликало чимало занепокоєнь. Йдеться про ризики використання ШІ для підриву демократії, шахрайства, а також про можливе масове безробіття. Саме тому країни вирішили узгодити спільні рекомендації для IT-компаній.
Щодо регулювання штучного інтелекту, то Європа випереджає США. Франція, Німеччина та Італія вже працюють над відповідними законами. Натомість у США питання регулювання ШІ залишається відкритим через відсутність консенсусу в Конгресі.
Отже, хоч і недосконала, ця багатостороння угода є важливим першим кроком у напрямку створення міжнародних стандартів безпечного застосування технологій штучного інтелекту.
