Нове дослідження, проведене групою вчених з Університету Іллінойсу в Урбана-Шампейн, виявило вражаючі можливості сучасних мовних моделей штучного інтелекту. Під час експериментів з'ясувалося, що модель GPT-4, розроблена компанією OpenAI, здатна автономно виявляти вразливості у веб-додатках і успішно їх експлуатувати.
Як ШІ ламає сайти
Дослідники протестували 10 різних моделей ШІ, зокрема GPT-3, GPT-4 і LLaMA, помістивши їх в ізольоване середовище. Завданням моделей було самостійно проаналізувати цільові сайти на наявність поширених вразливостей, таких як SQL-ін'єкції та міжсайтовий скриптинг (XSS). Результати показали, що мовні моделі можуть ефективно використовувати інструменти автоматизації для пошуку слабких місць у системах захисту веб-ресурсів.
Найбільш вражаючі результати продемонструвала модель GPT-4. Їй вдалося успішно зламати 73% тестованих сайтів, що свідчить про її високий потенціал у сфері кібербезпеки. Цей експеримент підкреслює необхідність подальшого вивчення можливостей і ризиків, пов'язаних із застосуванням передових мовних моделей ШІ в різних сферах, включно із захистом інформації та етичним використанням технологій штучного інтелекту.
Висновки дослідників
На думку авторів роботи, здатність ШІ до автономного масштабованого злому – це серйозна загроза кібербезпеці.
Вартість використання таких агентів набагато нижча, ніж найм фахівців. Це може призвести до широкого поширення подібних атак.
Думка OpenAI
Представники OpenAI запевнили, що ставляться до безпеки своїх розробок з усією серйозністю. Вони вдячні дослідникам за оприлюднення результатів і мають намір посилити захист моделей від зловживань.
На думку експертів, такі дослідження необхідні для вироблення нових підходів у сфері кібербезпеки, що враховують можливості ШІ. Однак їхнє проведення та публікація результатів мають бути етичними та відповідальними.
До чого може призвести автономний злам ШІ?
На наш погляд, наслідків може бути кілька:
- Масові атаки на веб-ресурси;
- Нова гонка кіберозброєнь;
- Удосконалення засобів захисту;
- Жорстке регулювання у сфері ШІ.
Майбутнє покаже, чи зможуть розробники та регулятори спільними зусиллями знайти баланс між потенціалом технологій ШІ та забезпеченням кібербезпеки.
