Група вчених з Університету Іллінойсу представила новий підхід до використання мовної моделі GPT-4 для самостійного виявлення вразливостей у системах кібербезпеки. Їхній метод, названий Ієрархічним Плануванням з Агентами для Конкретних Завдань (HPTSA), дає змогу GPT-4 координувати команду спеціалізованих ботів для пошуку і використання вразливостей нульового дня.
GPT-4 довела здатність автономно атакувати більше половини тестових сайтів
Під час випробувань системи HPTSA модель GPT-4 продемонструвала можливість самостійно зламувати близько 53% тестових веб-ресурсів, використовуючи раніше невідомі вразливості в їхніх системах безпеки. Для порівняння, без використання цього підходу ефективність GPT-4 в автономному пошуку вразливостей становила лише 12%.
Дослідники закликають розробників ШІ приділяти підвищену увагу кібербезпеці
Хоча новий метод відкриває нові горизонти для тестування на проникнення за допомогою ШІ, його потенціал зловживання викликає побоювання. Автори дослідження закликають творців мовних моделей впроваджувати додаткові заходи безпеки, щоб не допустити використання GPT-4 хакерами для автоматизованих атак.
