Группа ученых из Университета Иллинойса представила новый подход к использованию языковой модели GPT-4 для самостоятельного обнаружения уязвимостей в системах кибербезопасности. Их метод, названный Иерархическим Планированием с Агентами для Конкретных Задач (HPTSA), позволяет GPT-4 координировать команду специализированных ботов для поиска и использования уязвимостей нулевого дня.
GPT-4 доказала способность автономно атаковать более половины тестовых сайтов
В ходе испытаний системы HPTSA модель GPT-4 продемонстрировала возможность самостоятельно взламывать около 53% тестовых веб-ресурсов, используя ранее неизвестные уязвимости в их системах безопасности. Для сравнения, без использования данного подхода эффективность GPT-4 в автономном поиске уязвимостей составляла лишь 12%.
Исследователи призывают разработчиков ИИ уделять повышенное внимание кибербезопасности
Хотя новый метод открывает новые горизонты для тестирования на проникновение с помощью ИИ, его потенциал злоупотребления вызывает опасения. Авторы исследования призывают создателей языковых моделей внедрять дополнительные меры безопасности, чтобы не допустить использования GPT-4 хакерами для автоматизированных атак.
