Недавно появился простой способ временно вывести из строя ChatGPT – популярного чат-бота на основе искусственного интеллекта от компании OpenAI. Эту неожиданную уязвимость случайно обнаружил пользователь Twitter. Оказывается, ChatGPT "зависает", если показать ему изображение "цифрового шума" – вертикальные полосы на черном фоне.
После просмотра такой картинки чат-бот начинает выдавать одну и ту же ошибку на все запросы, пока его не перезагрузить. Это позволяет временно заблокировать работу ChatGPT всего в несколько кликов.
Цифровой шум – ахиллесова пята ChatGPT
Как выяснилось, причиной "зависания" является неспособность искусственного интеллекта обработать изображение со случайным цифровым шумом. Именно такая картинка и стала "кнопкой выключения" для чат-бота.
Нейросеть ChatGPT анализирует введенные данные в поисках смысла и связей. Однако изображение шума не содержит никакой полезной информации, и это, очевидно, приводит к сбою в работе алгоритмов искусственного интеллекта.
Стоит ли волноваться из-за этой уязвимости ChatGPT?
Хотя найденная уязвимость и позволяет легко "взломать" ChatGPT, пока нет никаких свидетельств того, что ее можно использовать для получения несанкционированного доступа к системе или для других злонамеренных целей.
Skynet еще немного подождет
Итак, пока нет основания для паники и прекращения использования чат-бота из-за проблем с безопасностью. Скорее всего, команда OpenAI уже работает над исправлением этой неожиданной уязвимости в моделях искусственного интеллекта ChatGPT. А пока что найденный метод позволяет разыграть друзей, временно "зависнув" разговорного бота.
