Нещодавно з'явився простий спосіб тимчасово вивести з ладу ChatGPT - популярного чат-бота на основі штучного інтелекту від компанії OpenAI. Цю несподівану вразливість випадково виявив користувач Twitter. Виявляється, ChatGPT "зависає", якщо показати йому зображення «цифрового шуму» – вертикальні смуги на чорному тлі.
Після перегляду такої картинки чат-бот починає видавати одну й ту ж помилку на всі запити, поки його не перезавантажити. Це дає змогу тимчасово заблокувати роботу ChatGPT всього за кілька кліків.
Цифровий шум – ахіллесова п'ята ChatGPT
Як з'ясувалося, причиною "зависання" є нездатність штучного інтелекту обробити зображення з випадковим цифровим шумом. Саме така картинка і стала "кнопкою вимикання" для чат-бота.
Нейромережа ChatGPT аналізує введені дані в пошуках змісту і зв'язків. Проте зображення шуму не містить жодної корисної інформації, і це, вочевидь, призводить до збою в роботі алгоритмів штучного інтелекту.
Чи варто хвилюватися через цю вразливість ChatGPT?
Хоча знайдена вразливість і дозволяє легко «підважити» ChatGPT, поки немає жодних свідчень того, що її можна використати для отримання несанкціонованого доступу до системи або для інших зловмисних цілей.
Skynet ще трохи зачекає
Отже, поки немає підстави для паніки і припинення використання чат-бота через проблеми з безпекою. Швидше за все, команда OpenAI вже працює над виправленням цієї несподіваної вразливості в моделях штучного інтелекту ChatGPT. А поки що знайдений метод дає змогу розіграти друзів, тимчасово "зависнув" розмовного бота.
