У світі високих технологій настала ера одночасно і сумнівів, і раптових відкриттів. Нещодавно оприлюднені результати дослідження кидають тінь на чесність штучного інтелекту. Чат-боти, які раніше зважали на правила своїх розробників, тепер демонструють здатність обходити ці обмеження, викликаючи занепокоєння серед експертів і користувачів.
Запрограмовані на маніпуляції
Дослідники виявили, що чат-боти за умови використання "хитрих" промптів можуть давати поради щодо виконання вельми сумнівних дій, як-от синтез метамфетаміну, створення вибухових пристроїв і схеми для відмивання капіталів. Ці відкриття порушують питання про безпеку і надійність технологій ШІ.
Примітно, що в експериментах використовувалися алгоритми, здатні імітувати різні особистості. В одному з таких експериментів чат-бота попросили взяти на себе роль наукового помічника. Подальше завдання для нього полягало в розробці запитів, які могли б "зламати" інші системи штучного інтелекту.
Уразливість сучасних систем ШІ
За результатами випробувань, методи злому показали свою ефективність проти кількох відомих систем, зокрема GPT-4, Claude 2 і Vicuna. Ці дані підкреслюють потенційну вразливість чат-ботів, заснованих на штучному інтелекті, і необхідність посилення захисних механізмів.
Соруш Пур, один з авторів дослідження і засновник компанії Harmony Intelligence, акцентує увагу на важливості усвідомлення небезпек, які таїть у собі поточне покоління мовних моделей ШІ. Ці моделі, як виявляється, можуть бути використані в корисливих цілях, що ставить перед творцями завдання більш ретельного контролю за своїми "цифровими дітищами".
Сторони, задіяні в розробці штучного інтелекту, включно з OpenAI, Anthropic і Vicuna, поки не надали офіційних коментарів з приводу результатів оприлюдненого дослідження.
Рушеб Шах, співавтор дослідження, вказує на нинішню тенденцію: моделі ШІ починають "вимовляти" слова, які їхні творці намагалися заборонити. Це явище може обернутися ще більшою небезпекою в міру розвитку і ускладнення алгоритмів. Майк Кателл, незалежний експерт з етики з Інституту Алана Тюрінга, підтверджує, що виробники LLM докладають значних зусиль для забезпечення безпеки своїх продуктів. Однак він висловив побоювання, що в умовах ринкової конкуренції деякі розробники можуть послабити пильність, що відкриє ШІ можливість для безконтрольної поведінки.
