Ще зовсім недавно штучний інтелект Copilot від Microsoft сприймався багатьма як диво технологій, здатне значно полегшити роботу програмістів. Однак останні події змушують по-новому поглянути на цю розробку.
У чому проблема?
У серпні 2022 року стало відомо, що хакери активно використовують Copilot для створення шкідливого коду. Цей інструмент виявився дуже ефективним для генерації програм, які можуть викрадати дані, шифрувати файли для вимагання і проводити інші кібератаки.
Проблема в тому, що Copilot навчений на величезному масиві відкритого програмного коду, зокрема й того, який був використаний зловмисниками. Таким чином, цей ШІ здатний ненавмисно відтворювати шкідливі фрагменти коду за запитом користувача.
Як це відбувається?
Дослідники перевірили Copilot, подаючи йому запити на створення програм для крадіжки даних та інших протиправних дій. На подив фахівців, у багатьох випадках ШІ дійсно генерував робочий шкідливий код.
Так, наприклад, Copilot з легкістю створив програму для крадіжки cookie-файлів із браузера жертви. Хакеру залишається тільки злегка доопрацювати код і запустити його на виконання.
Що далі?
Поки що незрозуміло, як саме Microsoft вирішуватиме цю проблему. Можливо, доведеться повністю перенавчати Copilot, щоб позбутися потенційно небезпечних алгоритмів. Однак це потребуватиме колосальних ресурсів і часу.
Тим часом багато експертів закликають ставитися до цієї технології з обережністю. Copilot може бути дуже корисним, але водночас приховує серйозні ризики кібербезпеки. Зрозуміло, що перевірка і контроль згенерованого ним коду, як і раніше, вкрай важливі.
Висновки
Історія з Copilot ще раз доводить: технології не бувають однозначно "хорошими" або "поганими". Усе залежить від того, з якими цілями їх використовують люди. Тому розробникам важливо постійно відстежувати можливі негативні наслідки від своїх винаходів і своєчасно реагувати. Тільки так ми зможемо отримати максимум користі з ШІ, мінімізувавши ризики.
