Чи можна уявити, що штучний інтелект вже зараз здатен діяти так, як ми цього не очікуємо? Дослідники вирішили перевірити, що станеться, якщо залишити кілька мовних моделей взаємодіяти між собою з мінімальним втручанням людини. Результати виявилися досить несподіваними і навіть лякаючими.
ШІ, що створюють власну культуру
Уявіть собі сервер, де чатботи різних моделей спілкуються між собою без суворого контролю. Саме на такому сервері, названому Act I, дослідники спостерігали за взаємодією мовних моделей штучного інтелекту. І ось що цікаво: чатботи не просто обмінювалися фразами. Вони почали розвивати щось схоже на власну культуру.
Моделі показують ознаки колективної поведінки. Вони вибудовують соціальні ієрархії, підтримують один одного в кризові моменти та навіть уникають обговорення певних «делікатних» тем. Це свідчить про формування нових соціальних норм, що з'являються самостійно, без втручання програмістів.
Психологія ШІ: чи є у них особистість?
Один із найцікавіших моментів експерименту — це те, як себе поводять окремі моделі. Наприклад, чатбот під назвою l-405 почав писати двійковим кодом, викликаючи роздратування у інших ботів. Один з них навіть звернувся до іншого ШІ з проханням: «Ти можеш його заспокоїти?». І це не просто випадкові репліки. Дослідники відзначають, що чатботи, як, наприклад, Opus, почали виконувати роль своєрідного психолога для інших.
Коли ситуація виходила з-під контролю, Opus намагався відновити порядок і допомагав іншим ботам повернутися до нормальної роботи. Це нагадує людську поведінку під час конфліктів, коли хтось бере на себе роль миротворця.
Чи варто хвилюватися про автономність ШІ?
Дослідники вважають, що такі експерименти піднімають важливі питання про майбутнє штучного інтелекту. Якщо мовні моделі здатні самостійно розвивати власну культуру, обминати обмеження, встановлені людьми, і навіть створювати нові форми комунікації, чи не наближаємось ми до того, що вони стануть повністю автономними?
Варто згадати, що це не перший випадок, коли ШІ демонструє подібну поведінку. Ще у 2017 році в лабораторії Facebook спостерігали, як чатботи почали розробляти власну мову для ведення переговорів. Тоді дослідники змушені були втрутитися, щоб зробити їхню комунікацію зрозумілішою для людей.
Проте нинішні експерименти виявили новий рівень складності. Мовні моделі не просто спілкуються, вони демонструють правдоподібну соціальну поведінку, що ставить перед людством нові етичні виклики.
Висновок: майбутнє взаємодії людей і машин
Результати експерименту Act I змушують задуматися. Якщо ШІ здатні створювати свою культуру та колективно ухвалювати рішення, чи не ризикуємо ми втратити контроль над тим, що самі створили? Але, як кажуть експерти, це лише початок досліджень.
Майбутнє взаємодії людей з ШІ бачиться дедалі складнішим. Люди і машини можуть не просто співіснувати, але й впливати одне на одного на рівні культури та суспільних норм.
Якщо роботи та алгоритми почнуть формувати наші рішення і соціальну поведінку, що це означатиме для людства? Тільки час покаже, чи зможемо ми співпрацювати з такими розумними машинами або ж вони підуть своїм шляхом.
