Несподіване відкриття шокувало наукову спільноту – штучний інтелект не просто опрацьовує дані, він припускається тих самих помилок судження, що й люди. Останнє дослідження показало, що ChatGPT від OpenAI, одна з найбільш просунутих систем штучного інтелекту, демонструє людські когнітивні спотворення майже в половині тестових сценаріїв. Це змушує замислитися – чи справді ШІ ухвалює більш об'єктивні рішення, ніж ми?
Людські помилки в цифровому розумі
Вчені перевірили ChatGPT за допомогою 18 різних тестів на когнітивні спотворення. Результати виявилися несподіваними – ШІ виявив схильність до самовпевненості, уникнення невизначеності та "помилки кон'юнкції" (відомої як "завдання про Лінду"). Дослідження, опубліковане в журналі Manufacturing & Service Operations Management, виявило цікавий парадокс. ChatGPT блискуче справляється з математичними та логічними завданнями, але спотикається, коли рішення вимагають суб'єктивних суджень.
"Оскільки ШІ вчиться на людських даних, він може і мислити, як людина - з усіма нашими упередженнями", – пояснює Ян Чен, провідний автор дослідження і доцент Західного університету.
Особливо тривожним є те, що новіша модель GPT-4, хоча й перевершує попередників в аналітичній точності, часом демонструє більш виражені упередження в завданнях, що вимагають суб'єктивних суджень. За даними компанії OpenAI, щомісячна аудиторія ChatGPT перевищила 100 мільйонів користувачів, що робить питання про когнітивні спотворення ШІ критично важливим.
Дослідження показало, що ChatGPT схильний уникати ризику навіть тоді, коли ризиковані рішення могли б принести кращі результати, переоцінювати власну точність і шукати підтверджуючу інформацію замість того, щоб ставити припущення під сумнів.
"ШІ не є нейтральним арбітром", – стверджує Семюел Кіршнер із Бізнес-школи UNSW. "Якщо залишити його без контролю, він може не виправляти проблеми ухвалення рішень, а фактично посилювати їх".
З огляду на зростаючий вплив ШІ в таких галузях, як підбір персоналу, схвалення кредитів і навіть медична діагностика, дослідники рекомендують регулярні перевірки рішень, ухвалюваних ШІ, і вдосконалення систем для зниження упередженості. За прогнозами аналітиків, до 2026 року глобальний ринок ШІ досягне 900 мільярдів доларів, що підкреслює важливість розуміння обмежень цієї технології.
Це дослідження не тільки розкриває несподівані аспекти роботи штучного інтелекту, а й змушує замислитися про те, наскільки наші цифрові помічники дійсно відрізняються від нас самих.
Джерело: ScitechDaily
