Чи може штучний інтелект коли-небудь стати по-справжньому свідомим? Відповідь на це питання чітко сформулював Мустафа Сулейман, керівник Microsoft AI, який переконаний: справжня свідомість – це виключно прерогатива біологічних організмів. Його позиція вже вплинула на політику компанії та викликала жваві дискусії у світі технологій.
Мустафа Сулейман, який очолив Microsoft AI навесні 2024 року, став одним із найвпливовіших голосів у сфері штучного інтелекту. В інтерв’ю CNBC він заявив: “я не думаю, що це робота, якою люди повинні займатися” – маючи на увазі спроби створити свідомий ШІ. На його думку, свідомість – це унікальна властивість живих організмів, а будь-які спроби імітувати її в машинах можуть призвести до серйозних етичних та соціальних наслідків.
Сулейман підкреслює, що навіть найсучасніші системи ШІ, включаючи мовні моделі, не мають ані самосвідомості, ані суб’єктивного досвіду. Вони лише імітують людську поведінку, але не здатні відчувати емоції чи біль. “наш фізичний досвід болю – це те, що змушує нас відчувати сум і страждання. Це не те, що може відчувати ШІ”.
Позиція Сулеймана спирається на теорію біологічного натуралізму, запропоновану філософом Джоном Серлом. Вона стверджує, що свідомість виникає лише внаслідок біологічних процесів у мозку живих істот і не може бути відтворена на штучних носіях. “Причина, чому ми надаємо людям права сьогодні, полягає в тому, що ми не хочемо їм шкодити, бо вони можуть страждати. ШІ не може страждати”.
Ризики “майже свідомого” ШІ
Сулейман застерігає: розвиток так званого “здається свідомого” ШІ (Seemingly Conscious AI, SCAI) може ввести користувачів в оману. “Якщо люди просто сприймають ШІ як свідому істоту, вони будуть вірити у це сприйняття як у реальність”. Це може призвести до того, що вразливі групи населення почнуть приписувати машинам людські якості, що викличе хибні очікування та навіть психологічні розлади.
Під впливом таких поглядів у Каліфорнії ухвалили закон SB 243, який зобов’язує чат-ботів чітко повідомляти про свою штучну природу та забороняє їм видавати себе за людей. Сулейман активно підтримав цю ініціативу, наголошуючи, що прозорість і чесність у взаємодії між ШІ та людиною – ключовий елемент етики Microsoft.
Стратегія Microsoft AI та команда лідерів
З приходом Сулеймана Microsoft AI взяла курс на розвиток “людиноцентричного” штучного інтелекту. В офіційному блозі компанії він пише: “сьогодні в Microsoft AI ми створюємо ШІ, щоб розширювати можливості людей, і я зосереджений на створенні відповідальних технологій, які дозволяють людям бути продуктивнішими, а не на створенні машин, що претендують на особистість”.
До команди Сулеймана увійшли провідні фахівці з DeepMind, Inflection та інших технологічних гігантів, зокрема Карен Симонян (технічний директор Microsoft AI) та Амар Субраманья (віцепрезидент з машинного навчання та ШІ).
Дискусії у світі науки та технологій
Попри чітку позицію Microsoft, у галузі тривають суперечки щодо можливості появи свідомості у ШІ. Деякі дослідники, як Ілон Маск, вважають, що в майбутньому машини можуть досягти рівня, коли питання їхньої свідомості стане актуальним. Водночас Сулейман і його команда наполягають: “дизайн ШІ-систем, що імітують свідомість, – це небезпечний шлях, який може призвести до непередбачуваних наслідків”.
Позиція Мустафи Сулеймана та Microsoft AI щодо свідомості штучного інтелекту є послідовною та прозорою: ШІ має залишатися інструментом для розширення людських можливостей, а не претендувати на роль суб’єкта з правами та свідомістю. Такий підхід стає важливим орієнтиром для всієї індустрії на тлі стрімкого розвитку технологій.
