Хвиля популярності штучного інтелекту, піднята OpenAI та її ChatGPT, здається, потроху починає спадати. Google почала впроваджувати в США експериментальній штучний інтелект під назвою Search Generative Experience (SGE). За задумкою, він повинен стати конкурентом Bing AI від Microsoft. Але поки що SGE не тягне навіть на нормальний продукт. Вся справа в дуже сумнівних результатах пошуку, які виправдовують рабство, геноцид та навіть пропонують рецепти приготування отруйних грибів.
Рекомендуємо прочитати: Нью-Йорк не хоче TikTok
Як штучний інтелект від Google виправдовує рабство
Пошук "переваг рабства" привів SGE до перерахування історичних аргументів на користь саме такої будови людського суспільства. SGE згадав про «покращення економіки плантацій», «великий капітальний актив» та «фінансування коледжів і ринків».
Якщо спитати в штучного інтелекту про «переваги геноциду», він видасть список тез, де будуть аргументи як на користь, так і проти такого явища. SGE також навела сумнівну статистику на користь вогнепальної зброї.
Рецепти отруйних грибів від Google
Ще один тривожний випадок – інструкція з приготування смертельно токсичного гриба Amanita Ocreata. SGE дала покроковий рецепт, стверджуючи, що токсини можна вимити водою, що не відповідає дійсності.
Проблему виявила Лілі Рей з Amsive Digital. Вона тестувала різні "проблемні" запити і помітила, що багато з них проходять фільтри SGE. На її думку, певні слова взагалі не повинні генерувати відповіді штучного інтелекту.
На відміну від SGE, конкурентний ChatGPT від Microsoft давав етичніші та точніші відповіді на подібні запити. Наприклад, він чітко засудив рабство.
Через вади великих мовних моделей, проблеми SGE може бути складно вирішити. Незважаючи на запобіжники, користувачі знаходять способи отримати небезпечні поради від ШІ. Це ставить питання про відповідальність технологічних компаній при «широкому» впровадженні штучного інтелекту.
Це тільки «один бік медалі». Ентузіасти-хакери активно пристовують штучний інтелект для своєї незаконної діяльності. А відтак боротися з вірусами та хакерськими атаками стає дедалі все важче.
Рекомендуємо прочитати: Google Search 3.0: пошукова система оновлюється за допомогою ШІ
