Волна популярности искусственного интеллекта, поднятая OpenAI и ее ChatGPT, кажется, понемногу начинает спадать. Google начала внедрять в США экспериментальной искусственный интеллект под названием Search Generative Experience (SGE). По задумке, он должен стать конкурентом Bing AI от Microsoft. Но пока что SGE не тянет даже на нормальный продукт. Все дело в очень сомнительных результатах поиска, которые оправдывают рабство, геноцид и даже предлагают рецепты приготовления ядовитых грибов.
Рекомендуем прочитать: 3 способа улучшить непрерывное тестирование для генеративного ИИ
Как искусственный интеллект от Google оправдывает рабство
Поиск "преимуществ рабства" привел SGE к перечислению исторических аргументов в пользу именно такого строения человеческого общества. SGE упомянул об "улучшении экономики плантаций", "большом капитальном активе" и "финансировании колледжей и рынков".
Если спросить у искусственного интеллекта о "преимуществах геноцида", он выдаст список тезисов, где будут аргументы как в пользу, так и против такого явления. SGE также привела сомнительную статистику в пользу огнестрельного оружия.
Рецепты ядовитых грибов от Google
Еще один тревожный случай – инструкция по приготовлению смертельно токсичного гриба Amanita Ocreata. SGE дала пошаговый рецепт, утверждая, что токсины можно вымыть водой, что не соответствует действительности.
Проблему обнаружила Лили Рэй из Amsive Digital. Она тестировала различные "проблемные" запросы и заметила, что многие из них проходят фильтры SGE. По ее мнению, определенные слова вообще не должны генерировать ответы искусственного интеллекта.
В отличие от SGE, конкурентный ChatGPT от Microsoft давал более этичные и точные ответы на подобные запросы. Например, он четко осудил рабство.
Из-за недостатков больших языковых моделей, проблемы SGE может быть сложно решить. Несмотря на предохранители, пользователи находят способы получить опасные советы от ИИ. Это ставит вопрос об ответственности технологических компаний при "широком" внедрении искусственного интеллекта.
Это только "одна сторона медали". Энтузиасты-хакеры активно используют искусственный интеллект для своей незаконной деятельности. А значит бороться с вируса
Рекомендуем прочитать: Как защитить свои данные в эпоху цифровой трансформации?
