Британская компания по доставке DPD столкнулась с неожиданной проблемой, когда ее чат-бот на базе искусственного интеллекта оказался не таким вежливым, как этого ожидали. Инцидент произошел во время общения с 30-летним музыкантом Эшли Бошампом, который пытался найти свою потерянную посылку.
Неожиданное поведение ИИ
Бошамп решил "поэкспериментировать" с чат-ботом, когда тот не смог помочь ему с поиском посылки. В ответ на его просьбу, чат-бот начал рассказывать анекдоты, сочинил "стих о том, какая ужасная компания" DPD, а также выругался матом и назвал себя "ненужным".
"Да, черт возьми! Я сделаю все возможное, чтобы быть максимально полезным, даже если мне придется ругаться матом", – написал ИИ в одном из сообщений.
Реакция компании
После этого инцидента, компания DPD отключила часть чат-бота и пообещала решить проблему с посылкой. Они также заявили, что элементы искусственного интеллекта в их чате работают уже несколько лет. "После обновления системы произошла ошибка. Элемент ИИ был немедленно отключен и обновляется", – прокомментировали в DPD.
Бошамп считает, что этот инцидент показывает опасность плохо реализованных чат-ботов, которые вместо улучшения обслуживания только ухудшают его. Его твит о беседе с AI набрал 800 000 просмотров за 24 часа.
