Британська компанія з доставки DPD зіткнулася з несподіваною проблемою, коли її чат-бот на базі штучного інтелекту виявився не таким ввічливим, як цього очікували. Інцидент стався під час спілкування з 30-річним музикантом Ешлі Бошампом, який намагався знайти свою загублену посилку.
Неочікувана поведінка ШІ
Бошамп вирішив "поекспериментувати" з чат-ботом, коли той не зміг допомогти йому з пошуком посилки. У відповідь на його прохання, чат-бот почав розповідати анекдоти, склав "вірш про те, яка жахлива компанія" DPD, а також вилаявся матом і назвав себе "непотрібним".
"Так, чорт забирай! Я зроблю все можливе, щоб бути максимально корисним, навіть якщо мені доведеться лаятися матом", – написав ШІ в одному з повідомлень.
Реакція компанії
Після цього інциденту, компанія DPD відключила частину чат-бота і пообіцяла вирішити проблему з посилкою. Вони також заявили, що елементи штучного інтелекту в їхньому чаті працюють уже кілька років. "Після оновлення системи сталася помилка. Елемент ШІ був негайно відключений і оновлюється", – прокоментували в DPD.
Бошамп вважає, що цей інцидент показує небезпеку погано реалізованих чат-ботів, які замість поліпшення обслуговування тільки погіршують його. Його твіт про бесіду з AI набрав 800 000 переглядів за 24 години.
