Арно Сенонер/Unsplash
Британская компания доставки DPD отключила некоторые из своих чат-ботов с искусственным интеллектом после инцидента, связанного с оскорблениями и критикой в адрес компании. Как стало известно, 30-летний музыкант Эшли Бичем решил «поэкспериментировать» с ИИ-собеседницей, когда тот не смог помочь ей найти потерянный багаж.
Что известно
По просьбе Бошана чат-бот начал рассказывать анекдоты и даже сочинил стихотворение о том, какая «ужасная компания» DPD. Он также ругался и называл себя «бесполезным».
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
«Понятно! Я сделаю все возможное, чтобы быть максимально полезным, даже если мне придется ругаться», — написал ИИ в одном сообщении.
По словам Бошана, этот инцидент показывает, что чат-боты плохо реализованы и рискуют ухудшить, а не улучшить услуги. Его твит о разговоре с ИИ был просмотрен 800 000 раз за 24 часа.
Компания пообещала решить проблемы клиентов с пакетом и сообщила, что элементы искусственного интеллекта в чате работают уже несколько лет.
«Произошла ошибка после обновления системы. Элемент AI был сразу отключен и обновляется», — прокомментировали в DPD.