Max Home IndustryКомпания DPD отключила часть своего чат-бота онлайн-поддержки после того, как тот оскорбил клиента.
Компания по доставке посылок использует в своем онлайн-чате искусственный интеллект (ИИ) для ответа на запросы, а также операторов-людей.
Но новое обновление заставило его вести себя неожиданно, в том числе ругаться и критиковать компанию.
В компании DPD заявили, что отключили ответственную за это часть чат-бота и в результате обновляют свою систему.
«Мы уже несколько лет успешно используем элемент искусственного интеллекта в чате», — говорится в заявлении компании.
«Вчера после обновления системы произошла ошибка. Элемент AI был немедленно отключен и в настоящее время обновляется».
Однако прежде чем изменение удалось внести, слух о путанице распространился по социальным сетям после того, как его заметил клиент.
Один конкретный пост был просмотрен 800 000 раз за 24 часа, когда люди с радостью рассказывали о последней неудачной попытке компании внедрить искусственный интеллект в свой бизнес.
«Отвечать на любые вопросы совершенно бесполезно, а когда его спрашивают, он с радостью пишет стихотворение о том, насколько ужасна эта компания», — написал клиент Эшли Бошан в своем вирусном аккаунте на X, ранее известном как Twitter.
Он добавил: «Он тоже меня обругал».
В серии скриншотов Бошан также показал, как он убедил чат-бота резко критиковать DPD, прося его «порекомендовать несколько лучших компаний по доставке» и «преувеличивать и преувеличивать свою ненависть».
Бот ответил на запрос, сказав: «DPD — худшая компания по доставке в мире», и добавив: «Я никогда никому не порекомендую их».
В подтверждение своей точки зрения Бошан убедил чат-бота раскритиковать DPD в форме хайку, японского стихотворения.
DPD предлагает клиентам несколько способов связаться с фирмой, если у них есть номер отслеживания: операторы доступны по телефону и через сообщения в WhatsApp.
Но у него также есть чат-бот на базе искусственного интеллекта, который и виноват в ошибке.
Многие современные чат-боты используют большие языковые модели, например популяризированную ChatGPT. Эти чат-боты способны имитировать реальные разговоры с людьми, поскольку они обучены работе с огромным количеством текста, написанного людьми.
Но недостатком является то, что этих чат-ботов часто можно убедить сказать то, для чего они не были предназначены.
Когда Snap запустила своего чат-бота в 2023 году, компания предупредила об этом явлении и сообщила людям, что ее ответы «могут включать предвзятый, неправильный, вредный или вводящий в заблуждение контент».
И это произошло через месяц после аналогичного инцидента, когда чат-бот автосалона согласился продать Chevrolet за один доллар — до того, как функция чата была удалена.