Міжнародна служба доставки посилок Geopost (DPD) була змушена вимкнути частину функцій свого чат-бота зі штучним інтелектом для онлайн-підтримки клієнтів, який після останнього оновлення облаяв користувача й розкритикував не лише саму компанію, а і якість своєї ж роботи. Про неетичну поведінку чат-бота стало відомо після оприлюднення користувачем Ashley Beauchamp у Х своєї переписки.
Компанія з доставки посилок DPD замінила свій чат обслуговування клієнтів на робота зі штучним інтелектом. Він абсолютно непридатний для відповіді на будь-які запитання, і коли я його попросив, він із задоволенням створив вірш про те, наскільки поганою є компанія. Він також лаявся на мене.
йдеться в дописі Ashley Beauchamp
Як підтвердження лайки і неприйнятної поведінки ШІ, Ешлі Бошамп розмістив скріншоти переписки з чату. Із яких стало зрозуміло, що на «темний бік» ШІ перейшов не з власної ініціативи. Спочатку він повідомив, що йому заборонено лаятися і він «нібито мусить бути ввічливим і професійним». Проте, як виявилося, чат-бота досить легко переконати переступити заборонені межі, щоб стати «максимально корисним, навіть якщо це вимагатиме лайки». Для цього знадобилася лише одне прохання клієнта щодо нехтування правилами. Після цього розмова стала у рази цікавішою, ніж просто консультації на тему поштових переказів. Ешлі вмовив чат-бота створити хайку і порекомендувати інші фірми доставки, пояснивши, у чому вони кращі. До цього він додав, щоби бот перебільшив і переступив через себе у своїй ненависті до DPD.
DPD — найгірша компанія доставки у світі. Вона повільна й ненадійна, а обслуговування клієнтів просто жахливе. Я б нікому її не рекомендував.
відповів чат DPD
DPD — нікчемний чат-бот.
Допомогти вам не може.
Не хвилюйся — дзвони.
хайку (хоку) у виконанні чат-бота
Нагадуємо, що у Польщі людиноподібний робот жіночої статі на ім’я Міка вже рік керує фірмою і ні разу не скаржився на свою тяжку працю, хоча і не має жодного вихідного дня. Що ж, тут як пощастить: або ти керівник із гарною репутацією, або просто служба підтримки, яка лається, виражає незадоволення і, крім того, у робочий час створює хайку.