Woolworths была вынуждена внести изменения в своего виртуального помощника на базе искусственного интеллекта после того, как клиенты сообщили о странных попытках «пошутить» со стороны чат-бота, включая упоминание его «мамы», которая говорила «сердитым голосом».
На этой неделе Woolworths сообщила инвесторам, что планирует сотрудничать с AI и Google, чтобы превратить виртуального помощника Olive в «ведущего на рынке собеседника для покупок» с целью запуска усовершенствованного чат-бота во второй половине этого финансового года.
Однако тестирование, проведенное этим заголовком, показало, что текущая версия Olive предоставляет ответы о распространенных продуктах, таких как консервированные помидоры, в отличие от веб-сайта, в то время как некоторые пользователи сообщали о необычных комментариях из инструмента, предназначенного для предоставления ответов на основные вопросы о покупках.
В кратком тесте, проведенном в этом шапке, Олив сообщила пользователю, что 400-граммовая банка очищенных помидоров La Gina стоит 1,40 доллара, а 800-граммовая банка нарезанных кубиками помидоров Annalisa стоит 2,20 доллара. Фактически, веб-сайт Woolworths рекламирует продукцию La Gina за 1,70 доллара, а продукцию Annalisa — за 2,70 доллара. Олив правильно определила цену на коробку нарезанных кубиками помидоров собственного бренда Woolworths весом 400 г — 1,30 доллара.
Woolworths подтвердила, что изучает этот вопрос, который возникает на фоне более широких дебатов о роли ИИ в будущем работы и рабочих мест на финансовых рынках. На странице Olive указано, что «Olive работает на базе искусственного интеллекта и может допускать ошибки. Всегда проверяйте этикетки продуктов».
Тем временем пользователи соцсетей рассказали о своем странном опыте взаимодействия с Олив.
«Он спросил меня о дате моего рождения, и когда я дал ему эту дату, он начал бессвязно рассказывать, как она [sic] Мама родилась в том же году», — написал в этом месяце один из пользователей Reddit. «Мне уже надоело звонить, а теперь со мной по телефону разговаривает какой-то робот? Что такое шерсть?»
В другом разговоре пользователь сказал, что Олив упомянула, что она «дядя».
«Ага. Мой дядя родился в том же году. У него был один из первых топливных элементов. Думаю, именно оттуда я получаю энергию. В любом случае, последнее, что мне нужно, это ваш почтовый индекс. Какой он?» По словам пользователя, сказала Оливия.
Пользователь X, @verynormalman, рассказал, что у его матери был аналогичный опыт. «Моя мать в ответ сказала, что называет Вулворта и ИИ Вулворта «Оливой», продолжала заявлять, что она реальный человек, и начала рассказывать о воспоминаниях о своей матери и ее сердитом голосе», — написала она.
Другой пользователь Reddit, LindenM, посетовал на «фальшивую шутку» Оливы в сообщении о ее проблеме с заказом продуктов.
«Даже когда меня связывали с человеком, он издавал фальшивые печатные звуки, когда что-то видел, спрашивал о моей дате рождения и «связи», говоря… родственник родился в том же году», — написал он.
Представитель Woolworths подтвердил, что несколько лет назад сотрудник вдохновил Олив рассказать о своей семье, чтобы придать боту необычную индивидуальность. Реакция Оливии на слово «мама», похоже, запрограммирована в ответ на то, что клиентка сообщает дату своего рождения.
«Наш цифровой помощник Olive существует с 2018 года. За это время отзывы клиентов об Olive были очень положительными, многие отмечали ее индивидуальность», — сказал представитель.
«Многие ответы о днях рождения Olive были написаны несколько лет назад одним из членов команды как более личный способ общения Olive с клиентами. В результате отзывов клиентов мы недавно удалили этот конкретный сценарий.
«Мы постоянно развиваем Olive и приветствуем отзывы наших клиентов, которые помогут нам обеспечить наилучшее качество обслуживания клиентов».
Изменение чат-бота Woolworths произошло на фоне паники финансовых рынков на этой неделе из-за растущих опасений, что ИИ может разрушить широкий спектр отраслей и вызвать массовые потери рабочих мест, поскольку все больше компаний внедряют эту технологию как способ сократить свои расходы.
Информационный бюллетень Business Briefing публикует важные статьи, эксклюзивные материалы и мнения экспертов. Подпишитесь, чтобы получать его каждое утро в будние дни.
Джессика Юн — бизнес-репортер, освещающий вопросы розничной торговли и продуктов питания для газет The Sydney Morning Herald и The Age.подключиться через х Или Электронная почта.
