Использовать нейросети в бизнесе — модно, но часто компании допускают в работе с ИИ ошибки, которые приводят к репутационным и финансовым потерям. Собрали в статье несколько нашумевших примеров, чтобы вы не оказались в похожих ситуациях.
Непопадание в ожидания аудитории
Что случилось? В одной из предыдущих подборок мы рассказывали историю неудачной рекламной кампании KFC на основе ИИ. Компания запустила в Инстаграм серию постов с призывом к пользователям создавать с помощью Meta AI изображения рук с продукцией KFC. Создатели решили сделать своей фишкой факт, что нейросеть часто генерит руки с 5+ пальцами, так что можно «облизывать их больше». Креатив не зашел пользователям.
Во-первых, в середине 2024 года многие нейросети научились обходить ошибку с лишними пальцами и это уже не выглядело смешно и актуально.
Во-вторых, изображения выглядели объективно жутковато, о чем люди и написали в комментариях.
Что пошло не так? ИИ в данном случае в провале кампании не виноват — создатели выбрали неверную маркетинговую стратегию. Прежде чем показывать любой креатив публике, убедитесь, что идея действительно зайдет вашей ЦА, потому что сам факт использования ИИ не делает рекламу классной.
Делегирование ИИ слишком сложных задач, где нужна человеческая эмпатия
Что случилось? В ноябре 2023 года пассажир авиакомпании Air Canada воспользовался голосовым помощником компании на основе ИИ, чтобы получить консультацию по тарифу. Это был сложный случай: пассажир хотел срочно приобрести билеты, чтобы посетить похороны бабушки. Чат-бот сказал ему, что он может купить билет из Ванкувера в Торонто по обычной цене, а затем в течение 90 дней подать заявку на возврат части средств. Когда впоследствии пассажир так и сделал, авиакомпания отказалась принять его заявку и обосновала это тем, что в случае пассажира подобные скидки не действуют. В итоге в феврале 2024 года суд обязал Air Canada возместить ущерб пассажиру, хотя компания пыталась доказать, что не несет ответственности за ошибки нейросети.
Что пошло не так? Чат-боты на основе ИИ — замечательные решения, которые упрощают жизнь компании и ее клиентам. Такие помощники могут отвечать на наиболее распространенные вопросы неограниченного числа пользователей 24/7 практически моментально. Но ИИ может и должен решать только базовые вопросы — все сложные случаи нейросеть должна переводить на живых менеджеров. Иначе в лучшем случае вы рискуете потерять клиента, в худшем — повторить судьбу Air Canada.
Чат-бот для сайта
консультирует клиентов по заданным веткам диалога
собирает заявки и переводит на оператора
обслуживает клиентов по ночам, выходным и праздникам
Что случилось? McDonald’s три года тестировал в нескольких пунктах Макавто систему приема заказов на основе ИИ от IBM. Посетители наговаривали заказ ИИ-помощнику, который оформлял его, передавал на кухню и принимал оплату. Целью кампании было упростить процедуру приема заказов и сократить расходов компании на персонал. Но всё пошло не по плану: из-за недоработок системы ИИ часто ошибался, неверно распознавал речь посетителей, а иногда глючил и начинал бесконечно добавлять в чек ту или иную позицию.
Девушка жалуется, что не заказывала чай, но ИИ добавил его в заказ 9 раз.
Возмущенные клиенты массово делились своими историями в соцсетях, и в итоге в июне 2024 года McDonald’s официально закрыл программу, хотя и объявил, что видит за этой технологией будущее.
Здесь в заказе уже 20 порций Макнаггетс мил на 200 долларов, хотя девушки в видео просят систему остановиться.
Что пошло не так? Компания не потратила нужное время на обучение нейросети и выпустила ИИ к клиентам слишком рано. Тщательно тестируйте и проверяйте решения на основе ИИ, прежде чем открывать к ним пользовательский доступ.
Что случилось? В ноябре 2023 года онлайн-издание Futurism сообщило, что известный американский спортивный журнал Sports Illustrated публикует статьи от имени несуществующих авторов, тексты на деле пишет ИИ. Futurism провел целое расследование: журналисты сообщили, что нашли людей, которые создавали для журнала статьи с помощью ИИ, а также обнаружили фотографии авторов в базах сайтов, которые создают портреты людей с помощью нейросетей. Скандал замяли, а ответственность за ИИ-контент возложили на компанию AdVon, которая и была поставщиком тех самых статей. Однако ситуация вызвала бурю возмущения у читателей Sports Illustrated, которые почувствовали себя обманутыми.
Что пошло не так? Использовать ИИ для создания визуального или текстового контента нормально, но это нельзя скрывать от потребителей и заказчиков в случаях, когда нейросеть не просто помогает, а делает основную часть работы. Сейчас с помощью нейросетей делают даже блогеров, но их многочисленные подписчики знают, что имеют дело с нейророботом, а не настоящим человеком. Некоторые контентные платформы, например YouTube, обязывают пользователей ставить специальную плашку, если публикуемые материалы создает ИИ.
Что случилось? Всё в той же подборке маркетинговые решения с использованием ИИ мы рассказывали историю Симфонического оркестра Квинсленда. В официальной группе в Facebook появился пост-приглашение на концерты оркестра, изображение для которого сгенерировал ИИ. Результат получился печальным: нейросеть нарисовала на руках персонажей лишние пальцы, что вызвало волну язвительных комментариев и реакций. В результате создатели удалили пост и подобные эксперименты больше не повторяли. Что пошло не так? ИИ (пока) не умеет выдавать идеальные решения: нейросети нужно использовать в связке с работой людей — дизайнеров, видео- и звукорежиссеров. Это касается не только сложных продуктов вроде видео, иллюстраций и аудио. Проверяйте и исправляйте все, что делает нейросеть: от текстов до презентаций.
Комментарии