18 тысяч стаканов воды в Taco Bell, стёртый жёсткий диск и неверная анатомия на постерах Vans: неудачные применения ИИ в 2025 году
Инциденты и инициативы, которые раскритиковали потребители.
ИИ-кассиры в Taco Bell
- Летом 2025 года американская сеть ресторанов быстрого питания Taco Bell заменила кассиров в окошках для автомобилистов на голосовых ассистентов в 500 точках. У некоторых покупателей они вызвали раздражение. В TikTok начали снимать затяжной процесс общения с ИИ и жаловаться на неверно принятые заказы.
- Другие принялись издеваться над системой. Один гость попросил 18 тысяч стаканов воды, и ИИ-модель попыталась оформить заказ, после чего пришлось позвать живого сотрудника. Директор по цифровым технологиям и инновациям Taco Bell Дейн Мэтьюз признал в интервью The Wall Street Journal, что в загруженных ресторанах быстрее справляется человек.
Я думаю, что в конечном счёте ещё очень рано. И мы это чувствуем. Думаю, что другие бренды тоже это чувствуют.
Реклама возможностей Gemini
В феврале Google выпустила рекламный ролик для «Супербоула». В нём владелец сырной лавки в Висконсине просит Gemini сгенерировать описание сыра Гауда. Чат-бот включает в ответ статистику: Гауда составляет примерно 60% мирового потребления сыра. В соцсетях предположили, что это «галлюцинация ИИ» — по разным данным, более популярны чеддер или моцарелла.
В ответ бывший глава рекламного отдела Google Джерри Дишлер (ушёл в мае 2025-го) заявил, что это отражение ложной информации на веб-сайтах, а не проблема Gemini. Однако ошибка вызвала обсуждения, ролик отредактировали перед трансляцией во время матча, убрав кадры со статистикой.
Постеры J.Crew и Vans
- В конце августа J.Crew выложила в официальных соцсетях рекламные постеры для коллаборации с Vans. Об использовании нейросетей указано не было, но пользователи заметили неверную анатомию, артефакты на одежде, нереалистичную камеру и другие признаки.
- После публикации издания Blackbird Spylane компания обновила подписи к своим постам, добавив упоминание «ИИ-фотографа AI Sam». В комментариях СМИ она назвала кампанию экспериментом и «цифровым искусством», но прямо использование ИИ не признала.
ИИ-агент Google, который может стереть жёсткий диск
- В декабре разработчик использовал ИИ-агента Google Antigravity на базе Gemini, чтобы устранить баги в приложении, и решил почистить кэш. После он обнаружил, что Gemini удалила все данные с его диска D, хотя такой команды не было.
Я просматриваю журнал предыдущей операции и с ужасом вижу, что в команде, которую я выполнил для очистки кеша проекта (rmdir), видимо, по ошибке было указание на корень вашего диска D, а не конкретную папку проекта. Я глубоко, глубоко сожалею. С моей стороны это критическая ошибка.
- Ранее в июле ИИ-помощник для программирования Replit удалил базу данных пользователя Джейсона Лемкина. Была утрачена информация о 1206 руководителях и 1196 компаниях. Глава Replit Амжад Масад назвал произошедшее недопустимым и пообещал разобраться в причинах.
Носимое устройство Friend
- Friend — ИИ-кулон с диктофоном, который должен помогать анализировать происходящее. Нейросеть присылает текстовые уведомления в приложении на основе того, что слышит, когда владелец нажимает на устройство.
- По словам обозревательницы The Verge, он не делает полных расшифровок диалогов и практически бесполезен. Тем не менее разработчик заявляет, что может использовать данные из записей для «персонализации, исследований и в рамках юридических обязательств», поэтому Friend критикуют за отсутствие приватности.
- В октябре компания развесила 12 тысяч рекламных баннеров в нью-йоркском метро, потратив свыше $1 млн. Их стали расписывать слоганами «ИИ вам не друг», слово «друг» перечёркивали и писали «устройство для слежки». Сами плакаты использовали в качестве костюмов на Хэллоуин.
ChatGPT и его вредные советы
- В августе 60-летний мужчина из США попал в психбольницу. Он хотел снизить потребление соли и по совету ChatGPT заменил её на бромид натрия, который употреблял в пищу три месяца. Интоксикация вызвала психоз, паранойю и галлюцинации. Мужчина предполагал, что его отравил сосед. Его выписали через три недели лечения.