Хватит верить нейросетям на слово. Вот 5 задач, где ИИ провалится — и утащит вас за собой

У моей знакомой интернет-магазин детской одежды. Небольшой, но крепкий — с постоянными клиентами, хорошей репутацией, всё как надо. В прошлом году она подключила ИИ-чатбота для поддержки клиентов. Ну а что — модно, прогрессивно, все так делают.

Первая неделя — красота. Бот отвечает быстро, вежливо, клиенты довольны. Настя радуется: «Наконец-то можно не сидеть в телефоне круглые сутки!»

А на второй неделе бот пообещал покупательнице бесплатную доставку, которой в магазине никогда не было. Просто взял — и пообещал. Уверенно, с улыбочкой (ну, насколько бот умеет улыбаться). Покупательница, естественно, потребовала выполнить обещание. Настя чуть не поседела.

И это ещё цветочки. Канадская авиакомпания Air Canada реально проиграла суд из-за того, что её чат-бот наврал пассажиру про условия возврата билета. Суд постановил: компания несёт ответственность за всё, что говорит бот на её сайте (источник: The Guardian). Бот наобещал — компания заплатила.

Мы живём в интересное время. Нейросети умеют писать код, рисовать картины, сочинять музыку и вести переговоры. Но при этом они регулярно и с абсолютно невозмутимым видом врут. Выдумывают факты. Путают даты. И самое опасное — делают это так убедительно, что даже профессионалы ведутся.

Давайте разберём, где именно ИИ сегодня не справляется — и где слепое доверие к нейросетям может дорого обойтись.

Начну с того, что Настин случай — не исключение, а тенденция. И масштаб проблемы пугает.

По данным исследования Qualtrics за октябрь 2025 года, каждый пятый потребитель, использовавший ИИ в клиентском сервисе, не получил от этого вообще никакой пользы. Частота провалов ИИ в обслуживании клиентов оказалась в четыре раза выше, чем при использовании ИИ для других задач (источник: отчёт Qualtrics «2026 Consumer Experience Trends»).

Четыре раза. Вдумайтесь в эту цифру.

А исследование Bain & Company показало ещё более интересную штуку: с простыми задачами — перевести деньги, проверить баланс — чат-боты справляются отлично. Но как только вопрос становится чуть сложнее — оспорить платёж, разобраться с ошибкой в заказе — всё разваливается. И самое любопытное: люди готовы принять отказ от живого оператора, но не от бота. Мы просто психологически не можем смириться с тем, что машина нам отказала (источник: CX Dive / Bain & Company, октябрь 2025).

Вот вам пара историй, которые стали классикой жанра:

В Китае проблема дошла до государственного уровня. За 2024 год количество жалоб на ИИ-ботов в сфере электронной коммерции выросло на 56,3% (источник: China Daily / State Administration for Market Regulation). Люди не могут добиться помощи, не могут переключиться на оператора, а бот гоняет их по кругу одних и тех же бесполезных ответов.

Как сказала Изабель Здатни, руководитель исследований в Qualtrics:

«Слишком много компаний используют ИИ для сокращения расходов, а не для решения проблем — и клиенты это чувствуют»

Вывод? ИИ в клиентском сервисе — это не волшебная таблетка. Это инструмент для простых, типовых запросов. Всё, что сложнее «где мой заказ?» — нужен живой человек. Или хотя бы моментальная возможность к нему переключиться. Иначе вы рискуете потерять клиентов быстрее, чем их нашли.

Вот вам задачка. Спросите любую нейросеть о недавнем событии — что-нибудь горячее, что произошло буквально вчера. Потом проверьте ответ. И приготовьтесь к сюрпризам.

По данным аудита организации NewsGuard, летом 2025 года ИИ-боты ошибались в 35% случаев при ответах на вопросы о текущих событиях. Для сравнения: годом ранее этот показатель был 18% (источник: TechInsider/NewsGuard, сентябрь 2025).

Задумайтесь: показатель ошибок не упал — он вырос вдвое. Как так?

Эксперт Александр Кобозев объясняет это просто: проблема обострилась после того, как модели стали автоматически искать в интернете, но без должной фильтрации источников. Нейросеть берёт информацию с ненадёжных сайтов, не проверяя факты, и подаёт её как истину в последней инстанции. А ссылки в ответе — это не гарантия правдивости. Это просто ссылки.

А вот ещё история, от которой хочется то ли смеяться, то ли плакать. Газета Chicago Sun-Times опубликовала «Летний список чтения на 2025 год» — 15 книг с описаниями. Выглядело всё прекрасно. Проблема? Только 5 из 15 книг оказались настоящими. Остальные десять были выдуманы нейросетью — с несуществующими названиями, приписанными реальным авторам (источник: evidentlyai.com). Читатели, которые заплатили за газету, были мягко говоря не в восторге.

Я сам попался на эту удочку. Писал статью, попросил ChatGPT уточнить дату одного события. Он ответил с железобетонной уверенностью. Я вставил в текст. Редактор проверил — дата была неправильной. На три месяца. Хоть стой, хоть падай.

С тех пор у меня правило: если нейросеть утверждает что-то конкретное — дату, число, имя, цитату — проверяй вручную. Без исключений. Доверяй, но проверяй — поговорка, которая никогда ещё не была так актуальна.

Звучит парадоксально, да? Компьютерная программа, которая плохо считает. Но это не шутка.

Нейросети — это не калькуляторы. Они не выполняют математические операции. Они предсказывают, какой ответ выглядит правильным, исходя из миллиардов текстов, на которых обучались. Иногда предсказание совпадает с реальностью. Иногда — нет.

Попробуйте дать ChatGPT задачу на логику с подвохом. Например, классическую: «У фермера 17 овец. Все, кроме 9, убежали. Сколько осталось?» Правильный ответ — 9. Но нейросети частенько начинают вычитать 9 из 17 и выдавать 8.

Или ещё веселее. Исследователи из Эдинбургского университета протестировали семь передовых мультимодальных моделей (от OpenAI, Google, Anthropic, Meta и других) на задаче определения времени по фотографии аналоговых часов. Результат? Модели ошибались катастрофически. Стилизованные циферблаты и римские цифры вводили ИИ в полный ступор. Учёные резюмировали: сочетание пространственного мышления, контекста и базовой арифметики — это ахиллесова пята современных нейросетей (источник: Mustafin Magazine, сентябрь 2025).

Когда я рассказываю об этом на лекциях, в зале всегда кто-нибудь удивляется: «Подожди, но ведь это же компьютер! Он должен считать идеально!» Нет. Нейросеть — это не компьютер в привычном понимании. Это языковая модель. Она «говорит» математику, но не «думает» ей. Это как человек, который выучил формулы наизусть, но понятия не имеет, что за ними стоит.

Для рабочих задач вывод такой: любые расчёты, цифры и данные, которые выдаёт ИИ, нужно перепроверять. Особенно если от них зависит бюджет, отчёт или чьи-то деньги.

Одна моя знакомая — назовём её Лена — работает HR-менеджером в IT-компании. Она решила использовать ChatGPT для составления ответов кандидатам, которым отказали. Задала промпт: «Напиши вежливый отказ кандидату, который очень хотел получить позицию».

ChatGPT написал. Грамотно. Вежливо. С формулировками типа «к сожалению, на данном этапе мы приняли решение в пользу другого кандидата, однако ваш профессиональный опыт впечатляет».

Проблема в том, что кандидат был внутренним — он уже работал в компании и претендовал на повышение. И стандартный шаблонный отказ его просто убил. Человек почувствовал себя чужим в собственной команде.

Лена потом полчаса это разруливала.

ИИ не понимает подтекста. Не считывает эмоции. Не учитывает, что иногда важно не что сказать, а как. Что одни и те же слова в одном контексте — это нормально, а в другом — это пощёчина.

Исследование Qualtrics подтверждает это цифрами: 53% потребителей обеспокоены тем, как компании используют их данные в ИИ-взаимодействиях, и этот показатель вырос на 8 пунктов за год (источник: Qualtrics, «2026 Consumer Experience Trends»). Люди чувствуют фальшь. Чувствуют, когда с ними разговаривает не человек, а алгоритм, который имитирует заботу.

Нейросеть может вставить «я понимаю, как это важно для вас» и «мы ценим ваши усилия». Но это — декорации. За ними нет настоящего понимания ситуации. Как говорится, на бумаге гладко, а на деле — совсем другая история.

Всё, что связано с живыми людьми, их чувствами, мотивацией и отношениями — это территория, где нейросеть в лучшем случае помощник, а в худшем — слон в посудной лавке.

Я часто слышу: «Ну ладно, с фактами ИИ лажает, но тексты-то пишет нормально!» Нормально — да. Но нормально и хорошо — это две большие разницы.

Попросите ChatGPT написать художественный рассказ. Он напишет. С правильной структурой, с диалогами, с конфликтом. Всё на месте. Но когда вы дочитаете — вы ничего не почувствуете. Как будто съели идеально ровный, безупречно круглый, пластиковый помидор. Внешне — картинка. Внутри — пустота.

Нейросеть оперирует паттернами. Она знает, что после конфликта обычно идёт кульминация. Что герой должен преодолеть препятствие. Что в конце хорошо бы оставить «послевкусие». Но она не знает, каково это — терять близкого человека. Не знает, как пахнет дождь после жаркого дня. Не знает, почему строчка «а наутро они проснулись и всё было по-старому» может быть разрушительнее любого драматического финала.

А ещё есть проблема стиля. Любой, кто работает с нейросетями регулярно, через неделю начинает узнавать этот характерный «ИИ-штамп»: нарочитая структурированность, избыточная вежливость, одни и те же обороты. Весь интернет завален одинаковым «ИИ-контентом» — и читатели его мгновенно распознают. Это уже не конкурентное преимущество. Это красный флаг.

Как сказал когда-то Рэй Брэдбери:

«Вам не нужно сжигать книги, чтобы уничтожить культуру. Просто заставьте людей перестать их читать»

Можно перефразировать: вам не нужно запрещать творчество. Просто замените его нейросетевой имитацией — и через пять лет никто не вспомнит, каким оно было настоящим.

Это не значит, что ИИ бесполезен в творческих задачах. Он отлично справляется с рутиной: рерайт, структура, мозговой штурм, черновики. Но финальную точку, ту самую, от которой у читателя мурашки по коже — её по-прежнему может поставить только человек.

Раз уж мы тут, давайте добью тему парой менее очевидных, но не менее болезненных проблем.

Конфиденциальность. Всё, что вы пишете в чат с нейросетью, потенциально может быть использовано для обучения модели. Apple в своё время запретила сотрудникам пользоваться ChatGPT и GitHub Copilot именно из-за риска утечки данных. Samsung столкнулась с тем же — сотрудники загрузили в ChatGPT проприетарный код, и компании пришлось экстренно закручивать гайки. Не суйте в нейросеть то, что не готовы увидеть в открытом доступе. Бережёного бог бережёт.

«Коллапс модели». Есть теория — и она с каждым годом выглядит всё убедительнее — что ИИ, обучающийся на текстах, которые сам же и сгенерировал, начинает деградировать. Ошибки накапливаются, усиливаются и переходят в следующие версии. Интернет заполняется ИИ-контентом, нейросети учатся на этом контенте, качество падает. Замкнутый круг. Или, если хотите, змея, кусающая собственный хвост.

Предвзятость. Алгоритмы обучаются на данных, которые создали люди — со всеми нашими стереотипами и предубеждениями. Результат: системы распознавания лиц хуже работают с определёнными этническими группами, рекрутинговые ИИ могут дискриминировать по полу, а камеры ГИБДД с ИИ присылали штрафы за непристёгнутый ремень водителям праворульных машин — нейросеть решала, что если левое кресло пустое, значит водитель не пристёгнут (источник: 1ps.ru). ИИ не злой. Он просто зеркало наших собственных предрассудков.

Нет. Тысячу раз нет.

ИИ — это самый мощный инструмент, который появился в нашем распоряжении за последние десятилетия. Он экономит часы, открывает возможности, делает доступным то, что раньше было доступно единицам. Но инструмент — это ключевое слово.

Молотком можно забить гвоздь, а можно — по пальцу. Разница не в молотке.

Проблема не в нейросетях. Проблема в том, что люди перестали думать своей головой. Отдали ответственность машине — и расслабились. А машина не несёт ответственности. Она не платит штрафы. Она не краснеет от стыда. Она не теряет репутацию.

Всё это теряете вы.

Поэтому правило простое: используй ИИ как соавтора, но никогда — как автора. Как помощника, но никогда — как эксперта. Как черновик, но никогда — как финальную версию.

Ребята, я пишу эти разборы не для галочки и не ради лайков. Я каждую неделю вижу, как кто-то из знакомых — умных, образованных, опытных — влетает в ловушку слепого доверия к ИИ. Один публикует статью с выдуманной статистикой. Другой отправляет клиенту презентацию с несуществующими данными. Третий ставит бота на поддержку — и теряет клиентов пачками.

Мир нейросетей меняется каждый день. Буквально. Вчера модель не умела одного — сегодня умеет. Вчера была надёжна в одном — сегодня ломается. И если вы не следите за этим — вы играете вслепую. А ставки высоки: репутация, деньги, время.

Я веду Telegram-канал, и там всё устроено просто: я тестирую нейросети сам, нахожу, где они работают и где проваливаются, — и рассказываю вам, чтобы вы не наступали на эти грабли.

🔍 Еженедельные разборы — какие обновления вышли, что реально изменилось, а что просто маркетинговый шум

💀 Разбор провалов — реальные кейсы, когда ИИ подвёл людей и бизнес. Чужие ошибки — лучший учебник

🛠 Промпты и шаблоны — те, которые я проверил на себе и которые реально экономят часы

📊 Честные сравнения моделей — ChatGPT vs Claude vs Gemini vs Grok. Без рекламы, без ангажированности, только факты

⚡ Быстрые алерты — если выходит что-то важное, вы узнаете об этом в тот же день, а не через неделю из пересказов

Нейросети развиваются быстрее, чем любая другая технология в истории. То, что работало в январе — не работает в феврале. Модель, которая была лучшей на прошлой неделе — уступает новичку на этой. Один пропущенный апдейт может стоить вам часов переделки или, хуже, репутационного провала перед клиентом.

Канал — это ваша страховка от того, чтобы не оказаться тем самым человеком, который доверился боту и потом полдня разруливал последствия.

Нас уже 260 — и каждый из них хоть раз сэкономил себе нервы, время или деньги, просто прочитав один пост вовремя.

А пока — делитесь в комментариях: попадались ли вы на ошибки нейросетей? Какой был самый эпичный фейл? Давайте соберём коллекцию — уверен, тут найдутся истории покруче моей.