Нейросеть убедила заказчиков, что я некомпетентен

Меня удалили из рабочего чата, после того, как мои заказчики поверили нейросети больше, чем живому человеку, с которым работали полгода и у которого всё это время всё работало.

Это история про один токсичный проект и неоплату, но меня в ней зацепило еще кое что: заказчики не просто использовали нейросеть для кода — они начали использовать её как судью моей компетентности. Что происходит, когда человек начинает доверять выводам машины больше, чем суждению живого специалиста — при том что сам проверить эту машину не способен.

Я тут пострадавшая сторона, постарался вытащить из истории механику. Имён и ярлыков не будет — интересны не конкретные люди, а схема, которая повторяется по кругу.

Коротко о себе, чтобы было понятно: я фрилансер, делаю ботов, бэкенды и автоматизацию для бизнеса. Давно работаю через нейросети — но встроив их в нормальный рабочий процесс, а не просто потоком запросов.

Полгода назад нашли меня на бирже, созвонились, зашли на большой проект — бот-ассистент для продавцов на маркетплейсе. Три месяца плотной работы: нормальная, контролируемая разработка: я держал всю конструкцию в голове, писал доки по модулям, они присылали видение продукта. Заплатили суммарно за это около 350 тысяч.

А в декабре начались тормоза: сначала платили хуже (реже), потом ещё хуже, потом говорят — «у нас проблемы с налоговой, счета заблокированы». Платили урывками, обходными путями. По итогу попросили отдать им все наработки, исходники и исчезли. Ну, логично — свободные деньги кончились.

В целом они остались мне должны 20 тысяч, но я не стал их проклинать и трогать. Но иногда поглядывал что у них дальше происходит. И увидел в их канале, что разработку они продолжают — сами, через нейросети. Понятно: решили сэкономить на мне и доделать своими силами.

Через три месяца тишины — написали, извинились и вернули долг. Признали, что наделали сами кучу всего, около семи ботов и три сайта, но запустить это по-человечески, заставить работать стабильно — не выходит.

То есть на собственном опыте уперлись в потолок того, что можно сделать без понимания системы и вернулись. Я вспомнил дилемму заключённого и решил в первый раз простить. Договорились: 60 часов в месяц за 120к. Нормальный оклад за половину рабочего времени, согласился.

Они отгрузили мне все свои проекты.

Там было страшно!

Люди, которые не знают, что такое git и Docker, заливают код руками через SSH — но автономного AI-агента на боевой сервер поставили. Вот так выглядели их проекты. Без документаций, без единообразия - разные боты с разной архитектурой, разные стили запуска.

Каждый собран по-своему и с нуля — потому что каждый раз они начинали новый разговор с нейросетью, без всякой памяти о предыдущем. Никакого порядка, никаких резервных копий, никакой подстраховки на случай, если всё это в любой момент поедет. Зато — и вот это поражает — на живой, рабочий сервер они посадили автономного AI-агента, которому раздали ключи от всего. То есть скучных базовых вещей, которые держат систему от развала - нет, а самую модную и самую опасную игрушку — поставили.

AI дал им ощущение, что весь скучный инженерный слой — порядок, подстраховку, проверку — можно просто пропустить. Зачем, если можно сразу запускать агентов?

Дальше пошла медитативная работа — привести всё к единому понятному порядку. Резервные копии, единая история всех изменений (чтобы было видно, кто, что и когда поменял, и любой шаг можно было откатить), одна общая логика вместо семи разных. Семь хаотичных кусков я собирал в нормальную, поддерживаемую систему: каждый бот запускался по своему, код заливали руками на сервер, не вели историю изменений.

Заказчик, кстати, сопротивлялся: «нет, я хочу по старинке, как я делал до этого, мне так удобно». Признавал необходимость, но горел нежеланием. Я сказал — нет, работаем по-нормальному, с полной историей правок. (Дальше будет понятно, почему именно это меня и спасло.)

Раз нас стало несколько, мы разграничили зоны прямо в чате: я — вся инженерная часть и боты, ассистент — ручные тесты, заказчик — общее видение и сайты. Всё проговорили, всё зафиксировали.

И вот однажды утром открываю проект — а там ночью молча переписан кусок. Спрашиваю: что такое? «Мне срочно надо было гнать трафик, я запустил клиентов, а бот оказался нерабочий». Хотя мы вообще не обсуждали, что бот готов к запуску — я отдал его на тесты, это не его зона. Никто не сказал, что что-то не работает, заказчик просто полез сам, никому ничего не написав и пришёл с претензией. Проговорили еще раз и я продолжил спокойно делать свою часть.

А потом они перестали платить (неужели). Не одним резким отказом, а хуже: две недели кормили завтраками. То «банк меняет тарификацию», потом «завтра точно переведём». По факту деньги так и не пришли — в итоге меня кинули ещё примерно на 40 тысяч.

При этом игнор — и в личке, и в общем чате. Но история изменений показывает: в проектах что-то активно меняется. Со мной не разговаривают — а код переписывают.

Полез смотреть, кто и что правил (хорошо, что я настоял на полной истории). И всё стало ясно. Их нейросеть в одном месте жирным пометила: критическая уязвимость. И заказчик сразу: «что это?! какие дыры в безопасности?! почему они тут?!» Мгновенное сомнение в моей компетентности — именно в той области, за которую отвечал я.

А было так. Эти «дыры» я оставил намеренно — они нужны были для дальнейшего подключения сервисов и тестов. Любой, кто видит систему целиком, понял бы зачем.

Одна из них — временный рубильник, который я специально оставил под рукой, чтобы тестировщик мог щёлкать им во время проверок. Это была функция для простой выдачи премиума любому пользователю — именно для тестов премиум-сценариев.

Да, если смотреть на это как на готовый прод — это дыра. Но это был не готовый прод. Это была тестовая система без трафика, с базой под снос, куда ещё должен был подключаться платёжный шлюз. Claude увидел фрагмент и сделал локально правильный вывод. Заказчик увидел этот вывод и решил, что я некомпетентен.

Каждое замечание по отдельности было верным. Но модель не видела всей картины. Она не знала, что это пустая стройка под снос, в которой ещё никто не живёт. И не могла узнать, потому что человек, который ей объясняет, сам не понимает, что строит: как всё будет подключено, где тестовый контур, где прод, где временный инструмент, где настоящая уязвимость. Он физически не способен дать машине картину, которой у него самого нет.

Вот и вся история: AI на неполном контексте выдаёт разрушительные советы. И это не баг — машина честно отвечает на то, что ей показали. Проблема в том, что оператор не знает, какую часть картины важно ей передать.

Я все чаще стараюсь пояснить людям важную идею:

AI — это усилитель, а не уравнитель. Множитель, а не слагаемое.

Усилитель умножает то, что есть на входе. У эксперта он умножает экспертизу — я с нейросетью делаю проекты в 3–5 раз быстрее. У человека без знаний он умножает незнание. Да И ладно бы просто на ноль: ноль, умноженный на любую мощность модели, остаётся нулём. Тут хуже: профан не видит момента, когда машина ошибается, и принимает её фатальные решения с полной уверенностью. Множитель уходит в минус и мощность модели тут ничего не меняет — хоть самая топовая, хоть какая. Усиливается не модель, усиливается же человек, а усиливать тут было нечего.

Еще одна сторона, которая даже более мерзкая. AI оказался идеальной машиной для перекладывания ответственности.

Модель склонна соглашаться с тем, кто её спрашивает. Захочешь найти, в чём специалист неправ, — она найдёт всегда. Для человека, который ищет повод не платить, это безотказный инструмент: он получает не просто исполнителя подешевле, он получает авторитетное «подтверждение» своей правоты. От машины, которую сам проверить не может, но которой полностью доверился.

То есть они делегировали машине не работу. Они делегировали ей суждение о компетентности живого человека, поверили ей, а не тому, с кем полгода всё работало.

Этот паттерн я вижу не впервые — и продолжаю собирать такие случаи по мере того, как они прилетают.

Я сам каждый день работаю через нейросети. Я на них построил весь свой процесс, это мощнейший инструмент, дело ведь вообще не в инструменте.

Дело в том, кто принимает решения. Когда их принимает человек, держащий в голове всю систему, а машина только ускоряет — вот это работа. Когда их принимает машина на обрывках контекста, а человек просто жмёт «принять», потому что сам оценить не может, — это и есть та самая подмена, из-за которой всё рушится.

Я им пояснил, что не согласен работать в таких условиях, где не соблюдаются договоренности о зонах ответственности, где молча мою работу перепахивают нейросетью. Меня удалили из чата. И, честно, это, возможно, лучшее, что могло случиться — я освободился от ситуации, которая всё равно вела в тупик.

Прогноз простой: их ждёт срыв сроков и снова разваленная система. Откатывать назад они не умеют, всей картины у них нет, а машина в каждом новом отдельном разговоре продолжит выдавать им вроде бы разумные решения — которые они примут с уверенностью людей, не понимающих, что именно они принимают. Круг, который однажды уже замкнулся — исчезли, не вышло сами, вернулись, — замкнётся снова.

Чем доступнее нейросети, тем дороже тот, кто понимает, что они делают. Усилитель бесполезен, если на входе нет сигнала. И умение человека быть этим сигналом — держать в голове всю систему, принимать решения и отвечать за них — никуда не девается, а наоборот, дорожает.

Кажется, ближайшие годы будут не про то, кто умеет спрашивать нейросеть, а про то, кто умеет понять, когда она уверенно несёт бред. И его нельзя делегировать, в том числе — самой машине.