Я дал AI написать уникальное приложение без инженерного контроля. Исчерпаны лимиты и катастрофа
Каждый день в ленте - очередная история про компанию, которую полностью написал AI. Инженер с телефона командует нейросетью, та выдает рабочий продукт. Я использую AI для всех задач по коду и решил проверить: а что, если убрать инженерный контроль?
Условия эксперимента
Взял продуктовую идею, которая реально уникальна в своем роде. Не очередное CRUD-приложение, не клон существующего сервиса - продукт с нестандартной бизнес-логикой, которой нет в открытом доступе.
Подключил Claude Opus - одну из самых сильных моделей на рынке на тот момент.
Ключевое условие: я специально кодил так, как будто знаю только базовые принципы. Без глубокого code review. Без архитектурных решений. Без pushback на то, что AI предлагает. Просто промптил и принимал результат.
Именно так работает большинство не-инженеров, которые пытаются строить продукт на AI.
Что получилось
Потрачены лимиты на токены - модель заходила в тупики, генерировала ошибку за ошибкой, пыталась исправить одно и ломала другое.
Дублирование кода в 4 разных файлах - AI не помнит контекст всего проекта и создает параллельные реализации одной и той же логики.
Противоречивые решения на 3 уровня вглубь - в одном месте данные обрабатываются одним способом, в другом - совершенно иначе, и оба варианта ломают друг друга.
Итог: кодовая база, в которой даже опытный senior-разработчик разбирался бы неделю. Каждый баг-фикс порождал новые баги. Поддерживать этот код дороже, чем переписать с нуля.
Почему AI ломается на нестандартных задачах
Текущие языковые модели работают по принципу предсказания следующего токена на основе паттернов из обучающих данных. Они видели миллионы примеров CRUD-приложений, REST API, стандартных интеграций - и собирают новый код из этих кусочков.
Для типовых задач это работает отлично. Но тогда возникает вопрос: если AI может собрать ваше приложение из существующих паттернов - зачем оно вообще нужно? Таких приложений уже тысячи.
Ценность продукта - в том, чего нет в открытом доступе. И именно там AI перестает справляться: когда нужно что-то, чего не было в обучающих данных, предсказание ломается.
Это не значит, что так будет всегда. Но прямо сейчас, с текущей архитектурой моделей - это факт.
Как я на самом деле использую AI
Важный момент: я не противник AI. Я шиплю фичи с его помощью каждый день. Есть сценарии, где можно запустить продукт вообще без инженера в команде - я это делаю.
Но всегда с инженерным контролем:
- Понимаю, где AI дает хороший результат, и где его нужно остановить
- Проверяю архитектурные решения, которые он предлагает
- Ловлю дублирование и противоречия на ранней стадии
- Не даю энтропии накапливаться
Разница между "AI пишет код" и "инженер пишет код с помощью AI" - огромна.
Что это значит для вас
Если вы не инженер и строите уникальный продукт только на AI - будьте осторожны. Я видел кодовые базы, которые за 3 месяца превращались в нечто нечитаемое даже для опытных разработчиков.
AI в руках инженера - мощный инструмент. Без этих рук он строит карточные домики. Выглядят красиво - пока не надо ничего менять.
Сталкивались с AI-кодом, в котором было невозможно разобраться? Или у вас другой опыт? Расскажите в комментариях.