Почему локальный AI-агент за 0 рублей может быть умнее ChatGPT

У меня есть привычка смотреть технические видео поздно ночью. Обычно это заканчивается тем, что я ложусь спать в три, ничего не реализовав, зато с пятью новыми вкладками в браузере.

Но несколько недель назад что-то пошло не по плану.

Я смотрел разбор книги Рэя Курцвейла про устройство человеческого мозга — и на середине видео поймал себя на мысли, что последние полгода разработки я думал о своём продукте принципиально неправильно.

Расскажу по порядку.

Я делаю Доку — десктопный AI-агент для Windows и Mac. Скачиваешь, запускаешь, работает. Без VPN, без подписки, без регистрации. Умеет искать в интернете, читать твои файлы, анализировать документы, выполнять задачи в терминале. Полностью оффлайн — данные не покидают твой компьютер.

Сейчас у Доки около 5000 скачиваний. Основная аудитория — люди, которым нужен нормальный AI-помощник, но у которых либо ChatGPT заблокирован, либо корпоративная политика запрещает передавать данные в облако, либо просто не хочется платить $20 в месяц в долларах.

И вот полгода я бился над одним вопросом: почему мой агент иногда тупит там, где ChatGPT справляется? Я думал — ну, модель меньше. Параметров меньше. Ничего не поделаешь.Оказалось — дело совсем не в этом.

Курцвейл описывает один парадокс: отдельный нейрон работает со скоростью около 200 операций в секунду. Процессор — в миллиарды раз быстрее. Но мозг решает задачи, которые процессору недоступны.

Почему?

Потому что дело не в скорости нейронов. Дело в том, как они организованы, что помнят и как взаимодействуют.

В неокортексе 300 миллионов модулей, выстроенных в иерархию. Нижние распознают линии и углы. Средние — слова и лица. Верхние — смыслы и намерения. И вся эта система постоянно не просто воспринимает данные, а предсказывает их — рассылает сигналы сверху вниз: «скорее всего следующим будет вот это». Именно поэтому мы понимаем текст с опечатками и узнаём знакомого в толпе даже со спины.

Мозг умный не потому что быстрый. Он умный потому что хорошо помнит, быстро находит связи и работает на опережение.

И тут меня накрыло.

Я думал: «ChatGPT умнее, потому что у него больше параметров». Это как сказать: «Эйнштейн был умнее, потому что у него было больше нейронов».

ChatGPT лучше справляется с задачами по другой причине. У него — через огромные инвестиции OpenAI — выстроена правильная инфраструктура вокруг модели: память между сессиями, инструменты, оркестрация, постобработка ответов. Это не магия параметров. Это инженерия.

А у меня в агенте была просто модель с набором инструментов. Хорошая модель, хорошие инструменты. Но без правильной архитектуры памяти и взаимодействия.

Конкретный пример. Пользователь пишет: «посмотри что в файле report.xlsx и объясни тенденции». Мой агент делал так: думал → решал открыть файл → открывал → думал снова → отвечал. Два полных обращения к модели на задачу, где файл был назван явно ещё в первом сообщении.

Мозг так не работает. Пока ты ещё читаешь первое слово предложения, мозг уже начал готовить варианты того, что будет дальше.

Вот что я написал себе после того ночного просмотра:

Мощность модели — это как скорость нейрона. Важна, но не определяет результат. Умным агента делают память, инструменты и то, как они взаимодействуют.

Это меняет всё.Потому что если дело не в параметрах — значит локальный агент на скромной модели может быть умнее облачного гиганта. Не за счёт железа, а за счёт архитектуры. За счёт того, что он знает именно тебя — твои проекты, твои предпочтения, твою историю.Облачный ChatGPT знает тебя ровно столько, сколько ты написал в этой сессии. Ему сбросили память — и он снова незнакомец.

Локальный агент, живущий на твоём компьютере, может помнить тебя месяцами. Знать, что ты работаешь над конкретным проектом. Помнить, какие подходы ты отвергал. Учитывать, как ты любишь формулировать задачи.Это и есть настоящее персональное AI. Не в смысле «мы так написали в маркетинге», а в буквальном смысле — агент, который лично знает именно тебя.

Часть правильных вещей я построил интуитивно, не осознавая почему они важны.После каждого разговора Дока автоматически создаёт краткое резюме беседы и сохраняет его. При следующем запуске — подгружает. Агент помнит, что вы обсуждали на прошлой неделе.

Есть явная память: пользователь может сохранить конкретные факты о себе — «я работаю в строительной компании», «не предлагай мне облачные решения», «предпочитаю короткие ответы». Это попадает в каждый запрос.

Есть умное управление контекстом: когда агент прочитал большой документ, он не тащит всё в память — сохраняет на диск и обращается только когда нужно. Контекстное окно не захламляется.

Есть защита от зацикливания: агент физически не может уйти в бесконечный цикл — жёсткие ограничения в логике приложения, не в промпте.Но после видео я понял, что это только фундамент.---

Без технических деталей — только суть.

Агент должен работать на опережение. Пользователь упомянул файл — начинать читать его ещё пока модель думает над первым ответом. Не ждать пока модель решит что делать.

Память должна жить и умирать. Факты, к которым давно не обращались, должны постепенно исчезать. Иначе через год агент будет тащить в каждый запрос кучу устаревшего мусора. Живая память — как живая записная книжка.

Агент должен проверять сам себя. Если он написал «документ готов» — а реального сохранения не было — это должно автоматически обнаруживаться и помечаться. Модели иногда конфабулируют (говорят уверенно то, чего не делали) — это нормально и решаемо на уровне архитектуры, не модели.

Главная фича ближайших месяцев — персональная вики. Агент сам будет вести базу знаний о тебе и твоих проектах — в виде обычных текстовых файлов с перекрёстными ссылками. Сам дополняет из разговоров. Сам исправляет когда что-то устарело. Сам по ней отвечает. Никаких баз данных, никаких эмбеддингов — просто файлы, которые растут вместе с тобой.

Это и есть «второй мозг» в буквальном смысле — не метафора из книжки по продуктивности, а реальная архитектурная вещь.

Потому что думаю, что большинство людей, которые пробуют AI-агентов и разочаровываются, делают это по неправильной причине.

Они думают: «слабая модель — слабый результат». И идут платить за GPT. Или за Claude. Или ждут GPT-6.

Но проблема часто не в модели. Проблема в том, что агент ничего не помнит, не умеет работать с твоими файлами, не знает твоего контекста и не умеет правильно использовать инструменты.

Хорошая архитектура памяти и инструментов + скромная локальная модель > плохая архитектура + GPT. Это не гипотеза. Это то, что я проверяю каждый день.

Дока — бесплатный локальный AI-агент для Windows и Mac. Без VPN, без подписки, данные на вашем устройстве. Скачать на dokaai.ru.