Не всё должно быть open source

Особенно когда AI влияет на выбор человека

Я часто ловлю себя на одной мысли.

Мы с командой строим AI-систему, которая делает скин-анализ и рекомендует уход. В разной форме мне регулярно задают один и тот же вопрос: почему не open source. От инвесторов, от потенциальных партнёров, от технических людей, которые искренне считают, что открытость стала новым стандартом доверия

Каждый раз я отвечаю одно и то же.

Есть вещи, которые не должны быть открытыми. И это не противоречие эпохе AI. Это её часть, о которой пока почти не говорят.

Последние два года рынок повторяет одну формулу. Хочешь, чтобы тебе поверили, открой код. Хочешь стать стандартом, открой веса. Хочешь enterprise, дай возможность развернуть у себя.

Это работает для одного типа систем и плохо работает для другого. Но никто пока чётко не проводит эту границу.

Foundation models. Llama, DeepSeek, Mistral, Qwen. Универсальные инструменты. Открыли веса, рынок строит поверх, ответственность за применение лежит на том, кто строит продукт. Foundation model сама по себе ничего не решает за человека. Она генерирует токены, смысл им придаёт следующий слой.

Прикладные decision layers. Системы, влияющие на выбор пользователя в зонах, где у него нет экспертизы оценить варианты самостоятельно. AI, рекомендующий процедуру. AI, помогающий выбрать между опциями. AI, направляющий человека внутри пространства, в котором он не разбирается.

Между этими двумя типами систем проходит граница, которой нет в общественной дискуссии. Foundation model это инструмент. Decision layer это решение. Открытость инструмента распределяет возможности. Открытость решения распределяет ответственность так, что её больше ни у кого нет.

Пример - SKINBOT построен как нейтральный AI-слой между брендом, ритейлером и покупателем. Его ценность в одном свойстве: ни одна сторона не может повлиять на логику рекомендации. Бренд не покупает выдачу. Ритейлер не двигает веса. Покупатель получает решение, которое не было оптимизировано под чью-то маржу.

Это работает только пока архитектура закрыта.

Открой её, и нейтральность исчезает в течение месяца. Бренды реверс-инжинирят алгоритм и оптимизируют продукты под него. Ритейлеры требуют настройки. Конкуренты делают форк “то же самое, только с приоритетом наших партнёров”. На рынке живут десять её версий, и пользователь не отличит нейтральную от подкрученной.

Нейтральность это не свойство кода. Это свойство закрытой архитектуры в поле, где у каждого участника свой интерес повлиять на результат.

Open source community работает в другой ситуации. Все, кто читает код, на одной стороне, хотят, чтобы он стал лучше. Нейтральный слой живёт с тремя сторонами, у которых интересы конфликтуют. Открытая нейтральность это оксюморон. Как только архитектура становится видимой, она перестаёт быть нейтральной, потому что превращается в поверхность для давления.

Доверие к такому слою строится не через “посмотрите внутрь”. Оно строится через “никто, включая основателя, не может изменить выдачу под чьи-то интересы”. Это другая модель доверия. Доверие через равноудалённость, не через прозрачность.

Есть ещё один уровень аргумента, который часто пропускают.

Open source строит доверие через идею: каждый может посмотреть внутрь, проверить, найти ошибку, предложить улучшение. Это работает, когда у пользователя или разработчика есть экспертиза оценить, что делает система.

Decision layer существует именно потому, что у пользователя этой экспертизы нет. Человек приходит к нему не проверить алгоритм. Он приходит довериться выбору, который сам сделать не может.

Открытый код полезен инженеру, способному его прочитать. Покупателю, выбирающему уход за лицом, открытый код не даёт ничего. Он не будет читать репозиторий перед покупкой. Он не будет проверять веса модели. Он не сможет отличить честную реализацию от форка, в котором приоритеты переставлены под коммерческую логику.

В decision layer доверие нельзя строить через доступ к коду. Оно может строиться только через две вещи: архитектурные ограничения, которые невозможно обойти, и наличие конкретного лица, отвечающего за то, что система делает.

У меня медицинское образование. Сеченовский. Я понимаю, что значит протокол. Я понимаю, где проходит граница между косметологией и зоной, требующей врача.

AI-система, работающая с внешними признаками кожи и рекомендациями ухода, находится рядом с зоной, где ошибка может иметь физические последствия. Это ещё не медицина. Но это уже не обычный e-commerce.

Между бытовым состоянием кожи и состоянием, которое требует специалиста, нет визуальной границы, которую может надёжно провести алгоритм. Совет про процедуру там, где нужна консультация врача, это не баг кода. Это смещение пользователя в зону, для которой система не предназначена.

SKINBOT построен со слоем безопасности, который намного больше самой логики рекомендации. Запрещённые формулировки, исключающие клиническую авторитетность. Триггеры на красные флаги. Жёсткий отказ от диагностики. Передача к специалисту в зонах неопределённости.

Это не строки кода, которые можно скопировать. Это годы работы над тем, где система должна остановиться.

И вот ядро аргумента, ради которого вся эта статья.

В обычном софте форк это техническая копия. В медицинских и около-медицинских системах форк без safety layer это снятие предохранителя.

Открой архитектуру SKINBOT в open source, и через месяц на GitHub появится форк без ограничений. “Для агрессивных продаж”. “С функцией диагноза”. “Без избыточной осторожности”. Кто-то развернёт это в салоне, который не знает, что safety layer был не опциональной фичей, а сутью продукта.

Open source идеология предполагает, что community будет улучшать продукт. В медицинских зонах community с равной вероятностью будет его упрощать. Убирать ограничения, мешающие коммерческой выдаче. Менять формулировки, казавшиеся избыточно осторожными. Расширять зону, в которой система готова давать ответ.

Это не теоретический риск. Это базовая динамика любой открытой системы под коммерческим давлением.

Европейский AI Act не говорит, что любой wellness или beauty-AI автоматически high-risk. Он вводит риск-ориентированную логику: чем сильнее система влияет на здоровье, безопасность, права человека или регулируемые решения, тем больше требуется конкретный provider, документация, контроль обновлений, post-market мониторинг и accountability.

Article 6 и Annex III задают классификацию high-risk systems. Для таких систем регламент требует фигуру provider, конкретного юридического лица, отвечающего за каждый аспект работы продукта.

Open source сам по себе не отменяет provider.

Linux Foundation прямо пишет, что open-source exemption в AI Act не распространяется на high-risk systems: если открытая система квалифицируется как high-risk, обязательства provider возникают всё равно.

Но open source делает вопрос provider жёстче, не легче. Каждый форк, каждая модификация, каждое deployment в конкретной локации требуют своего ответственного. Если система начинает жить в десятках производных версий, accountability быстро распадается между ними так, что её фактически не остаётся ни у кого.

В закрытой архитектуре есть один отвечающий. В открытой архитектуре, попадающей в чувствительные зоны, ответственность нужно собирать заново для каждого форка. И индустрия пока не имеет инструментов это делать.

Это не философская позиция. Это структурная проблема, которую регулятор будет вынужден решать, и решение почти наверняка пойдёт в сторону усиления требований, не их ослабления

Здесь важная развилка, которую пропускают чаще всего.

Закрытый код не значит непрозрачная компания. SKINBOT публикует архитектуру safety layer, логику отказа от диагностики, принципы нейтральности, протоколы работы с данными.

Любой партнёр получает полную документацию по поведению системы в граничных ситуациях.

Любой регулятор может пройти аудит.

Закрыта конкретная реализация. Веса. Алгоритмы ранжирования. Внутренняя логика, делающая нейтральность нейтральностью.

Прозрачность принципов и закрытость реализации это разные оси. Open source идеология их склеивает, как будто одно без другого невозможно. Это не так. Можно быть полностью прозрачным в том, как ты думаешь, и полностью закрытым в том, как именно ты это сделал.

В чувствительных зонах это единственная правильная конфигурация.

Если ты строишь продукт, где AI принимает решение за пользователя, и эта зона касается тела, здоровья, денег, доступа или безопасности, тебе нужно осознанно решить, на какой стороне границы ты стоишь.

Открытость даст быстрый рост, доверие developer community, дистрибуцию через GitHub, лёгкий вход в технические разговоры.

Она же лишит контроля над тем, как твою архитектуру применяют. И в чувствительных зонах это не приемлемая цена.

Мы построили SKINBOT закрытым не только потому, что внутри спрятано что-то ценное в техническом смысле. Мы построили его закрытым еще потому что видим, что произойдёт с safety layer в момент, когда архитектура станет публичной.

И мы отвечаем не только за то, что система делает сегодня в THE FACE ONLY или в следующем пилоте. Мы отвечаем за то, что будет с её производными через два года, когда форки начнут жить собственной жизнью.

В обычном SaaS этого риска нет. В AI он есть. В медицинских и около-медицинских AI он центральный.

Главный сдвиг, который я вижу, не в том, что один лагерь победит другой.

Foundation models продолжат двигаться в сторону открытости, потому что для них это работает. Universal tools нуждаются в community, в распределённой разработке, в локальных адаптациях.

Прикладные decision layers будут двигаться в обратную сторону. Их защита это не код, а архитектурные решения, которые невозможно воспроизвести копированием. Нейтральность, safety, регуляторная привязка, отношения с регуляторами и партнёрами.

Это не два конкурирующих подхода. Это два разных уровня стека с разной гигиеной.

И когда рынок увидит это различение, разговор про open source перестанет быть моральным и станет инженерным.

Открытость хороша на слоях, где ошибка не убивает.

Закрытость нужна там, где ответственность нельзя распределить между всеми, кто читает код.

Эпоха, в которой “открыто” автоматически значит “хорошо”, заканчивается. Не потому что открытость стала хуже. Потому что AI стал серьёзнее. Когда система генерирует мем, открыть её это акт свободы. Когда система рекомендует процедуру на коже человека, открыть её это акт безответственности.

И эту разницу не должен будет объяснять регулятор. Её должен видеть тот, кто строит…