EKATERINA SHALEL
Основатель SKINBOT.ru Проектирую системы, а не продукты. Пишу о том, что обычно остаётся за кадром. https://t.me/shalel_notes https://t.me/skinbot_ai
В тексте я почти не говорю про эмоциональную сторону этого сдвига. Это не случайно. Эмоция здесь огромная – профессиональная идентичность многих людей построена на способности производить хорошую форму, и потеря этой способности как валюты переживается как личное обесценивание. Я не стала писать про это, чтобы статья не стала текстом про утешение. Утешение здесь не работает. Работает только пересборка того, на чём стоит профессиональная ценность
Чаще всего на эту мысль реагируют не профессии, которые AI уже задевает, а те, кого он пока не трогает. Реакция предвосхищающая. Люди чувствуют сдвиг раньше, чем он доходит до их работы, и сразу начинают защищать форму, которой ещё ничего не угрожает. Это любопытный механизм. Защитный рефлекс срабатывает на запах, а не на удар
Я не знаю, как именно рынок переучится оценивать корпус решений под давлением. Резюме формата “решал такое, отбросил такое, выбрал это и отвечал за последствия” пока не существует как стандарт. Возможно, его придумает кто-то из читателей этой статьи. Возможно, он соберётся стихийно через десять лет в практике найма. Я не предлагаю готовое решение. Я фиксирую разрыв, который видела сама и от которого слишком многие отворачиваются.
Да, это ровно то, про что я пишу. Когда система рекомендует процедуру человеку без оценки противопоказаний, ответственность размазывается. Приложение не несёт её. Клиент не знал. Косметолог получает последствия.
Кто должен регулировать на мой взгляд, все три, но в разных ролях. Государство задаёт рамку, что считается медицинским решением, а что нет. Профессиональное сообщество, такие как вы, фиксирует реальные кейсы вреда. Компании отвечают за свои продукты конкретными ограничениями.
Пока работает только третий уровень, и то не у всех. Поэтому косметологи сейчас несут на себе то, что должна нести индустрия.
Простой способ отличить: если AI отвечает на ваши вопросы это foundation model. Если AI принимает решения, которые влияют на бизнес или клиентов это decision layer. Второе требует совсем другой проверки.
По второму вопросу да, полностью закрытую систему вы не проверите. Но открытый код вам тоже ничего не даст, читать его вы не будете.
Что реально работает: требуйте от вендора описание принципов, не код. В каких случаях система отказывается отвечать. Кто конкретно отвечает, если система ошиблась. Если на эти простые вопросы ответа нет это уже сигнал, открытый продукт или закрытый.
Хороший закрытый продукт открыт в принципах и закрыт в реализации. Плохой закрытый продукт закрыт во всём.
Хочу отдельно сказать: я не против open source. Я строю на open source каждый день. Llama, Mistral, DeepSeek это инфраструктура, без которой applied AI сегодня невозможен
Моё различение не про открытость плохо, закрытость хорошо Оно про слой стека. Foundation models должны быть открытыми, потому что это инструменты, и закрытие инструментов концентрирует слишком много власти у нескольких корпораций. Applied decision layers устроены иначе, и применять к ним ту же идеологию это ошибка не моральная, а инженерная
Хороший AI-стек будущего это открытый фундамент и осмысленно закрытые прикладные слои там, где это нужно для ответственности
Эта статья не родилась из теории. Она родилась из конкретной работы.
Когда мы строили safety layer для SKINBOT, я сначала думала, что это техническая задача. Список запрещённых формулировок, триггеры, fallback-сценарии. Через несколько месяцев работы я поняла, что строим не фичу продукта, а его архитектурное ядро. Если убрать safety layer, SKINBOT перестаёт быть SKINBOT и становится просто рекомендательной системой, каких много.
Именно тогда вопрос про open source стал для меня неинтуитивным. Не мы не хотим открывать код, а то, что нас отличает, не сводится к коду, и попытка его открыть разрушит то, что мы строим
Время покажет , по пилотным данным наблюдаем другое
Мы сознательно не масштабировали до того, как проверили, что воронка держится на разных типах клиентов и разных консультантах. 80% completion на живых посетителях офлайн-ритейла – это сильно выше большинства AI-флоу, которые я видела в beauty за последние два года. Дальше будет больше точек, больше сетей и публичная динамика. Цифры сейчас уже важны тем что показывают: люди доходят до конца. Значит, продукт решает то, что обещает
Очень круто