Недоверяем ИИ, но пользуемся: 30‑дневный план, который убирает хаос

В последние месяцы я все чаще слышу одно и то же: «Мы используем ИИ, но каждый раз сомневаемся — можно ли выпускать это наружу?» Сомнения вполне понятны. Рынок только формирует культуру работы с ИИ: у кого‑то есть удачные наработки, но общих, устоявшихся правил пока мало. Из‑за этого возникают два перекоса: либо «магическое мышление» («ИИ всё сделает сам»), либо «тотальный запрет» («ничего не трогаем»). Оба пути ведут к хаосу и потере времени.

Меня зовут Иван Юхарин — основатель AIPL и эксперт по практическому внедрению ИИ в бизнес‑процессы.

Я предлагаю смотреть проще: не «верить» или «не верить» ИИ, а построить процесс так, чтобы ошибки не били по клиентам, деньгам и закону. Ниже — пошаговая схема, которая уже сработала в проектах из недвижимости, консалтинга, логистики и клиентского сервиса.

В недвижке ИИ красиво описывает объект, но путает параметры и обещает то, чего нет. В консалтинге он ловко собирает черновики отчётов, но может принести устаревшие данные или нечаянно вытечь за периметр с клиентской информацией. В логистике ИИ предлагает маршруты и расчёты запасов, но нередко опирается на неверные допущения — и вот уже «экономия» превращается в штрафы и срывы. В коммуникации с клиентами ИИ пишет вежливо и уверенно, но ровно так же уверенно может ошибиться в деталях.

У меня были два показательных случая. Первый — в ритейле косметики: клиент пришел с внедренным ИИ-агентом. Тот подобрал товар, который при чувствительной коже мог навредить. Это тот самый «красный» сценарий: всё, что связано со здоровьем, безопасностью и деньгами клиента, проходит человеческую приёмку. Второй — с документооборотом в производстве: модель перепутала тип входящего письма и отправила его не тому отделу. Потеряли время, едва не сорвали срок тендера. Вывод — на критичных участках классификации нужна выборочная ручная проверка и простая защита от «слепых» решений.

На старте честный ответ звучит скучно, но спасает от бед: ничего не выпускаем без проверки. Как только соберём первые цифры по качеству — переводим часть задач на выборочную приёмку, оставляя стопроцентную проверку для «красных» зон. Параллельно — постоянный сбор обратной связи от бизнес‑пользователей: где ИИ попадает, где нет, какие формулировки и данные он «любит» ошибать. Это не бюрократия, а способ ускорить обучение команды и моделей.

Рутинные, регламентированные, предсказуемые задачи, у которых есть чёткий вход и понятный эталон на выходе. Черновики типовых писем и ответов клиентам (с финальной правкой менеджера). Сводки по лотам и сделкам из структурированных данных. Нормализация таблиц, очистка текста, первые версии презентаций. Расчёты с заданными «коридорами» — когда понятно, что значит «выход за рамки». Здесь ИИ — ускоритель, а не «судья последней инстанции».

Коротко: все. ИИ — ассистент, решение остаётся за человеком. Чтобы не терять крайних, назначаем двух конкретных людей на каждый вид задач: владельца результата (обычно руководитель направления) и проверяющего (редактор, методолог, старший специалист). Это простая дисциплина, но именно она удерживает планку.

Прежде чем отдавать процесс ИИ, смотрим на два пункта:1) есть ли понятный регламент исполнения,2) есть ли метрики качества.Если обоих нет — не автоматизируем. Если есть — задаём порог качества, ниже которого откатываемся к донастройке. Примеры порогов из практики: не меньше 70% клиентских писем учитывают контекст общения; не меньше 85% внутренних инструкций содержат «а/б/в» без пропусков.

При это не надо строить космический дашборд — достаточно пяти показателей, которые легко считать в Excel: доля принятых ИИ‑результатов без существенных правок, время до «принято», количество инцидентов за квартал, покрытие критичных операций чек‑листами, стоимость результата (часы сотрудников + лицензии). Если доля принятых ниже порога — возвращаемся и дорабатываем инструкции, примеры и саму постановку задач.

Неделя 1 — инвентаризация. Спокойно собираем, где уже используется ИИ: отчёты, письма, расчёты. Для каждой задачи ставим простой уровень риска: высокий/средний/низкий. Напоминаем базовые правила безопасности:– не грузим ПД и конфиденциалку в публичные сервисы без анонимизации;– избегаем «прослоек» — ботов и агрегаторов;– работаем напрямую с проверенными провайдерами.

Неделя 2 — правила и примеры. На каждый сценарий делаем одностраничный регламент «как должно быть», прикладываем 2–3 эталонных примера и пишем краткий чек‑лист приёмки. Назначаем владельца результата и проверяющего.

Неделя 3 — пилот и метрики. Запускаем 2–3 сценария (низко‑ и среднерисковые). Считаем долю принятых, время до «принято», инциденты. Фиксируем пороги — ниже порога не идём дальше.

Неделя 4 — обратная связь и корректировка. Включаем простой канал для комментариев сотрудников (форма или чат), обновляем регламенты и примеры. Часть задач переводим на выборочную проверку, «красные» — оставляем с обязательной приёмкой человеком.

Недвижимость. ИИ готовит черновик описания лота и писем покупателю. Проверяем факты, цены, тон, отсутствие лишних обещаний. Смотрим на три цифры: долю принятых писем, время ответа, число исправлений.

Консалтинг. ИИ собирает черновик раздела отчёта и список источников. Консультант подтверждает фактуру, убирает конфиденциальное, выверяет формулировки рисков. На выходе — меньше рутины, но ответственность остаётся человеческой.

Логистика и запасы. ИИ предлагает график отгрузок в заданных «коридорах». Мы проверяем сезонность, акции, верхние/нижние пороги. Если модель стабильно попадает — расширяем её зону ответственности.

Да, страшные слова вроде «152‑ФЗ» и «трансграничная передача ПД» звучат сухо, но игнорировать их нельзя. Мой базовый набор правил прост: не выгружать лишнего, фильтровать персональные данные, работать напрямую с надёжными сервисами, периодически обновлять внутренние инструкции, потому что регуляторика меняется.

«Недоверие к ИИ — справедливое следствие того, что рынок ещё очень молод. Опыт только складывается, информация часто закрыта. Поэтому мы в проектах постоянно экспериментируем, отслеживаем метрики и честно фиксируем ошибки — чтобы оставлять критичные решения за человеком, а скорость и рутину отдавать машинам».

Делюсь с вами чек‑листом "Можно ли задачу делегировать ИИ?" по ссылке

И напишите в комментариях, какие задачи вы уже пробуете отдавать ИИ — разберём на примерах.