AI-Security Hygiene: 5 проверок до подключения любой AI-платформы

Практический чеклист после утечки Lovable (8 миллионов пользователей, BOLA-уязвимость, Stripe-ключи в открытом доступе). За полчаса вы поймёте, насколько ваш AI-периметр дырявый и что чинить в первую очередь.

За последние 10 дней три крупных security-инцидента на AI-платформах:

16 апреля, Flowise. RCE-уязвимость (Remote Code Execution) в AI-workflow платформе. 20 апреля, Context.ai. Breach с утечкой пользовательских данных. 21 апреля, Lovable. 8 миллионов пользователей, BOLA, утечка истории AI-чатов + Stripe IDs + API-ключей.

Паттерн: AI-инструменты строятся в темпе гонки, security-слой прикручивается потом. Для компании 10-200 человек, которая подключила AI-инструменты в последние 2-3 квартала, ваш периметр расширился. Вопрос уже не «случится ли инцидент», а «узнаете ли вы о нём своевременно».

Эти 5 проверок занимают 30 минут вашего времени и 2-3 часа вашего CTO или привлечённого консультанта. Результат: понимание, где у вас самые дешёвые и самые дорогие дыры.

Что проверяем. Логи взаимодействия сотрудников с AI-инструментами (ChatGPT, Claude, Gemini, внутренние AI-продукты на OpenAI API, AI-фичи в Notion/Slack/других SaaS).

Как проверить. Откройте privacy policy каждого AI-инструмента, которым пользуется команда. Ищите две вещи: (1) Кто имеет доступ к логам на стороне vendor. (2) Какие сотрудники vendor могут читать ваши промпты (для обучения моделей, улучшения продукта, support).

Красные флаги. Фраза «we may use your data for model training» без opt-out. Отсутствие enterprise-плана с data isolation. Логи чатов хранятся более 90 дней без возможности удаления.

Действие. Для чувствительных задач, enterprise-планы с заключённым DPA (Data Processing Agreement). Для экспериментов, задайте правило: никакой персональной информации клиентов в чатах с публичным AI.

Что проверяем. Каждый раз, когда сотрудник или AI-агент использует API-ключ (к вашей базе, к Stripe, к CRM), этот ключ попадает куда-то. В историю чата, в лог, в переменную окружения, в переписку в Slack.

Как проверить. Grep по Slack-истории команды: ищите строки, содержащие sk_, pk_, api_key, secret. Откройте последние 20 чатов с AI, проверьте, не кидал ли кто-то туда credentials «для удобства».

Красные флаги. Ключи в Slack-переписке старше 30 дней. Production-ключи с правами на запись у сотрудников, которым достаточно read-only. API-ключи, которые никогда не ротировались.

Действие. Ротация всех ключей, найденных в чатах. Separation: read-only ключи для аналитики, write-доступ только через secured backend. Secrets manager (AWS Secrets Manager, HashiCorp Vault, 1Password Business), не переменные окружения на машинах разработчиков.

Что проверяем. Права доступа в ChatGPT Teams, Claude Teams, Anthropic Console, OpenAI Platform, вашем внутреннем AI-инструменте.

Как проверить. Откройте список пользователей в каждой платформе. Посмотрите: (1) Кто из бывших сотрудников всё ещё имеет доступ. (2) У скольких людей роль admin. (3) Кто может приглашать новых пользователей и тратить бюджет.

Красные флаги. Больше 20% пользователей с ролью admin. Отсутствие регулярного audit ролей (квартального). Бывшие сотрудники всё ещё числятся в системе.

Действие. Audit ролей раз в квартал. Принцип least privilege: admin права только тем, кто реально настраивает систему. SSO/SAML для enterprise-платформ, чтобы при увольнении блокировать доступ централизованно.

Что проверяем. Типы данных, которые сотрудники загружают в AI-инструменты как контекст.

Как проверить. 30-минутное упражнение с командой. Каждый по очереди называет 3 последних задачи с AI и какие данные использовал. Составьте список типов данных: персональные данные клиентов, финансовые прогнозы, внутренние документы, исходный код, переписка с клиентами.

Красные флаги. Персональные данные клиентов в публичных AI. Исходный код с секретами. Стратегические документы в AI без enterprise-DPA.

Действие. Политика для команды: 3 уровня. Зелёный уровень (публичная информация), можно использовать любой AI. Жёлтый (внутренние процессы, без персональных данных клиентов), только enterprise-AI с DPA. Красный (персональные данные, финансы, секреты), либо локальный AI (Ollama, LM Studio), либо вообще не AI.

Что проверяем. Узнаете ли вы своевременно, если один из ваших AI-инструментов взломали.

Как проверить. Задайте вопрос: «Если завтра утечёт база Claude/OpenAI/Notion, через сколько часов мы это узнаем? Кто первый заметит? Что мы сделаем в первые 4 часа?».

Если команда не может ответить, это и есть приоритетная задача.

Красные флаги. Нет настроенной подписки на security-бюллетени vendor-ов. Нет внутреннего чеклиста действий при breach. Нет ответственного за мониторинг security-инцидентов у ключевых AI-инструментов.

Действие. Подпишитесь на security notifications каждого AI-инструмента. Составьте breach response checklist на одну страницу: кто извещает кого, какие ключи ротируются первыми, когда уведомляется юрист, когда клиенты. Проиграйте сценарий на staging-окружении, 1 раз в квартал.

Эти 5 проверок, минимальный baseline. За 30 минут они покажут, где у вас зияющие дыры. Они не заменяют полный AI-security audit, но дают быструю карту рисков.

Больше разборов AI для бизнеса - в Telegram: Telegram