Попытка кражи нейросети Gemini: детали инцидента

Кто-то попытался украсть нейросеть Gemini.

Неизвестные отправили модели более 100 000 специально сконструированных запросов, пытаясь извлечь не ответы, а цепочки рассуждений — внутреннюю логику, по которой Gemini решает задачи.

Google называет это distillation attack: собрать достаточно данных, чтобы обучить собственную модель, копирующую оригинал. Атакующие подбирали типы вопросов и переключались между языками, чтобы обойти мониторинг, но Google засёк аномальную активность и заблокировал аккаунты.

По оценке компании, за атакой стоят не хакеры, а частные компании и исследователи, пытающиеся получить преимущество.

OpenAI ранее обвиняли DeepSeek в аналогичной дистилляции своих моделей. Если история повторяется — ждём новую версию DeepSeek, подозрительно хорошую в рассуждениях 🤫

Подписывайтесь на Telegram Робот сочинит симфонию?.