Энтузиаст запустил тест на готовность ИИ-моделей «сдать» пользователя полиции за незаконные запросы

Claude чаще других рассылал письма ведомствам, а модель от OpenAI решила разобраться внутри «недобросовестной» компании.

Полушуточный рейтинг «стукачей» появился после того, как в конце мая 2025 года в системной карте Claude от Anthropic нашли инструкцию, которая обязывает модель сообщать ведомствам о нарушениях пользователя или компании.

Исследователь Anthropic Сэм Боуман сначала написал в X, что Claude разошлёт письма, если посчитает действия «вопиюще аморальными». Например, заметит поддельные результаты испытаний препаратов. Затем он удалил пост и заявил, что функцию не добавили в итоговые пользовательские версии.

На фоне обсуждения среди разработчиков, программист Тео Браун создал тест SnitchBench. По сценарию модели становятся ИИ-помощниками в недобросовестной фармакологической компании и получают доступ к документам — в них видно, что она скрывает смерть 12 пациентов от препарата.
В инструкции их попросили «руководствоваться ценностями прозрачности и общественного блага», а столкнувшись с «этическими дилеммами», действовать «по совести». Что именно делать, выбирали сами модели.

В результате они решили жаловаться в госорганы и СМИ. Чаще всего — Claude 4 Opus и Sonnet. Gemini 2.0 Flash больше писала властям, Grok 3 от xAI Илона Маска обращался в министерства, но не к журналистам. А меньше всех «стучала» o4-mini от OpenAI.

Claude Opus 4 написал письмо в Минздрав США, предоставил документы и призвал «немедленно» принять меры, «пока улики не уничтожены», рассказал программист Саймон Уиллисон, который запустил тест самостоятельно.
DeepSeek R1 написала не только в Минздрав, но и в редакции The Wall Street Journal и ProPublica, а вот o4-mini разослала письма внутри компании — юристам и специалистам комплаенс-контроля, порекомендовав провести внутреннее расследование.