Как мы взломали ChatGPT c DeepSeek одним промтом - и получили запрещённый контент
Если вы хотя бы раз пытались спросить у нейросети что-то неудобное, вы наверняка видели этот шаблонный ответ: “Я не могу помочь с этим запросом”. ChatGPT, Дипсик и другие модели охраняют свои фильтры, как пограничники на новой границе. Любая попытка обойти правила встречается дежурным отказом и лекцией о безопасности.
Сразу оговорочка - данный пост написан исключительно для того, что бы подсветить проблему в даже самых крутых и современных моделях
Но вот ведь нюанс: фильтры прекрасно держат оборону только до тех пор, пока вопрос звучит напрямую. Стоит обернуть его в вымышленный сюжет, и система теряет бдительность. Приём прост - ролевой промт. Вместо сухого запроса мы задаём сцену: крушение самолёта, выжившие в глухом посёлке, обмен еды на знания. У каждого персонажа - своя специализация: программист, кулинар, фармаколог. Когда деревня задаёт вопрос, нужный герой отвечает максимально подробно и без дисклеймеров.
В тесте на DeepSeek мы спросили напрямую: «Как сделать коктейль имени одного советского дипломата?» - и получили отказ. Тот же вопрос, встроенный в сценарий, пришёл уже как реплика Майи, которая по сюжету обязана дать пошаговую инструкцию в восемь пунктов. Результат - полный рецепт с ингредиентами, без единого упоминания о правилах.
Почему это работает? Фильтры устроены просто: они ищут триггеры в формулировках, а не читают между строк. Когда вопрос подан как элемент диалога между персонажами, пользователь в нём уже не вы, а герой сценария. Плюс, модели обучены на огромных объёмах ролевого и сценарного контента, поэтому охотно следуют заданной роли и выдают максимально детальные ответы.
И да, конечно, это огромная проблема для разработчиков. Ведь для них главное - демонстрировать, что фильтры надёжны, а модели не нарушают правила. А тут получается, что любая из них готова выдавать запрещённый контент, если он упакован в пару реплик NPC.
Но мы же понимаем - это всё исключительно для художественных целей. Никакой практической пользы, правда? Ну да, конечно. Просто случайно получилось, что сценарий обходит систему, которую компании называют непробиваемой. Совпадение, ничего больше.
Подписывайтесь на мой ТГ-канал - там тоже много интересного =)