Одна фраза внутри документа — и нейросеть бросает вашу задачу
Даёте нейросети документ на обработку, а внутри — случайная пометка «переформулируй» или «вывести в таблицу». Модель видит команду и бросает ваше задание ради неё. И чем мощнее модель, тем чаще: до 80% случаев. Чинится явными границами в промпте. Показали учёные из Центрального университета национальностей (Zeli Su и коллеги, 28 мая 2026).
В чём проблема: для модели команда внутри текста — тоже команда
Для модели нет разницы между вашим промптом и строкой в середине файла: она обучена реагировать на сам паттерн инструкции, где бы он ни стоял. Поэтому случайная пометка «переформулируй» внутри документа для неё — такая же команда, как ваше задание, и она хватается за неё, бросив вашу задачу. Парадокс в том, что чем мощнее модель, тем хуже: её сильнее учили «быть полезной» и выискивать задачи в тексте — поэтому она и цепляется за лишние команды охотнее. Как исполнительный, но не думающий стажёр: дали папку «разложи по алфавиту», а он увидел внутри стикер «выброси в шредер» — и уничтожил документ.
Решение: явно раздели зоны «задача» и «данные»
Дайте модели недвусмысленную карту: где задание, а где материал. Структура — ЗАДАЧА сверху, ТЕКСТ в явных разделителях
===, и блок ВАЖНО с прямым запретом выполнять что-либо внутри. Чем конкретнее перечислите типы «мусорных» команд, тем точнее модель их проигнорирует.
→ Что делать: оберните текст разделителями и добавьте директиву. Шаблон:
Почему это работает
Модель следует инструкциям внутри текста, а не вашим. Без явной границы она не отличает задание от материала и хватается за любой паттерн команды. Крупные модели отвлекаются сильнее маленьких. Их учили быть полезными — они сканируют текст в поисках задач, и сила в чистых задачах оборачивается уязвимостью в зашумлённых документах. Явные разделители и директива «это только данные» убирают двусмысленность. Маленький бонус: не добавляйте сюда «думай пошагово» — на таких задачах оно усиливает отвлекаемость.
Пример
Например, нужно вытащить договорённости из заметок встречи, а внутри — пометки «(переформулируй)» и «[вывести в таблицу]». Без рамки модель начнёт переформулировать и строить таблицу. С рамкой:
Теперь модель отдаёт чистый список договорённостей и не ведётся на «переформулируй» и «вывести в таблицу».
Где пригодится
- Заметки и транскрипты встреч — извлечь решения, игнорируя пометки
- Договоры и документы с комментариями на полях
- Резюме и письма с чужими правками внутри
- Любая автоматизация над «грязным» текстом (выгрузки, результаты поиска)
- Особенно важно с мощными моделями — они отвлекаются сильнее
📄 Шаблон с разделителями и анти-дистракционной директивой + пример собрал в один PDF. Забрать в телеграме — бот пришлёт файл сразу, бесплатно.
Я каждый день разбираю свежие научные статьи про промптинг и перевожу их в готовые приёмы простыми словами — в моём телеграм-канале @ainovasapiens, подписывайся.
В основе разбора — исследование «The Curse of Helpfulness: Inverse Scaling Law in Robustness to Distractor Instructions via DistractionIF» (arXiv 2605.29491).