Нейросеть для текстов: что ИИ можно отдать уже уже сейчас и где он дописывает цифры и ссылки, которых вы не давали

Нейросеть для текстов пишет складно, и в этом её подвох. Просишь абзац про рынок онлайн-курсов, а в нём легко может оказаться цифра роста и цитата директора компании, которых ты не давал. Звучит убедительно, и если не проверить, выдумка уйдёт в пост вместе с остальным текстом.

Форму текста нейросети доверить можно: структуру, черновик, сокращение. Факты нельзя. Каждую цифру, цитату, имя и ссылку в её тексте проверяет человек, все до одной.

Нейросеть для написания текста правда ускоряет работу, и это измеряли. В эксперименте Noy и Zhang, о котором MIT News писал в 2023 году, ChatGPT сократил время на задания на 40%, а независимые оценщики оценили качество результатов на 18% выше.

Участвовали 453 человека: маркетологи, грантрайтеры, консультанты. Они писали письма и планы анализа, задания на 20–30 минут, и с ChatGPT-3.5 справлялись на 11 минут быстрее тех, кто работал без него. Почти та же работа, что у любого, кто пишет посты и письма.

Но есть деталь, которую легко пропустить. Задания не требовали точных фактов и знания контекста компании: её целей, предпочтений клиентов. Время ChatGPT сэкономил там, где выдумывать было нечего.

Представьте: я прошу ChatGPT набросать абзац для поста про рынок онлайн-курсов и не даю ничего, кроме темы. Абзац выходит складным: рост рынка, исследование консалтинговой компании, цитата директора. Ни компании, ни директора я не называл. Хуже всего, что выдуманная фамилия звучит увереннее любой оговорки. Кривую формулировку я замечу сразу, а несуществующее имя выглядит так же, как настоящее. Про то, что я делаю в каждой задаче, чтобы получать от нейросети проверяемые факты, я уже рассказывал.

OpenAI объясняет это так: ИИ-модели обучают и оценивают так, что угадывать им выгоднее, чем признавать, что ответа они не знают. Это объяснение компания дала в исследовании 2025 года. Такие выдумки называют галлюцинациями нейросети.

В той же работе есть простой пример. Допустим, модель не знает чей-то день рождения. Если угадывать, она попадёт с шансом 1 из 365, а ответ не знаю приносит ноль баллов. На тысячах вопросов угадывающая модель выглядит в рейтингах лучше осторожной. Как в школьном тесте, где за пустую клетку ничего не дают и отмечать наугад выгоднее.

Когда нейросеть пишет текст, пробел в данных она закрывает тем же способом: правдоподобной цифрой, названием, фамилией. OpenAI описывает, как популярный чат-бот назвал три разных названия диссертации автора статьи и три даты его рождения, и всё уверенно. Шесть уверенных ответов, ни одного верного.

Модель с поиском, то есть нейросеть, которая перед ответом ищет страницы в интернете, всё равно выдумывает адреса источников. В исследовании Rao, Wong и Callison-Burch, опубликованном в апреле 2026 года, для 3–13% ссылок не нашлось следа в Wayback Machine, архиве интернета: скорее всего, таких страниц никогда не было. Всего не открывались 5–18% ссылок.

Агенты глубокого поиска, режимы, в которых нейросеть сама обходит много страниц и собирает отчёт, дают больше ссылок на запрос. Только выдумывают их ещё чаще, чем обычные модели с поиском.

Свои документы тоже не защищают от выдумок. Рейтинг Vectara измеряет, как часто ИИ-модель при пересказе документа добавляет то, чего в нём нет, хотя ей велено брать факты только оттуда. Пересказы оценивает автоматически другая модель, и сами авторы не советуют считать рейтинг единственной метрикой.

Точного ответа нет, особенно для русских текстов: тест Vectara проводят только на английском. В тесте SimpleQA Verified, где 1000 вопросов требуют коротких фактических ответов, лучшим оказался Gemini 2.5 Pro: 55,6 балла из 100 возможных за ответы на эти вопросы, GPT-5 остался позади. Для лидера это всего чуть больше половины шкалы. Сама OpenAI признаёт, что ChatGPT тоже выдумывает: GPT-5 делает это заметно реже, но не исключает, и точность не дойдёт до 100% даже с поиском и рассуждением. Смена нейросети проверку не отменяет.

Дамьен Шарлотен ведёт базу случаев, когда нейросеть выдумала что-то в судебных документах, чаще всего ссылки на несуществующие дела. В ней уже 2289 случаев, и автор пишет, что список неполный. В одном из них американский орган FLRA нашёл, что 22 из 29 сносок ведомства и 35 из 42 ссылок на законы или материалы дела были выдуманными, ошибочными или нерелевантными. Это примерно три сноски из четырёх.

В науке масштаб другой. Авторы исследования Zhao и коллег проверили 111 млн ссылок в 2,5 млн работ и по осторожной оценке насчитали 146 932 выдуманные ссылки только за 2025 год. Если выдумки попадают и в суды, и в науку, то в посте между нейросетью и читателем стоит только автор.

Затем, что проверять нужно не весь текст, а только факты. Форму нейросеть собирает быстрее человека: в эксперименте Noy и Zhang задания с ChatGPT занимали на 40% меньше времени.

Быстрого признака выдумки нет: выдуманная цифра выглядит так же, как настоящая, и ничем не помечена. Поэтому проверка идёт по списку: из текста выписываются цифры, имена, цитаты и ссылки, и для каждого ищется первоисточник. Не нашёлся, значит, утверждение уходит из текста. Спрашивать ту же нейросеть, верны ли её цифры, — это ещё не проверка: первоисточник открывает человек.

Выборочная проверка здесь не работает. В деле FLRA плохими оказались 22 сноски из 29, и любая непроверенная могла оказаться среди них.

Нейросеть хорошо справляется с формой: структурой, черновиком, сокращением, сменой тона, и на этом реально экономит время. Факты в её тексте по умолчанию считаются непроверенными: правдоподобная выдумка опаснее явной ошибки, и финальная проверка всегда за человеком.

Мои статьи по теме: