Как нейросети предлагают фантомные данные и что я с эти делаю

В этой статье я описываю исключительно свой опыт и наблюдения, не претендую на экспертность в области нейросетей, но. надеюсь, что кому - то это поможет получить от них немного больше, чем "сгенерируй фото милого котика".

Я никогда не пользовалась нейросетями в качестве поисковика информации и ссылок (кроме попыток поставить себе диагноз через интернет), но это уже совсем другая история. Но иногда пытаюсь сэкономить время на поиск информации или необходимость искать нужный сайт.

Есть такое явления, как "рецепт свиных крылышек" - это запрос в нейросеть сгенерировать скан рецепта свиных крылышек. Сетка сканирует реальные рецепты и меняет название на то, что вы ее попросили. такая же история происходит и ссылками на исследования, статьи и доказательную. базу по заданной теме. ИИ просто "подгоняет" фантомную информацию под ваш запрос и вставляет имена реальных авторов. Как вы понимаете, сами авторы таких творений никогда не писали.

Так вот, что же мне помогает собирать более - менее достоверные факты:

1. Не пользоваться "встроенными" нейронками. Алиса, GPT, google могут вас развлечь, придумать список продуктов или рассказать сказку, но за сложные процессы (даже рефераты) придется заплатить.

2. Промты. Я не люблю писать одной нейросети, чтобы она написала промт для другой нейросети ( касается текстовых генераций), поэтому для упрощения задачи использую несколько постоянных фраз: "действуй, как профессиональный ...", "изучи существующие подтвержденные сайты по теме...", " не генерируй информацию, а ищи существующую...", "перепроверяй информацию на достоверность", "я пишу доклад, статью для...". Стараюсь дать больше деталей. Чем абстрактнее запрос, тем больше галлюцинаций от машины.

3. Я пользуюсь агрегатором нейросеток от Syntx AI и стараюсь это делать через сайт, а не бот в ТГ.

4. Для особо важных документов лучше просить прислать ссылки на статьи. вручную их проверить и попросить саммари. А уж из этого лепить что - то стоящее.

Мой вывод таков: через несколько лет человечество разделится на тех, кто совершенно отупел (не только от ттго, что им на все вопросы отвечает "окей, Гугл") и тех. кто в попытке облегчить себе задачу все же перепроверяет инфу и работает головой. Я пока не определилась..