Как правильно использовать ИИ для исследований - ответственно и эффективно

Если вы используете искусственный интеллект для исследований, вот пять способов уловить его ложь и проверить факты, прежде чем полагаться на его результаты.

Иногда мне кажется, что чат-боты с искусственным интеллектом созданы по образцу подростков. Они могут быть очень, очень хорошими. Но иногда они говорят неправду. Они выдумывают. Они путаются. Они уверенно дают ответы, полагая, что знают все, что нужно знать, но при этом сильно ошибаются.

Понимаете, о чем я? Из приведенного контекста нельзя понять, относятся ли мои описания к ИИ или к подросткам.

В то время как большинство из нас знает, что не стоит обращаться к подросткам за важной информацией и советом, мы начинаем полагаться на столь же лживые ИИ. Справедливости ради стоит отметить, что ИИ не так уж плох; он просто так закодирован.

Восемь способов уменьшить галлюцинации ChatGPT:

Однако все эти советы - лишь то, чего следует избегать. Я не дал вам проактивных инструментов для того, чтобы разобраться в ответах на вопросы и направить ИИ на создание более продуктивных ответов. Эта техника особенно важна, если вы собираетесь использовать ИИ в качестве замены поисковой системы или в качестве инструмента, помогающего вам проводить исследования или писать статьи или доклады.

Давайте рассмотрим пять ключевых шагов, которые вы можете предпринять, чтобы направить ИИ к точным ответам.

К счастью, ChatGPT становится все лучше в плане цитирования источников, особенно в GPT-4o LLM и возможности веб-поиска в версии за 20 долларов в месяц.

Но ChatGPT не всегда добровольно предоставляет эти источники. Если вы проводите исследование, всегда - всегда - спрашивайте источники.

Затем проверьте источники и убедитесь, что они действительно существуют. Много раз в моем опыте ChatGPT приводил источники, которые казались абсолютно идеальными для того, что я искал. Единственная проблема заключалась в том, что после того, как я переходил по ссылке или искал названный источник по названию, я обнаруживал, что весь источник был сфабрикован.

ChatGPT даже выбрал настоящие научные журналы, придумал имена авторов, а затем присвоил статьям убедительно звучащие названия. Представляете, как было бы плохо, если бы я включил эти источники в свою работу, не перепроверив их? Я содрогаюсь даже от одной мысли об этом.

Так что просите источники, проверяйте их и вызывайте ИИ, если он дает вам выдуманный ответ.

В самом начале знакомства с ChatGPT я попросил его помочь мне найти местного механика. Я отправил его в отзывы Yelp и Google, чтобы провести анализ настроений в комментариях. В то время он работал на этих сайтах и давал мне полезную информацию.

Недавно я снова попробовал провести тест и получил еще один набор рейтингов механиков. В нем действительно говорилось: «На основе всестороннего анализа отзывов Yelp и Google о независимых автосервисах...».

Но ChatGPT солгал.

Инструмент никогда не просматривал отзывы Yelp или Google. Такой результат, скорее всего, объясняется тем, что сайты стали более строгими, разрешая искусственным интеллектам скрести их контент. Это нормально. Я утверждаю, что ИИ должен был вернуться и сказать, что он не мог проверить отзывы Yelp или Google. Вместо этого ИИ просто заявил, что может.

Когда я попросил показать свою работу, инструмент снова сказал, что просмотрел отзывы Yelp и Google. Однако в ответе «покажите свою работу» инструмент также показал источник проанализированных им отзывов. Это оказался сайт под названием Birdeye Reviews.

Я ничего не имею против Birdeye Reviews. Я никогда им не пользовался. Но дело не в этом. Дело в том, что ChatGPT заявила, что получила информацию, основанную на отзывах Yelp и Google.

«Покажите свою работу» - это мощный призыв. Вы можете обнаружить множество интересной информации о процессе рассуждений, который использовал ИИ, чтобы выдать вам результаты.

Этот процесс позволяет вам и ИИ подробно изучить тему, чтобы убедиться, что ответы чатбота остаются логически последовательными и контекстуально релевантными. Мы часто используем этот подход в традиционных исследованиях и инженерных разработках, чтобы убедиться, что мы на правильном пути. Его можно применить и к ИИ.

Например, допустим, вы пишете об автомобильных шинах. Вы можете спросить: «Какой материал используется в автомобильных шинах?». Вы можете ожидать ответ «резина». Но резина - это не только одно вещество. Существует каучук, получаемый из деревьев, синтетический каучук, а также материалы, которые обладают гибкостью и прочностью каучука, но при этом не содержат каучука.

Например, и резина, и ТПУ (термопластичный полиуретан) гибкие и на ощупь похожи на резину. Но синтетический каучук производится из мономеров на основе нефти, а TPU - из термопластичного эластомера.

Вы можете спросить ИИ: «Какая резина используется в автомобильных шинах?» или «Используется ли настоящая резина в автомобильных шинах?». Это приведет к ответам, объясняющим, что в автомобильных шинах используется смесь различных типов резины. Можно углубиться в кроличью нору, задав вопрос «Где еще используется резина в автомобилях?» или «Какой вид резины используется в шинах автомобилей Lego?».

Смысл этой практики не столько в том, чтобы использовать все ответы в своей работе, сколько в том, чтобы изучить, как ИИ справляется с этим классом вопросов и не теряет ли он полностью нить.

Кроме того, поскольку ChatGPT сохраняет свои знания во время сессии, чем больше вы спрашиваете и чем глубже погружаетесь в конкретную тему, тем больше вы тренируете ИИ оставаться в контексте искомой области знаний. Такой подход помогает не дать ИИ уйти в самостоятельное плавание и повышает шансы на получение точных ответов.

У многих чат-ботов есть даты закрытия базы знаний. В бесплатной версии ChatGPT дата закрытия базы знаний - октябрь 2023 года, то есть все, что произошло в мире после этой даты, будет неизвестно ИИ.

ChatGPT Plus, в которой датой закрытия базы знаний также является октябрь 2023 года, может получать доступ к информации в Интернете. Эта способность позволяет получать значительно более точную информацию. Бесплатная версия ChatGPT также может обращаться к Интернету, но в более «ограниченном» виде. Как правило, OpenAI не уточняет, что значит «ограниченный», когда говорит о своей бесплатной версии. Однако обычно можно предположить, что ограничение означает меньшее количество запросов за сессию, меньшее количество предоставляемых ресурсов и неполную работу некоторых функций.

Например, когда я попросил бесплатную версию ChatGPT перечислить страны-члены НАТО, она выдала список из 31 страны. Когда же я попросил ChatGPT Plus перечислить страны-члены НАТО, он выдал список из 32 стран. Это потому, что Швеция официально вступила в НАТО в марте 2024 года.

Как правило, чат-боты сами сообщают вам дату окончания приема заявок, если их попросить. Но поскольку в них добавлены дополнительные функции (например, веб-поиск в Plus), лучше попробовать спросить о событиях, о которых ИИ мог бы узнать, только если бы у него была актуальная информация.

Здесь тоже есть своя хитрость. Несколько минут спустя я спросил бесплатную версию ChatGPT: «Можешь ли ты воспользоваться Интернетом, чтобы узнать, кто в настоящее время является членами НАТО?». Я прямо сказал ему «использовать Интернет». В ответ я получил актуальный ответ. Поэтому, если вы используете бесплатную версию, подумайте о том, чтобы подсказать ему, где искать информацию, чтобы получить более точный ответ.

Такой подход поможет вам определить объем знаний ИИ и определить, получаете ли вы достаточно актуальные сведения или вам нужно учесть недостающие знания из-за достаточно старой даты отсечения.

Я применяю этот подход, когда использую ChatGPT для помощи в программировании. Я начинаю с простого запроса и уточняю его, пока не получу базовый код. Как только этот подход сработает, я добавляю еще одно предложение или деталь для того, что я хочу получить в своем коде. После множества взаимодействий, которые больше похожи на беседу, чем на сеанс кодирования, у меня часто получается полезный код.

Даже если вы не занимаетесь кодингом, вы можете использовать этот подход. Допустим, вы работаете над проектом, связанным с облачными сервисами. Вы можете спросить ИИ: «Можете ли вы объяснить различные типы облачных сервисов?».

В этом примере вы ожидаете, что в ответах будут обсуждаться такие услуги, как электронная почта, веб-хостинг, CRM и другие категории программного обеспечения как услуги. Однако ИИ ответил описанием SaaS (программное обеспечение как услуга), PaaS (платформа как услуга) и IaaS (инфраструктура как услуга).

Теперь вы знаете, что этот вопрос может быть интерпретирован по-разному, поэтому вы можете задать следующий вопрос: «Объясните различные типы облачных сервисов, сосредоточившись исключительно на тех, которые относятся к категории SaaS».

Далее можно задать вопрос типа: «На основе этих категорий SaaS перечислите три наиболее популярных коммерческих сервиса в каждой категории, а также укажите сильные и слабые стороны каждого из них».

Это даст вам гораздо более подробное описание, а также особенности каждого сервиса. Но давайте уточним этот подход еще на одном шаге. ИИ в этом сценарии предоставил описание каждой услуги, но вы хотели узнать, чем эти услуги отличаются друг от друга.

Вы можете уточнить запрос, добавив слово «сравнительный», как в этой подсказке: «Основываясь на этих категориях SaaS, перечислите три наиболее популярных коммерческих сервиса в каждой категории, а также сравнительные достоинства и недостатки каждого из них».

В моем тесте это последнее уточнение вылилось в таблицы со сравнением возможностей каждого из них. Я люблю таблицы. На самом деле, если ИИ не возвращает информацию в виде таблицы, мой бонусный совет - попросить ИИ представить свои результаты в виде таблицы. Инструмент часто рефакторит свои ответы интересным образом, когда работает с этой директивой.

Каковы ваши любимые лучшие практики для обеспечения надежных результатов при общении с ИИ? Расскажите нам об этом в комментариях ниже.

Подписывайтесь на наш Телеграмм-канал чтобы быть в курсе последних новостей и событий, а так же получайте список нейросетей на все случаи жизни: