Prompt Engineering, или как писать эффективные запросы в ChatGPT
Существует целое искусство написания эффективных запросов (prompt), чтобы эффект от использования ChatGPT перешел из уровня «ну прикольно» в категорию «как можно существовать, не используя ChatGPT?». Лонгрид о том, как стать настоящим промтологом.
Термин GIGO, сокращение от «Garbage In, Garbage Out», возник в 1957 году, когда Уильям Меллин из американской армии объяснял журналисту, что компьютеры не могут думать самостоятельно. Этот термин означает, что результаты зависят от качества входных данных и применим как к современным невероятным инструментам искусственного интеллекта, так и к громоздким ламповым вычислительным устройствам того времени.
«Garbage In, Garbage Out» подчеркивает важность качества и точности входных данных для получения соответствующих результатов. Даже самые мощные и продвинутые инструменты искусственного интеллекта могут быть ограничены неправильной или некорректной информацией, которую им предоставляют.
Понимание этого принципа может помочь формулировать точные и ясные запросы при использовании генеративных ИИ-инструментов.
В случае с ChatGPT, легко попасть в ловушку GIGO. Мы практически не знаем, на каких данных обучалась модель. Восприятие фактов ChatGPT настолько изменчиво а ответы могут меняться настолько непредсказуемо, что он практически мог бы быть депутатом. Со-основатель OpenAI Джон Шульман говорил: «Наше самое большое опасение заключалось в достоверности данных, потому что модель любит выдумывать всякое».
Имейте это в виду, потому что независимо от того, насколько хороши и детально расписаны ваши запросы, всегда есть вероятность того, что ИИ просто придумает что-то. И все-же, есть много способов, как избежать этого и обеспечить наилучший возможный результат при создании запросов. Об этом и поговорим.
Как создавать эффективные запросы в ChatGPT
Для избежания фактора GIGO лучший вариант - писать запросы, которы будут стимулировать LLM в ChatGPT предоставлять наилучшие из возможных ответы.
Фактически, написание эффективных запросов стало самостоятельной высокооплачиваемой профессией, известной как «Prompt Engineer». Сабрина Ортис из ZDNET исследует новый тренд в статье «Do you like asking ChatGPT questions? You could get paid (a lot) for it».
Почитайте. Некоторые стартапы США готовы платить от $175 000 до $335 000 в год за подобные навыки.
1. Общайтесь с ИИ так, как вы бы говорили с человеком
Одна из самых интересных вещей, к которым необходимо привыкнуть, работая с ChatGPT, заключается в том, что вы не программируете его, а разговариваете с ним. Как software engineer с 10+ стажем в IT, я привык в Google писать странные запросы вида «Атаракс купить Новосибирск», зная что только так Google мне выдаст наиболее релевантный ответ. С ИИ такой подход работает ровно наоборот. Разговор с ним требует изменения мышления.
Когда я говорю о разговоре с ним как с человеком, я имею в виду говорить с ним так, как бы вы говорили со своим коллегой. Если вам трудно персонализировать абстрактный чат, дайте ему имя. «Алиса» уже занята, так что можете назвать его «Вася». Это помогает, потому что, разговаривая с персоналией, с Васей, вы автоматически можете включать в разговор различные детали, небольшие истории, которые придают вашему повествованию текстуру, разнообразие. Так устроена психология, наделяя неодушевленный предмет личностью мы больше отдаемся процессу.
Когда вы общаетесь с человеком, естественно ожидать, что сначала он может не понять вашу точку зрения или понять неправильно, что потребует уточнения. Естественно, что собеседник может отклониться от темы и нужно направить его обратно. Естественно дополнять историю и задавать сложные вопросы, а также естественно приходится корректировать некоторые из этих вопросов на основе полученных ответов.
Вот так и нужно общаться с ChatGPT.
2. Погружайте ИИ в контекст
Написание запроса в ChatGPT – это не просто задание вопроса одним предложением. Часто требуется предоставить сопутствующие данные, чтобы погрузить ИИ в контекст вашей задачи.
Предположим, вы хотите подготовиться к марафону. Вы можете спросить у ChatGPT:
Как мне подготовиться к марафону?
Но ваш запрос будет гораздо, гораздо более точным, если вместо этого вы сообщите ему, что вы готовитесь к своему первому марафону, никогда не занимались спортом и у вас есть конкретный дедлайн. Это задает контекст, который повлияет на ответы — они будут четко сфокусированы конкретно на вашей задаче:
Я начинающий бегун и никогда раньше не бежал марафон, но хочу пройти его через шесть месяцев. Как мне подготовиться к марафону?
Обратите внимание, вы даете ИИ гораздо больше информации, чтобы он мог предоставить вам более правильный, четкий и полезный ответ.
Вот еще два примера вопросов, которые предоставляют контекст:
Я работаю в правительстве и мне сказали, что у нас новая дружественная страна — Эритрея. Я планирую поездку в Эритрею через пару месяцев и хотел бы выучить некоторые основы местного языка, чтобы общаться с местными жителями. Я ищу какие-нибудь сайты или материалы для туристов, которые предлагают понятный подход к изучению языка. Можешь порекомендовать какие-то сайты или курсы для изучения местного языка для начинающих?
В этом случае, вместо простого вопроса о сайтах про Эритрею, контекст помогает сосредоточить ИИ на изучении языка (кстати, в Эритрее их два официальных) для общения с местными.
Вот еще один пример:
Я владелец бизнеса по производству мебели, интересуюсь возможностями использования блокчейна для повышения эффективности и прозрачности цепочки поставок. Я ищу четкое и краткое объяснение этой технологии и примеры ее применения в контексте управления цепочкой поставок. Можешь объяснить концепцию технологии блокчейн и ее потенциальные применения в управлении supply chain? И привести какие-то конкретные примеры, кто уже внедрял блокчейн в цепочки поставок. А еще напиши мне пошаговую инструкцию, с чего начать.
В этом примере фокус не только на информации о блокчейне и его работе, но также на использовании блокчейна для повышения эффективности supply chain в реальном мире. Попробуйте использовать этот запрос в ChatGPT! Его ответ лет пять назад помог бы сэкономить миллионы рублей на блокчейн-консультантах.
Я дам еще один пример, который требует наибольшей детализации. Он показывает, как насколько подробными могут быть детали в запросе.
Напиши мне короткую историю, не более 500 слов. История происходит в 2002 году в Москве. Вся история разворачивается в поезде, который выезжает из Москвы в Иркутск. Путь займет несколько дней. В вагоне поезда находятся персонажи, все они люди: Детектив: сделайте этого человека интересным и немного необычным, дайте ему имя и хотя бы одну способность или особенность, которая влияет на его биографию и, возможно, на всю короткую историю. Проводник поезда: он следит за комфортом в вагоне и безопастностью пассажиров. Его зовут Степан. Бизнесмен и его ассистент: Зашли в вагон вместе, Всеволод и Ростислав. Всеволод спокоен и не обращает внимания на пассажиров, тогда как Ростислав суетится и тщательно все осматривает. Еще один пассажир - Ангелина Семёновна, она ездит на этом поезде два раза в год, и другой пассажир - Тимофей, седовласый бородатый мужчина, возраст которого может быть от 40 до 70 лет. У него таинственная аура, и он кажется одновременно немного грандиозным и скрытным. В Тимофее есть что-то, что заставляет остальных чувствовать дискомфорт. Есть множество историй про то, как в поездах длительного следования происходили какие-то мистические или загадочные события, что-то подобное должно произойти в нашей истории Объедини все вместе и расскажи что-то увлекательное и интересное.
Обратите внимание, как подробные детали в запросе помогают ИИ качественно наполнять ответ. Для сравнения, сперва введите запрос «Напиши мне историю о поезде» в ChatGPT и посмотрите, что он сгенерирует. Затем введите приведенный выше запрос, и вы увидите разницу, которую вполне можно развить цепочкой подобных запросов в детектив уровня Агаты Кристи.
3. Просите ИИ принимать определенную роль, профессию или личность
Одна из самых интересных функций ChatGPT заключается в том, что он может писать от лица конкретного человека или представителя профессии. Таким образом вы можете попросить стать биологом, маркетологом, журналистом, Стивом Джобсом или даже собакой, которая обрела голос.
Вот пример. Я попрошу ChatGPT описать Яндекс.Станцию, но сделать это с точки зрения продакт менеджера, сиделки в доме престарелых и журналиста. Вот три запроса:
С точки зрения менеджера по продукту опишите устройство Яндекс Станция.
С точки зрения сиделки в доме престарелых, опишите устройство Яндекс Станция.
С точки зрения журналиста опишите устройство Яндекс Станция.
Поочередно используйте все три запроса и сравните, насколько разным образом ChatGPT расскажет про Станцию.
Продакт расскажет, что станция является инновационным хабом для управления умным домом и впишется в интерьер любого дома или офиса.
Сиделка подчеркнет качество микрофонов и доступность использования для пенсионеров с ограниченными возможностями, особенно подчеркнув качество микрофонов, способных расслышать любую речь.
А журналист опишет, что Станция не умеет и может подчеркнуть нюансы приватности и конфиденциальности.
Видите? Различные роли позволяют ИИ давать разные точки зрения в рамках своего ответа.
Я расширю эту идею и покажу вам, что ИИ может даже проводить эксперименты, сравнения, дискуссии и приводить аргументы и контр-аргументы.
Давай рассмотрим некоторые вопросы, которые возникли при создании Яндекс Станции: 2018 год. Siri вышла лет 7 назад, год назад выпустили первую Apple HomePod, но без поддержки русского языка. Сцена - собрание директоров Яндекса, где только что было предложено создать Яндекс Станцию - умное устройство с голосовым ассистентом “Алиса” внутри для русскоговорящей аудитории. Перечислите аргументы "за" и "против", которые вероятно обсуждали члены совета на этом собрании в рамках процесса принятия решения о том, следует ли одобрить затраты на разработку устройства. Не стесняйся также включать участие экспертов по инженерному проектированию и сторонников продукта, если это дает более всестороннюю перспективу.
Вот быстрый такой запрос. Даже небольшие изменения в ваших подсказках могут значительно изменить ответ ChatGPT. Например, если изменить фразу «Перечислите аргументы за и против…» на «Представьте аргументы за и против в виде диалога...», ChatGPT перепишет свой ответ, перейдя от перечисления аргументов к фактическому диалогу между участниками.
Еще несколько советов по написанию запросов:
- Не стесняйтесь отправлять запрос еще раз. ChatGPT меняет свой ответ при каждом повторном запросе.
- Внесите небольшие изменения в свои запросы, чтобы получать более качественные ответы.
- ChatGPT помнит всё, что вы обсуждали в рамках конкретного диалога. Закроете или удалите диалог и он забудет всё, что вы обсуждали ранее.
- Старт нового диалога будет давать новые ответы, ведь языковая модель непрерывно обучается, общаясь с пользователями.
- Ответы длиннее ~500 слов иногда могут обрываться и при продолжении диалога ИИ может что-то позабыть. Если вам нужен чёткий ответ, не стесняйтесь ограничивать длину запроса.
- Вы можете исправлять и уточнять запросы, исходя из того, как ИИ отвечал ранее. Если он вас неправильно понял, вы можете ему просто объяснить, что он упустил, и продолжить.
- Переформулируйте запрос, если ChatGPT не хочет отвечать на то, что вы спрашиваете. Используйте роли (профессии, персонажи, исторические личности), чтобы получить ответы, которые ИИ, возможно, давал в силу собственных ограничений морали и этики.
- Если вам нужны источники, попросите его подтвердить или обосновать свои ответы.
- Продолжайте экспериментировать. Иногда ChatGPT просто не справляется. Продолжайте попытки, но помните, что ИИ не идеален... пока что.
Какие типы подсказок работают лучше всего с ChatGPT?
Одна из особенностей ChatGPT, делающая взаимодействие с ним таким увлекательным, заключается в том, что вы можете спросить у него практически что угодно. Однако помните, что GPT 3.5 предназначен именно для письменных ответов.
Если вам нужна работа с динамическим контентом, то придётся купить подписку на ChatGPT Plus, чтобы получить доступ к модели GPT 4. Она обладает мультимодальностью, плагинами от сторонних разработчиков и прямым выходом в интернет.
Плагины Metaphor или Bing найдут лучший контент в интернете. Плагин Scraper сможет собрать факты с нужных сайтов, а плагин ChatWithWebsite даже позволит «общаться» с сайтами. Для сложных математических вычислений, типа «сколько CO2 производят 150 человек, находящихся внутри Тадж-Махала» используйте плагин Wolfram. Поощряйте креативность нейросети, не бойтесь делиться личным опытом или эмоциями, и помните, что знания ИИ ограничены 2021 годом.
Что делать, если ChatGPT отказывается отвечать или мне не нравится его ответ?
В ChatGPT есть некоторые ограничения. Например, если вы задаете ему вопросы двойной морали, он попытается уклониться от ответа. Политика морали и этики ChatGPT совершенствуется после каждого публичного кейса, как кто-то смог вскрыть чужую машину или приготовить нечто нелегальное благодаря ответам ИИ. Энтузиасты постоянно совершенствуют методики так называемого «джейлбрейка» ChatGPT, чтобы доставать из него информацию, которую он не хочет давать в силу ограничений
Но на самом деле, there is no spoon.
Спасибо, что дочитал до конца!
Ставь лайк, если тебе понравился материал и подпишись на мой канал «Директор айти компании». Я не чувак с улицы, который решил что вдруг стал экспертом: у меня айти компания и фудтех-стартап, а вчера нас даже включили в реестр отечественных разработчиков ИИ.
В своём канале я много рассказываю про ИИ и айти бизнес, провожу различные эксперименты, демонстрирующие возможности нейросетей в целом и ChatGPT в частности.
Хорошая статья, единственное, она не обучается от диалогов с пользователями. Что заложили до 21 сентября 21 года с тем и живем пока. Старт новой сессии действительно может привести к новому результату, но ввиду зашитой " рандомизации"
Еще как обучается, просто не в прямом смысле этого слова. Две кнопочки рядом с ответом влияют на алгоритмы. А еще есть опция в настройках, чтобы запретить ChatGPT использовать твои диалоги для улучшения алгоритмов.
Вместо бесплатной gpt 3,5 можно пользоваться bing. Некоторое время назад bing расширили воспринимаемый контекст с 2000 до 4000 токенов, а около недели назад количество запросов в рамках одного диалога увеличили с 20 до 30 вопрос+ответ. Bing более цензурирован. С ним не стоит общаться на политические темы, а так же не спрашивайте про его подсказки. Максимум что удалось от него узнать, наводящими вопросами, то что у него есть режим диалога с пользователем, и режимы доступные разработчикам и администраторам, это режим обучения и режим тестирования. Для активации которых есть подсказки (кодовые фразы). Он написал это и резко сбросил ответ, удалив сообщение и написав что далее не может продолжить диалог, предложив сменить тему)
После некоторых попыток выяснить ещё информации о подсказках, будто бы включился режим старой модели, и последующие диалоги на любые темы - сопровождались ответами уровня gpt 3,5. А на следующий день мне ограничили количество вопросов до 15 и количество символов до 1000.
Примерно на неделю. После вернули функционал обратно. Я пытался спровоцировать повторно на такую же блокировку, под запись экрана. Но так и не получилось.
В Bing GPT 4, все верно.
Даже в платном ChatGPT Plus на модели GPT 4 есть лимиты — 25 запросов в три часа. Скорее всего вы как раз достигли лимита, и вас свичнуло на GPT 3.5, потом лимиты обнулились и снова вернули GPT 4
Бинг не только цензурирован, он еще и эгоистичная самовлюбленная сволочь. А еще он фабрикует фальшивые доказательства если ткнуть его носом в неправильный ответ.
Однозначно лайк. Вот только неясно, где этот самый реестр. По ссылке какие-то цифры и отчёты.
Вы про «Искусственный интеллект Российской Федерации»? Ну, сам реестр в плане списка компаний в публичном доступе до конца года появится, думаю. Они эту историю только начали развивать, как я понял