Делимся своим опытом работы с ИИ, гайдом по составлению промтов и применению ChatGPT в продукте.
Многие из вас уже пользовались нейросетями — болтали с чат-ботами, генерировали картинки по описанию или преобразовывали аудиозапись в текст. Но мало кто начал использовать ИИ как инструмент для своего бизнеса, а не просто игрушку. Потому что даже простой, юзер-френдли чат-бот — это мощная база, с которой нужно учиться работать.
В этой статье мы рассказываем, как из спринта в спринт превращаем нейросети в своих ассистентов — быстрых и сметливых. А еще делимся частью материалов закрытого воркшопа, который наш CEO Георгий Соловьев проводил для корпоративных клиентов Skyeng.
Если заказчик криво заполнил бриф, исполнитель вряд ли решит задачу, ведь без внятного ТЗ результат сами знаете какой. С нейросетями так же: умение создавать промты для ИИ — целая наука.
Еще с появлением первой ChatGPT мы в Skyeng взяли за традицию тестировать все нейросети, искать способы их применения. Сначала они не помогали решать реальные задачи и казались «глупенькими». По-настоящему оценить мощь ИИ получилось, когда осенью прошлого года вышла ChatGPT 3.5 — в ней созданы запросы, которые вы увидите дальше. А нейросеть четвертого поколения прошла наши внутренние тесты и начала интегрироваться в бизнес-процессы.
Работа над качеством запросов
ChatGPT может рассмотреть проблему под разными углами, как в методе шести шляп мышления — возьмет на себя роль критика, аналитика или креатора. Чтобы устроить «консилиум», можно попросить ChatGPT привести разные точки зрения и мнения реальных людей:
С ИИ мы общаемся и на русском, и на английском. У второго способа более выгодный алгоритм токенизации, то есть процесса разбиения нейросетью текста на составляющие. Англоязычные запросы ChatGPT считывает по словам, а запросы на русском языке — по буквам.
Мы прогнали английскую и русскую панграммы через токенизатор, чтобы это проиллюстрировать.
Русская панграмма содержит 53 символа, английская — 43. Кажется, что разница не критична. Однако на обработку английской фразы токенизатору Open AI требуется 9 токенов, а русской — аж 70. Ауч!
Чтобы получить качественный результат, мы используем несколько лайфхаков:
1. Просим нейросеть саму написать промт, чтобы узнать, какие данные ей нужны.
2. Структурируем запрос: разделяем его части знаками препинания, чтобы их нельзя было перепутать. Используем простые и понятные слова, соблюдаем правила грамматики.
3. Задаем контекст — так у нейросети будет больше данных для подбора подходящего стиля. Если не можем объяснить, что требуется, — даем пример.
Интеграции в продукт
Еще до того, как вокруг нейросетей поднялся ажиотаж, разработчики начали использовать готовые библиотеки — с их помощью пишут от 50 до 90% (!) кода. Нейросетевые помощники — например Copilot, который пишет код на основании текстовых описаний — новый этап эволюции этого процесса. Программисту остается проверить работу нейросети и внести правки. Это освобождает время для решения более важных и сложных задач.
Нейросеть умеет не только писать, но и проверять код и комментировать свои правки. Давайте «скормим» Chat GPT 3.5 кусочек скрипта с ошибками и попросим дать фидбек:
Вот ответ:
Мы сразу поняли, что эта фича может сэкономить много нервов и времени не только разработчикам, но и нашим преподавателям программирования в Skysmart Pro. Поэтому разрабатываем интеграцию, с которой не нужно искать ошибки ученика вручную — достаточно проверить код в чат-боте платформы, где проходит урок, не переключаясь на другие вкладки.
В карусели ниже — MVP-версия из фигмы наших продуктовых дизайнеров. Вид и функционал может меняться, но принцип останется тем же.
Проверка кода ученика — лишь одна из ИИ-фич для нашей платформы. Преподавателям английского мы предложили свой аналог Grammarly — сервис проверки текста Skygrammar. Он исправляет грамматические и орфографические ошибки, определяет неправильный порядок слов, находит пропущенные слова в предложениях. Текущая версия модели обучена на 1,1 млн сочинений учеников Skyeng и хорошо понимает типичные ошибки русскоязычных людей, которые учат английский.
Технология помогла существенно упростить проверку домашних заданий и снизить нагрузку на учителей: среднее время на обработку письменных ответов сократилось с 30 до 3 минут.
В планах — научить распознавать разницу между британским и американским английским, давать советы по улучшению формулировок, а еще сделать отдельное расширение для браузера и добавить антиплагиат.
Для учеников Skygrammar пока недоступен, зато у них есть «Кеша» — виртуальный собеседник на базе GPT-4. Он поддерживает устный или письменный диалог, анализирует ответы и указывает на ошибки. Заменить преподавателя Кеша не сможет (и не должен!) , но для самостоятельной практики это хорошее подспорье.
Решения для внутренних процессов
Точно так же нейросети не заменят нам редакторов и дизайнеров. Для решения многих задач требуются критическое мышление, творческий подход, чувство юмора и эмпатия — ИИ всего этого недостает. Зато нейросеть эффективно выполняет типовые задачи. Это позволяет экономить ресурс специалистов для задач с более высоким вэлью.
Нейросети не сократят нам рабочие места — они оптимизируют и ускоряют нашу работу. Те, кто научится с ними работать, приобретут ценность для бизнеса — а значит, и для своего работодателя
С помощью ИИ легко создавать типовые тексты — договоры и вакансии. Но ChatGPT 4 способна на большее. Наша команда редакции поэкспериментировала с ней в течение Q2 и разработала банк промтов с учетом редполитики Skyeng. Некоторые письма и посты для соцсетей мы теперь пишем на основе предложенных нейросетью идей — их приходится значительно дорабатывать, но так гораздо быстрее, чем писать с нуля.
Иллюстраторам и дизайнерам помогает инструмент на основе text-to-image-модели Stable Diffusion. Мы натренировали ее на нашей базе иллюстраций и теперь пробуем генерировать картинки в корпоративном стиле Skyeng по текстовому описанию и/или аналогичной картинке. Теоретически она значительно сэкономит время на создание картинок для упражнений и баннеров.
TLDR*: c чего начать работу с ИИ
*Too long, didn’t read — англоязычный акроним, встречающийся в комментариях к многословным текстам. Обычно после него следует краткое содержание написанного, сжатое до одного-двух предложений. А теперь «TLDR: (ссылка)» — это еще и команда для ChatGPT, которая позволяет решать аналогичную задачу.
Четко сформулируйте, зачем вам нужна помощь нейросети. Обязательно указывайте объем и структуру ответа, а также цель и ограничения. Чем больше в запросе будет конкретики, тем полезнее ответ вы получите.
Протестируйте разные промты, задавайте уточняющие вопросы. Это поможет получить ценную информацию, которой не было в изначальном ответе.
- Повторите английский, чтобы писать более эффективные запросы.