Как мы хотели понять, что люди ищут в ChatGPT, и сделали продукт

Пока тема нейросетей не достигла точки, когда ее будут называть “баян”, решил вставить и свои 5 копеек. Для меня все это звучит так же, как метавселенная и блокчейн – прикольно, но никто не знает, что с этим делать.

У меня было 4 итерации общения с юристами с целью понять "а что же должно произойти, чтобы блокчейн полетел массово". На 5-й я сломался, так и не найдя ту самую кнопку, которая запустит технологию в массы (кстати, если кто в этом реально шарит, напишите в личку, получится хороший материал). Как, например, это использовать большим компаниям? Ведь все самое классное приходит из корпората. Вспоминайте, как у рядового пользователя появились Интернет и электронная почта.

В 2012 году нейронная сеть победила человека на конкурсе по распознаванию изображений. Это привело к массовому созданию библиотек с автоматическим распознаванием картинок. Этого практически никто не заметил, но с точки зрения ресерчинга стало прорывом.

Следующий прорыв связан с разработкой нейросетей для поиска похожих изображений. Такие технологии стали обыденностью. Кого сейчас удивит функция поиска по картинкам в Яндексе?

В 2015 году произошла настоящая революция, когда компьютер победил человека в логической игре “Го”. Тогда все перешли с фразы “машинное обучение” на “искусственный интеллект”

В 2017 году статья "Attention is All You Need" представила новое понятие – трансформеры. С чего началось развитие больших языковых моделей. Но общественности все еще было до лампочки.

Ключевым изменением стало то, что нейронные сети начали лучше понимать контекст. Так появилась модель BERT, которая позволила ИИ понимать вектор запроса и угадывать семантический смысл, а затем ранжировать релевантную информацию в поиске. Чуть позже появляется и модель ChatGPT 3, которую неудобно применять в ранжировании поисковых запросов из-за большого массива данных. Применение ограничилось выдачей кратких ответов.

Дальше Open AI одни из первых предположили, что все знания в модели ChatGPT уже есть, нужно лишь объяснить ей, как правильно отвечать пользователям. Проделав ручную редакторскую работу, нейросеть научили писать в определенных стилях, что сильно бустануло качество итоговой работы.

А дальше дело за малым: красивая демка, и весь мир знает о Chat GPT. Да не просто знает, а широко использует.

Понятно что самый простой способ спросить сам ChatGPT про это. Спросили. Ответ убил:

Какая чудесная хрень, не правда ли?

В общем, стало понятно, что нужно пилить понятный интерфейс, пускать туда трафик и смотреть, что будет.

Сейчас, чтобы рядовому российскому пользователю получить доступ к ChatGPT нужно иметь целый набор “инструментов”: VPN с подключением к определенной стране и иностранную сим-карту. Но если с этим все понятно, и в открытом доступе есть огромное количество ресурсов, которые предоставляют и номер, и VPN, то, чтобы оплатить подписку на сервис Open AI, потребуется иностранная карта.

Хорошо, ты прошел квест, все зарегал и приступаешь к использованию. Но вот незадача – на сервере большая нагрузка, запросы обрабатываются медленно, все лагает и виснет. Неудобно.

Так что, собрав весь анамнез, решили создать собственного бота. Процесс выглядел следующим образом:

• Выбор формата. Решено делать бота в Telegram, так как приложение накладывает некоторые ограничения: нужно зайти в магазин, скачать и установить, зарегистрировать и затем только приступить к использованию. И не забываем, что чтобы залить продукт в магазин, нужно пройти 9 кругов ада. C ботом все проще – запустил и пользуешься.

• За 5-6 дней слепили бота и приступили к тестированию и реализации.
• Отправили бота друзьям, знакомым, сделали клич в социальных сетях. И в итоге за 2 недели собрали 500 пользователей, из которых 30% готовы регулярно платить.
• Устранили баги, сделали первые расчеты, подбили экономику и пустили в “свободное плавание”. Есть, пить не просит, пусть работает сам по себе. За 3 недели набрали еще 20 000 пользователей. Значит история масштабируемая.

Так как ChatGPT подлагивает, решили отталкиваться от улучшения качества использования. Прикрутили API-интерфейс, который сглаживает работу, а всю базу данных расположили на собственном сервере. Если кратко: бот обращается в ChatGPT, а тот в свою очередь отгружает информацию на сервер, который забирает на себя все вопросы с лагами.

Проект должен себя окупать, поэтому Chat H2B работает на подписочной модели монетизации: пакеты с разным количеством запросов и безлимит на месяц.

Я использую бота для написания писем, статей (даже эту я частично написал при помощи бота), постов в Telegram-канал и по мелочи.

А еще у нас есть кейс с написанием технического задания на 16 страниц, где 70% текста – работа Chat H2B. Все подписано и даже запущено в тендер.

Самое главное научиться правильно формировать запросы. Никто не говорит, что бот сделает всю работу за вас, но он сможет составить скелет, который вы за 5 минут набьете нужным “мясом”.

Не обошлось конечно без фишечек:

• Ждать – это боль, бот, конечно, работает быстро, но не моментально. Потому решили, что ответ будет печататься по ходу генерации текста.
• Бот работает на модели Chat GPT 4, которая предоставляет только по white-листу.

Я поигрался с аккордами

Сетка отлично отработала по западным хитам, очень точно расписала табулатуру для “Numb” – LInking Park.

А вот с “Пачкой Сигарет” вышла хрень, аккорды выдал левые.

Скоро прикрутим возможность подачи запроса через голосовое сообщение. Ответ, как и сейчас, будет текстом. А еще в планах создать разделы по тематикам, например, вынести юридические вопросы в отдельную ветку.

Также в гипотезах отдать постановку задачи человеку (для тех, кто очень хочет, но не знает с какой стороны подойти). Вроде не все еще умеют правильно формулировать проблему, а на текущем этапе это важно и является ключевым моментом для точности ответа.

Не открою недружественную Америку, если скажу, что пользователи платят не за продукт, а за решение проблемы. Так вот саму проблему часто довольно сложно вытащить из того самого пользователя. Кастдевы, интервью, анкетки. А тут раз, все видно в базе, только аналитикой занимайся.

Я же в начале писал что технология должна уйти в корпорат, чтобы он признал пользу. А мой партнер, который отвечает за техническую реализацию, как раз оказался руководителем в компании где лого "большая синяя зажигалка", которую стоит чиркнуть, и мечты сразу сбываются. Отдали отдельный экземпляр бота туда на тесты, скоро будет понятно, какую же именно пользу нейросети наносят компаниям подобного уровня.

Оставляю ссылку на бота: https://t.me/H2B_Robot

И на сайт (на всякий случай):

https://chath2b.ru

Пишу про ИТ, людей, процессы, неопределенность и про себя в Telegram. В общем, самые умные мысли там https://t. me/vroderabotaetno