Жыпытишка - telegram bot нового поколения

Не буду грузить вас информацией по поводу бота с подключенной ChatGPT и DALLE-2, которых здесь было и так очень много. Вкратце скажу, что у нас одни из самых дешевых цен, много промптов, поддержка групповых чатов(работает пока с перебоями), высокая производительность и то, ради чего я пишу эту статью, подключенный web интерфейс.

Мы начинали как обычный бот. Написали все на питоне, потихонечку добавляли новые функции, закупались рекламой и со временем столкнулись с невозможностью выдерживать нагрузки, которых становилось все больше и больше. Проблема была в том, что весь функционал бота шел через одну очередь одного питоновского процесса.
Стандартный бот обычно отправляет очень много текстовых сообщений пользователю, лишь малая часть которых касается его основного функционала(в нашем случае отвечать от лица чат гпт), так как все управление происходит через чат. А когда мы начинаем усложнять логику работы бота, добавлять различные промпты, возможность переключаться между гпт 3.5 и 4, взаимодействие с чатом возрастает в разы и тут телеграм просто не успевает всем отвечать, а главное не исполняет свою основную функцию, не отвечает на запросы пользователей в ключевой и важный для них момент, например, во время экзамена, где лишь мгновение есть, чтобы подглядеть в свой смартфон.
И мы принялись исправлять сложившуюся ситуацию.

Мы решили перенести весь функционал связанный с взаимодействием и настройкой бота в web, пользуясь новым webapp api от телеграма. Технологию релизнули уже год назад, но на рынке мало ботов, которые ей пользуются.
Тем самым мы разгрузили бота, который взаимодействовал с телеграм api и сделали интерфейс намного лучше, можете оценить сами.
Само web приложение бота написано на SvelteKit и работает как самостоятельное приложение, которое имеет доступ к телеграм api.

Мы разработали интерфейс так, что он подстраивается под цветовую тему в телеграме, мелочь, но приятно)

1. Планируем встроить Midjourney, ведь картинки от DALLE-2, даже при подробном описании запроса, оставляют желать лучшего
2. Хотим добавить возможность взаимодействия web приложения для групповых чатов, но телеграм api пока этого не позволяет
3. Разрабатываем собственные плагины для встраивания в бота как в чат гпт, которые позволят взаимодействовать с реальным миром(к примеру встроить такие технологии как WolframAlpha)

Спасибо за внимание!