StudGPT — нейросеть в кармане
Уже больше года я развиваю своего бота для доступа к ChatGPT. За это время случилось уже несколько витков эволюции ИИ сервисов, как на локальном Российском рынке, так и в мире.
Начну с того, что создать чат бота на API нереально просто. Потребуется сам ChatGPT, 5 минут времени и умение запускать python код. И из-за такого низкого порога входа телеграм быстро заполнился кучей GPT ботов.
На самом деле, иметь нейронку в мессенджере очень удобно. Можно не идти в гугл, который выдаст рекламные статьи с кучей воды, а написать боту и получить быстрый краткий ответ, задавая уточняющие вопросы, если потребуется. Это как написать всезнающему другу.
С недоступностью ChatGPT в России так и появилась идея проекта. Зачем включать каждый раз VPN и ждать пока прогрузится сайт, когда можно просто задать вопрос боту.
Нейронка для студентов
Мы позиционируем проект как универсальный помощник в учебе, сейчас он так и продвигается. Но возможности применения обширные - такой инструмент может стать неплохим повседневным помощником и ассистентом в работе.
Учась в ЮФУ, я привязал к боту авторизацию через корпоративную почту университета и выдавал подписки своим коллегам студентам.
В короткое время нами начали пользоваться 3 тысячи студентов и мое имя хорошо знают в стенах вуза.
Фичи
Диалог по реплаям - каждое новое сообщение боту это новый диалог. Чтобы бот запомнил цепочку, надо просто отвечать на его сообщения. Таким образом можно делать разветвленные диалоги, удобнее, чем в любом веб интерфейсе. Если нейронка ответила какую-то фигню и тебе надо перефразировать свой вопрос, то можно просто снова тегнуть предыдущий ответ. Никаких команд для сброса истории и так далее. Лично для меня это удобнейшая фича.
Распознавание изображений - внедрил сразу как гугл дал API к Gemini. Боту можно отправить картинку и он поймет что на ней изображено. Можно, например, спрашивать что за сорт кактуса стоит у вас на подоконнике.
Чат по PDF - Новинка™ - добавил на прошлой неделе, разработка заняла очень много времени. По сути, это обычный RAG. Ты отправляешь боту документ, он преобразует его нейронкой в текст и разбивает на чанки, с которыми потом работает нейросеть. Фича есть уже много где, но для студентов это килер фича. Можно скормить мануал по микроконтроллеру и задавать боту вопросы с лабника, чтобы не тратить свое драгоценное время (шутка)
Что под капотом?
Разработка это отдельная история. Из простейшего мини бота проект перерос в полноценный движок для нейронок. Все написано на Python, для бота библиотека aiogram 3. Бд - MongoDB.
Нейронки: Gemini Flash и GPT-4o
Для нейросетей написан самодельный коннектор, мы с командой сделали крутую разработку - написали свой аналог langchain (популярная библиотека для работы с LLM). Размещено все на российском сервере, поэтому поверх еще висит HTTP прокси.
Универсальный инструмент
Ботом можно бесплатно воспользоваться в телеграме - https://t.me/ai_studgpt_bot
Наш сайт - https://studgpt.ru
🤗 В комментариях буду рад вашей критике, предложениям, пожеланиям