Как я получил бесплатный доступ ко всем AI моделям через Telegram

Сразу извинюсь за кликбейтный заголовок — он ровно настолько кликбейтный, насколько правдивый: просто у истории есть нюансы, и все они ниже.

Года три я вообще ничего не писал. Ни на vc.ru, ни где либо ещё. Не то что бы разлюбил — просто закрутился: развивался, работал, менял стек, менял проекты, было не до статей. Написание текстов как-то само по себе отвалилось из списка приоритетов, и я даже не заметил, как прошло три года.
А вернулся я к этому делу благодаря тому, что подсел на нейронки. Не в смысле "модно спросить у GPT рецепт борща", а в смысле реально плотно — код, тексты, тупые бытовые вопросы вместо гугла, всё туда. И вот, копаясь в старых архивах, я откопал свой древний проект — телеграм-бота на библиотеке g4f gpt4free, который позволяет дёргать нейросети через бесплатных провайдеров, без API-ключей и подписок (какого мое удивление, что она все еще .

github.com

GitHub - xtekky/gpt4free: The official gpt4free repository | various collection of powerful language models | opus 4.6 gpt 5.3 kimi 2.5 deepseek v3.2 gemini 3

Запустил бота на удачу — а он взял и заработал. Спустя столько лет, столько смен версий g4f, столько всего — работает. Это меня настолько воодушевило, что я решил не просто порадоваться и забыть, а реально довести проект до ума. И заодно — раз уж я снова что-то пишу руками не для работы — вспомнить, как писать статьи.Так что вот, ловите историю про то, как маленький ботик с одним промптом превратился в что-то похожее на полноценный ChatGPT-клиент прямо в Telegram (нет, но я так хочу думать).

Для тех, кто не в теме: gpt4free — это опенсорсная библиотека, которая агрегирует кучу бесплатных (и не очень легальных, чего уж скрывать) способов дёрнуть разные нейросети — GPT, Claude, Gemini, DeepSeek и десятки других — без единого платного API-ключа. По сути это обёртка над кучей веб-версий и открытых эндпоинтов разных сервисов, приведённая к одному общему интерфейсу, максимально похожему на официальный OpenAI SDK.Работает это не идеально стабильно (об этом ниже будет отдельный больной абзац), но когда работает — работает бесплатно и достаточно хорошо, и это уже неплохо.

github.com

GitHub - xtekky/gpt4free: The official gpt4free repository | various collection of powerful language models | opus 4.6 gpt 5.3 kimi 2.5 deepseek v3.2 gemini 3

Первая версия бота была максимально простой затеей на один вечер: один файл, синхронный `pyTelegramBotAPI`, устаревший вызов `g4f.ChatCompletion.create`, и вся "база данных" — это словарь в оперативной памяти `dialogs = {}`, где на каждого пользователя копилась общая история сообщений. Без персистентности (рестарт бота — прощай история), без выбора чего-либо, без вообще ничего (но это был вечерний pet-проект). Единсвенное, что там было реально прикольно - всегда в начала истории (которая не поддерживась g4f вообще, но путем експерементов было придуманно как ее сделать) пихался системный пром. Путем эксперементов трех летней давности было вявленно, что почти все модели принимают первое сообщение с определенным JSON массивом - как историю сообщений. + На тот момент только вышел BingAI - и он был бесплатным и самым шустрым и единсвенным с бесплатным GPT3 - поэтому я использовал только его. А еще он генерировал картинки, которые можно было извлекать из ответов (ну все это старые и единсвенные плюшки, страго проекта).

Я решил не мелочиться и впихнуть в бота максимум того, что вообще имеет смысл в ChatGPT-подобном клиенте:

Неограниченное количество отдельных чатов — создавай, переименовывай, архивируй, удаляй, переключайся между ними в любой момент.
Папки для организации чатов.
Избранное и закреплённые чаты.
Полноценная история сообщений с деревом веток — можно откатиться на любое сообщение в диалоге и продолжить с него как с новой ветки.
Готовые роли-пресеты (Кодер, Учитель, Юрист, Доктор, Маркетолог, Дизайнер) с заранее прописанными системными промптами.
- Этого мне было мало и я еще сделал, настройку кастомных пресетов.
Опциональная долговременная память — бот может запоминать факты про тебя (имя, предпочтения) между чатами, если сам разрешишь. (Я это иногда использую в чатах, что бы отвечать на вопросы HR-ов про себя и мой стек).
Потоковая генерация ответа (стриминг, как в настоящем ChatGPT — текст печатается на лету).
Экспорт истории переписки.
Статистика использования — сколько чатов, сообщений, токенов (хотя на сженные токены нам все равно, т.к. у нас их бесконечно много - но пусть будут для статистики)
- Это самый сырой раздел, т.к. я его писал последним и особо не тестировал.

Цель была простая: сделать максимально бесплатный и максимально жирный GPT-клиент в Telegram — чтобы можно было быстро спросить какую-нибудь тупость вместо того, чтобы открывать гугл или жечь свои лимиты. Что бы было очень просто всегда под рукой, закинуть свои вопросы туда. Собсвенно, результатом данной цели являеться ботик @GussiTradeGPTbot (пока MVP - но все же достаточно удобно)

Раз уж бот вырос до отдельного мини-приложения внутри Telegram — расскажу, как я это всё разложил по экранам.

После `/start` я показываю приветствие и главное меню — четыре ряда инлайн-кнопок:
- 💬 Мои чаты / ➕ Новый чат
- ⭐ Избранное / 📂 Архив
- 🗂 Папки / 📊 Статистика
- ⚙ Настройки / ℹ Помощь

Собирается это меню одной маленькой функцией — вот она целиком, для понимания масштаба (это буквально весь код одного экрана):

def build_main_menu() -> types.InlineKeyboardMarkup: kb = types.InlineKeyboardMarkup(row_width=2) kb.add( types.InlineKeyboardButton("💬 Мои чаты", callback_data="menu:chats"), types.InlineKeyboardButton("➕ Новый чат", callback_data="menu:new_chat"), ) kb.add( types.InlineKeyboardButton("⭐ Избранное", callback_data="menu:favorites"), types.InlineKeyboardButton("📂 Архив", callback_data="menu:archive"), ) kb.add( types.InlineKeyboardButton("🗂 Папки", callback_data="menu:folders"), types.InlineKeyboardButton("📊 Статистика", callback_data="menu:stats"), ) kb.add( types.InlineKeyboardButton("⚙ Настройки", callback_data="menu:settings"), types.InlineKeyboardButton("ℹ Помощь", callback_data="menu:help"), ) return kb

💬 Мои чаты" открывает список всех активных чатов — закреплённые сверху, дальше по дате последнего сообщения. Тап по чату открывает его карточку — превью настроек и подменю управления: настройки чата, инструменты, переименовать, закрепить, в избранное, в папку, в архив, удалить.

Вот как эта карточка чата собирается на практике:

def build_chat_menu(chat: Chat) -> types.InlineKeyboardMarkup: kb = types.InlineKeyboardMarkup(row_width=2) kb.add( types.InlineKeyboardButton("⚙ Настройки чата", callback_data=f"chat:settings:{chat.id}"), types.InlineKeyboardButton("🛠 Инструменты", callback_data=f"chat:tools:{chat.id}"), ) kb.add( types.InlineKeyboardButton("✏ Переименовать", callback_data=f"chat:rename:{chat.id}"), types.InlineKeyboardButton( "📌 Открепить" if chat.is_pinned else "📌 Закрепить", callback_data=f"chat:pin:{chat.id}" ), ) kb.add( types.InlineKeyboardButton( "⭐ Убрать из избранного" if chat.is_favorite else "⭐ В избранное", callback_data=f"chat:favorite:{chat.id}", ), types.InlineKeyboardButton("🗂 В папку", callback_data=f"chat:folder:{chat.id}"), ) kb.add( types.InlineKeyboardButton( "📤 Разархивировать" if chat.is_archived else "📦 В архив", callback_data=f"chat:archive:{chat.id}" ), types.InlineKeyboardButton("🗑 Удалить", callback_data=f"chat:delete:{chat.id}"), ) kb.add(types.InlineKeyboardButton("⬅ К списку чатов", callback_data="menu:chats")) return kb

⚙ Настройки чата — отдельное подменю: выбор провайдера (режим генерации), свой системный промпт для конкретно этого чата, параметры генерации (temperature, top_p, лимит токенов).
🛠 Инструменты чата — второе подменю: ветки диалога, применить пресет, постраничная история, экспорт, очистка/сжатие контекста.

Папки — простая организация чатов по темам: создаю папку, закидываю туда чаты через "🗂 В папку" в карточке чата. Избранное и архив — те же списки чатов, только отфильтрованные по флагам "закреплён"/"в архиве".

Пресеты: шесть встроенных персон с заранее прописанными системными промптами: Кодер 🔥, Дизайнер 🎨, Учитель 📚, Юрист ⚖, Доктор 🩺, Маркетолог 📈. Применяется одной кнопкой прямо на чат — меняется системный промпт, и бот начинает отвечать в этой роли.

Да и в настройках самого чата можно посмотреть системный промт, который будет использоваться в чате и менять его на свое усмотрение самому.

Ветки: регулировка и управления ветками ответвления от данного чата. От любого сообщения можно начать новый чат, скопировав всю предыдущую историю чата, сохраняя контекст.

История: полная история данного чата, не знаю даже чем может быть полезна данная функция, но подумал что возможно будет необходима при поиске старых сообщений.

Экспорт: сделан в дополнение истории, плюс бывает, что я реально историю из своего tg бота экспортирую в полноценную модель. Так, что раздел достаточно полезный.

Опциональная фича, по умолчанию выключена. Если включить в настройках — можно накидать боту фактов о себе (имя, часовой пояс, любимый язык программирования, что угодно), и он будет подмешивать их в системный промпт каждого чата. Каждый факт — это просто пара ключ/значение, добавляется прямо перепиской с ботом. (не всегда стабильная, я ее только дорабатываю)

Недоделанное MVP - потом может допишу.

Отдельно расскажу про грабли, на которые я наступил и с позором откатил решение. Изначально я хотел сделать как в приличных клиентах: отдельно выбор модели (GPT-4, Claude, Gemini...) и отдельно выбор провайдера (через кого именно эта модель дёргается).

Красиво же — два независимых селектора, гибкость на максимум.И тут выяснилось неприятное: модели в g4f жёстко привязаны к провайдерам. Не любой провайдер умеет отдавать любую модель. Результат — россыпь ошибок (вот малая часть):

ModelNotFoundError: выбранная модель не обслуживается выбранным провайдером.
Add an api_key: провайдер внезапно требует ключ, хотя формально бесплатный.
MissingAuthError/NoValidHarFileError: провайдер требует куки или HAR-файл из настоящего браузера, которых у серверного бота никогда не будет.

Починил я это вообще легко - выпилил выбор модели вообще. Теперь пользователь выбирает только режим/провайдера (Авто, Случайный, Умный Авто или конкретный провайдер), а какую модель использовать — решает уже сам провайдер, ему видней, что у него реально работает (раз g4f так умеет, пусть сама либа работает). Это не идеально с точки зрения "хочу именно Claude и точка", зато перестало ломаться на пустом месте.

Код проекта я целиком выкладывать не буду, но архитектуру и подход опишу максимально честно, чтобы было понятно.

Проект строго послойный:

Абстракно структура такая:

ot/ config.py # BOT_TOKEN, DATABASE_URL, дефолтные модель/провайдер — всё из .env db/ base.py # async-движок SQLAlchemy, session factory models/ # User, Chat, Message, Branch, Preset, ProviderConfig... repositories/ # чистый доступ к БД, без бизнес-логики chat_repository.py message_repository.py provider_repository.py ... services/ # вся бизнес-логика, ничего не знает про Telegram ... # Тут куча отдельных сервисов handlers/ # тонкий слой, разбирает апдейты Telegram dialogue.py, chats.py, folders.py, presets.py, settings.py... keyboards/ # только сборка InlineKeyboardMarkup/ReplyKeyboardMarkup states.py # FSM-состояния для многошагового ввода utils/ streaming.py # throttled редактирование сообщения при стриминге alembic/ # миграции схемы БД

хендлеры → сервисы → репозитории → модели БД

Хендлеры — это тонкая прослойка, которая только разбирает апдейты от Telegram и вызывает нужный сервис, сама в базу данных не лезет.
Сервисы — вся бизнес-логика (создать чат, спросить у нейронки, применить пресет), они ничего не знают про Telegram API.
Репозитории — чистый доступ к БД через SQLAlchemy, без бизнес-логики.
Модели БД - понятно, отдельные классы описывающие модельки таблиц.

Стек моей балалайки: Python, pyTelegramBotAPI в асинхронном варианте (AsyncTeleBot), PostgreSQL + SQLAlchemy 2.0 (полностью асинхронный ORM) + Alembic для миграций, всё в Docker.

Начну с моделей БД — они честно передают, как устроены сущности внутри. У пользователя есть настройки один-к-одному и отдельная таблица под долговременную память:

class User(Base): __tablename__ = "users" id: Mapped[int] = mapped_column(Integer, primary_key=True) telegram_id: Mapped[int] = mapped_column(BigInteger, unique=True, index=True) username: Mapped[str | None] = mapped_column(String(255), nullable=True) first_name: Mapped[str | None] = mapped_column(String(255), nullable=True) language_code: Mapped[str | None] = mapped_column(String(16), nullable=True) is_banned: Mapped[bool] = mapped_column(Boolean, default=False) created_at: Mapped[datetime] = mapped_column(DateTime(timezone=True), server_default=func.now()) settings: Mapped["UserSettings"] = relationship(back_populates="user", uselist=False) class UserSettings(Base): __tablename__ = "user_settings" id: Mapped[int] = mapped_column(Integer, primary_key=True) user_id: Mapped[int] = mapped_column(ForeignKey("users.id", ondelete="CASCADE"), unique=True) default_model: Mapped[str] = mapped_column(String(128), default="gpt-4") default_provider: Mapped[str] = mapped_column(String(64), default="auto") streaming_enabled: Mapped[bool] = mapped_column(Boolean, default=True) memory_enabled: Mapped[bool] = mapped_column(Boolean, default=False) pinned_chats_limit: Mapped[int] = mapped_column(Integer, default=5) class UserMemoryFact(Base): """Долговременная память: опциональные ключ/значение факты про пользователя.""" __tablename__ = "user_memory_facts" __table_args__ = (UniqueConstraint("user_id", "key", name="uq_user_memory_fact_key"),) id: Mapped[int] = mapped_column(Integer, primary_key=True) user_id: Mapped[int] = mapped_column(ForeignKey("users.id", ondelete="CASCADE"), index=True) key: Mapped[str] = mapped_column(String(128)) value: Mapped[str] = mapped_column(Text)

Формальных "сессий" в привычном вебовском смысле у меня нет — есть только эта таблица `users` по `telegram_id`, и в оперативной памяти процесса живёт словарь "какой чат у какого пользователя сейчас активный" (чтобы не гонять лишний раз в базу на каждое сообщение). Вся остальная персистентность — в PostgreSQL, так что рестарт бота или деплой новой версии (что происходит часто) ничего не роняет — история и настройки остаются на месте.
Самое интересное архитектурное решение — сообщения хранятся не списком, а деревом. У каждого сообщения есть ссылка на "родителя", а у чата — указатель на текущее "активное" сообщение (хвост переписки).Это даёт бесплатную возможность ветвления: беру любое сообщение из середины диалога, продолжаю его — и это уже новая ветка, старая при этом никуда не девается, `Branch` просто хранит именованную ссылку на нужный лист. Восстановление истории от корня до нужного сообщения делается одним рекурсивным SQL-запросом, а не N запросами в цикле:

async def get_branch(session, leaf_message_id: int | None) -> list[Message]: """Идём по parent_message_id от листа к корню, отдаём в порядке от корня.""" if leaf_message_id is None: return [] cte = ( select(Message.id, Message.parent_message_id, Message.chat_id) .where(Message.id == leaf_message_id) .cte(name="branch", recursive=True) ) parent = Message.__table__.alias("parent") cte = cte.union_all( select(parent.c.id, parent.c.parent_message_id, parent.c.chat_id) .where(parent.c.id == cte.c.parent_message_id) ) chain_ids = [row.id for row in (await session.execute(select(cte.c.id))).all()] if not chain_ids: return [] result = await session.execute(select(Message).where(Message.id.in_(chain_ids))) by_id = {m.id: m for m in result.scalars().all()} return [by_id[i] for i in reversed(chain_ids) if i in by_id]

Сама библиотека g4f по духу похожа на официальный клиент OpenAI, только с дополнительным параметром `provider` — в чистом виде выглядит вот так:

from g4f.client import AsyncClient client = AsyncClient() response = await client.chat.completions.create( model="gpt-4", messages=[{"role": "user", "content": "Привет!"}], stream=True, ) async for chunk in response: delta = chunk.choices[0].delta.content if delta: print(delta, end="", flush=True)

А вокруг этого у меня выстроена тонкая, но важная прослойка — по сути свой маленький SDK поверх g4f, с двумя типизированными результатами:

И собственно вызов — функция `ask`, которая **никогда не кидает исключение наружу**: всегда возвращает результат с заполненным полем `error`, если что-то пошло не так. Это принципиальное решение — вызывающий код гарантированно получает хоть что-то, а не подвисает в ожидании ответа, который никогда не придёт:

async def ask(model, provider_name, messages, *, temperature=0.7, top_p=1.0, max_tokens=None) -> AskResult: client = AsyncClient() started = time.monotonic() try: kwargs = _build_kwargs(model, provider_name, messages, temperature, top_p, max_tokens, stream=False) response = await client.chat.completions.create(**kwargs) latency_ms = int((time.monotonic() - started) * 1000) content = response.choices[0].message.content if content is not None and not isinstance(content, str): # иногда прилетает не текст, а, например, ImageResponse - это провал попытки, а не ответ raise TypeError(f"Provider returned non-text content ({type(content).__name__})") content = content or "" used_provider = response.provider or provider_name used_model = getattr(response, "model", None) or model return AskResult( content=content, model=used_model, provider=used_provider, tokens_used=response.usage.total_tokens if response.usage else None, latency_ms=latency_ms, ) except Exception as exc: # g4f кидает десятки разных исключений, ловлю широко return AskResult( content="", model=model, provider=provider_name, tokens_used=None, latency_ms=int((time.monotonic() - started) * 1000), error=str(exc), )

Стриминговая версия `ask_stream` устроена так же честно — асинхронный генератор, который отдаёт накопленный текст по мере поступления чанков и никогда не роняет исключение выше себя.

Отдельный модуль превращает выбранный пользователем режим в упорядоченный список провайдеров, которые нужно перепробовать один за другим:

AUTO, RANDOM, SMART = "auto", "random", "smart" CHAIN_LENGTH = 4 async def resolve_provider_chain(session, provider_setting: str | None) -> list[str | None]: setting = (provider_setting or AUTO).lower() if setting == AUTO: # None = отдать выбор встроенной ротации g4f. Но если она вся упадёт - # не сдаюсь, а пробую ещё и свой список проверенных провайдеров. ranked = await provider_repository.list_ranked_providers(session, limit=CHAIN_LENGTH) return [None] + [p.name for p in ranked] if setting == RANDOM: providers = await provider_repository.list_enabled_providers(session) names = [p.name for p in providers] random.shuffle(names) return names[:CHAIN_LENGTH] + [None] if setting == SMART: # сначала самые "здоровые" по статистике: is_healthy + средняя задержка ranked = await provider_repository.list_ranked_providers(session, limit=CHAIN_LENGTH) return [p.name for p in ranked] + [None] return [provider_setting, None] # явный выбор - пробую его, потом падаю в auto

"Здоровье" провайдера — пара полей в таблице `provider_configs` (`is_healthy`, `avg_latency_ms`), которые обновляются после каждой попытки запроса. Никакой магии, обычная скользящая статистика по факту успеха/провала и затраченному времени.
А сам список провайдеров и моделей я не хардкожу руками — при каждом старте отдельный модуль обходит живой реестр g4f.Provider/g4f.models и синхронизирует его в БД.

Сервис не знает про Telegram вообще, только принимает сессию БД и доменные объекты — вот сокращённая версия того, что происходит при обычном (не стриминговом) сообщении. Я это кстати использую стабильно в других проектах, когда мне надо сгенерировать текст или промт, для более умной нейронки я прошу нажу g4f сгенерировать мне текс/промт.

async def send_user_message(session, chat: Chat, user_text: str) -> ReplyResult: user_message = await message_repository.add(session, chat.id, chat.active_leaf_message_id, "user", user_text) await chat_repository.set_active_leaf(session, chat, user_message.id) history = await message_repository.get_branch(session, chat.active_leaf_message_id) payload = _build_payload(chat, history) # системный промпт + история + факты памяти result = await _ask_with_fallback(session, chat, payload) # цепочка провайдеров из прошлого раздела assistant_content = result.content if not result.error else f"⚠️ Не удалось получить ответ: {result.error}" assistant_message = await message_repository.add( session, chat.id, user_message.id, "assistant", assistant_content, model=result.model, provider=result.provider, error=result.error, ) await chat_repository.set_active_leaf(session, chat, assistant_message.id) return ReplyResult(assistant_message=assistant_message, is_error=bool(result.error))

А хендлер сверху — максимально тонкий, вся его работа: получить апдейт из Telegram, дёрнуть сервис, отправить ответ обратно.

Если честно — сейчас это скорее MVP, чем финальный продукт. Работает, довольно стабильно для бесплатной штуки, но допиливать есть что: загрузка файлов, полноценный глобальный поиск по всем чатам, экспорт в красивый HTML/PDF — всё это в планах, но не горит.
Проект буду поддерживать и развивать дальше, так что если есть идеи, что добавить, или багрепорт — пишите, буду только рад обратной связи и предложениям.
Отдельно про ограничения: сервачок, на котором всё это крутится — не самый мощный, а сам g4f работает не всегда стабильно, потому что это в буквальном смысле обёртка над бесплатными лазейками в чужие сервисы — они иногда ведут себя не очень предсказуемо. Поэтому если пользуетесь ботом — рекомендую держать режим "Авто" выбора провайдера, он сам переключается между рабочими вариантами. Иногда всё равно ответ может идти дольше обычного или вылезти с ошибкой — в таком случае просто попробуйте ещё раз чуть позже. Бот будет оставаться полностью бесплатным, так что жду фидбеков и пожеланий в функциональности.

Потестить бота можно тут: @GussiTradeGPTbot

#telegram #telegrambot #python #g4f #chatgpt #нейросети #разработка #pet-проект #бесплатно #devlog #postgresql #opensource

Как я получил бесплатный доступ ко всем AI моделям через Telegram

Предыстория

Что вообще такое g4f

Как было раньше

Что стало теперь

Полный тур по интерфейсу

Главное меню

Чаты

Папки, избранное, архив

Инструменты персонализации чата

Долговременная память

Групповой режим

Разработка

История про выбор модели, которая не вышла

Как это всё устроено внутри

Как хранятся пользователи, чаты и сообщения

Моя обвязка над g4f

Цепочка фолбэка провайдеров

Слой сервиса и хендлера

Что сейчас и что дальше