Ночные тарифы в GPT Model Hub: экономьте до 30% на LLM

GPT Model Hub — сервис внутри MWS Cloud Platform для работы с большими языковыми моделями через единый API. Подключаетесь один раз и выбираете модели под свои задачи и бюджет.

Ночные тарифы в GPT Model Hub: экономьте до 30% на LLM

В GPT Model Hub появились ночные тарифы. С 1:00 до 7:00 по Москве использование моделей со скидкой до 30%, и то же самое в выходные и праздничные дни.

В чём выгода

Задачи с ИИ обычно делятся на два типа. Первые — когда ответ нужен прямо сейчас: чат-бот отвечает клиенту, интерфейс подсказывает действие. Вторые — фоновые: за ночь обработать тысячу документов, к утру собрать отчёт. Для второго типа неважно, в какой именно час работать, важно, чтобы результат был готов к сроку.

Вот их и выгодно запускать ночью. Сценарий остаётся прежним, код не переписывается, меняется только время запуска. А счёт за токeны уменьшается.

Что можно перенести на ночную смену

  • обработку больших массивов документов
  • массовую генерацию текстов: описания товаров, черновики писем
  • анализ отзывов и других текстовых данных
  • подготовку отчётов
  • векторизацию данных для поиска и рекомендаций
  • плановые пайплайны по расписанию

Пример: компания ежедневно прогоняет через модели тысячи документов. Достаточно поставить задачу в очередь и запускать после полуночи — утром результат готов, а стоимость обработки ниже на те самые 30%. Менять интеграцию не придётся.

GPT Model Hub работает через OpenAI-совместимый API, поэтому существующий код, форматы запросов и SDK остаются как есть. Достаточно настроить расписание на стороне приложения, чтобы ресурсоёмкие задачи стартовали в окно с 1:00 до 7:00 по Москве. Все остальные запросы выполняются в обычном режиме и по обычной цене.

Для Сибири и Дальнего Востока тариф действует в рабочее время

Самое интересное начинается с часовыми поясами. Ночь по Москве для регионов восточнее столицы — это их рабочий день:

  • в Новосибирске скидка действует с 5:00 до 11:00
  • во Владивостоке — с 8:00 до 14:00
  • на Камчатке — с 10:00 до 16:00

Если команда работает по местному времени Владивостока или Петропавловска-Камчатского, льготное окно накрывает первую половину рабочего дня: запустили задачу с утра — получили скидку, сэкономили бюджет.

Остальным регионам совет тот же: посмотрите, во сколько ночные тарифы действуют в вашем поясе, и ставьте фоновые задачи именно на это время. Подгонять под расписание нужно только запуск, не сам сценарий.

С чего начать

До интеграции протестируйте модели на своих задачах в Playground: выберите модель, настройте промпт и параметры, прогоните реальный сценарий и оцените ответы. Так вы заранее поймёте, какая конфигурация подходит лучше, и не будете тратить бюджет вслепую.

Подключайтесь к GPT Model Hub и платите за фоновые задачи меньше, пока другие спят. Для новых пользователей действует приветственный грант 3000 рублей для физических лиц и 10000 рублей — для компаний.

Для тех, кто следит за продуктом и хочет влиять на его развитие: мы читаем обратную связь в нашем телеграм-сообществе и многие фичи появляются именно после обсуждений там.

44
11