Ночные тарифы в GPT Model Hub: экономьте до 30% на LLM
GPT Model Hub — сервис внутри MWS Cloud Platform для работы с большими языковыми моделями через единый API. Подключаетесь один раз и выбираете модели под свои задачи и бюджет.
В GPT Model Hub появились ночные тарифы. С 1:00 до 7:00 по Москве использование моделей со скидкой до 30%, и то же самое в выходные и праздничные дни.
В чём выгода
Задачи с ИИ обычно делятся на два типа. Первые — когда ответ нужен прямо сейчас: чат-бот отвечает клиенту, интерфейс подсказывает действие. Вторые — фоновые: за ночь обработать тысячу документов, к утру собрать отчёт. Для второго типа неважно, в какой именно час работать, важно, чтобы результат был готов к сроку.
Вот их и выгодно запускать ночью. Сценарий остаётся прежним, код не переписывается, меняется только время запуска. А счёт за токeны уменьшается.
Что можно перенести на ночную смену
- обработку больших массивов документов
- массовую генерацию текстов: описания товаров, черновики писем
- анализ отзывов и других текстовых данных
- подготовку отчётов
- векторизацию данных для поиска и рекомендаций
- плановые пайплайны по расписанию
Пример: компания ежедневно прогоняет через модели тысячи документов. Достаточно поставить задачу в очередь и запускать после полуночи — утром результат готов, а стоимость обработки ниже на те самые 30%. Менять интеграцию не придётся.
GPT Model Hub работает через OpenAI-совместимый API, поэтому существующий код, форматы запросов и SDK остаются как есть. Достаточно настроить расписание на стороне приложения, чтобы ресурсоёмкие задачи стартовали в окно с 1:00 до 7:00 по Москве. Все остальные запросы выполняются в обычном режиме и по обычной цене.
Для Сибири и Дальнего Востока тариф действует в рабочее время
Самое интересное начинается с часовыми поясами. Ночь по Москве для регионов восточнее столицы — это их рабочий день:
- в Новосибирске скидка действует с 5:00 до 11:00
- во Владивостоке — с 8:00 до 14:00
- на Камчатке — с 10:00 до 16:00
Если команда работает по местному времени Владивостока или Петропавловска-Камчатского, льготное окно накрывает первую половину рабочего дня: запустили задачу с утра — получили скидку, сэкономили бюджет.
Остальным регионам совет тот же: посмотрите, во сколько ночные тарифы действуют в вашем поясе, и ставьте фоновые задачи именно на это время. Подгонять под расписание нужно только запуск, не сам сценарий.
С чего начать
До интеграции протестируйте модели на своих задачах в Playground: выберите модель, настройте промпт и параметры, прогоните реальный сценарий и оцените ответы. Так вы заранее поймёте, какая конфигурация подходит лучше, и не будете тратить бюджет вслепую.
Подключайтесь к GPT Model Hub и платите за фоновые задачи меньше, пока другие спят. Для новых пользователей действует приветственный грант 3000 рублей для физических лиц и 10000 рублей — для компаний.
Для тех, кто следит за продуктом и хочет влиять на его развитие: мы читаем обратную связь в нашем телеграм-сообществе и многие фичи появляются именно после обсуждений там.