На Openrouter обнаружили «стелс» модель с кодовым названием Sonoma Sky Alpha. В тестах по математике она обгоняет GPT-5.
Django/LLM, polling списка моделей
Одна из проблем в LLM-агрегаторе начинается в момент, когда список моделей загружается только один раз. Пока пользователь не обновил страницу, интерфейс продолжает жить на старом слепке каталога. Для обычного справочника это терпимо. Для LLM-слоя нет, потому что набор рабочих free-моделей у провайдера меняется заметно быстрее.
Django/LLM, fallback при падении провайдера и подмене модели
Один из практических узлов в LLM-агрегаторе находится в точке, где выбранная модель не отвечает. Пока интеграция идет по счастливому сценарию, кажется, что достаточно просто отправить запрос в провайдера и вернуть текст. Но реальная система живет хуже. Модель может оказаться временно недоступной, провайдер может вернуть ошибку маршрута, а иногда от…
Django/LLM, плохой выбор первой free-модели
Одна из самых коварных ошибок в LLM-интеграции выглядит почти безобидно. Продукт получает список моделей от провайдера, находит первую бесплатную и делает ее дефолтной. Кажется, что это простой и разумный старт. На практике такая логика быстро превращает free-режим в случайный выбор, зависящий не от качества и стабильности, а от порядка элементов в…
Django агрегатор LLM, одна модель на бренд вместо бесконечного списка
Одна из проблем в интеграции LLM начинается в тот момент, когда продукт получает от провайдера длинный список моделей и без размышлений показывает его пользователю. На первый взгляд это выглядит как сильная функциональность. На практике такой список быстро становится декоративным. В нем много похожих id, мало понятных различий, а качество и стабиль…