DeepSeek интересен не тем, что делает ИИ-боты дешевле. Они последовательно перестраивают архитектуру моделей под реальность, где доступ к HBM, топовым GPU и масштабным кластерам ограничен.
Почти все последние решения DeepSeek бьют в одну точку - снизить зависимость фронтирного ИИ от дорогого GPU-стека. MoE не гоняет всю модель на каждый запрос, а активирует только нужные эксперты. DSA уменьшает стоимость long context. В карточке V4-Pro заявлено, что CSA/HCA снижает FLOPs для 1M-token single-token inference до 27% от V3.2, а KV cache - до 10%.
Отдельно интересен Engram. Идея в том, чтобы вынести часть статических знаний в масштабируемую lookup-память и доставать их предсказуемо из host memory, а не каждый раз проталкивать факты через плотные вычисления. Это уже не просто оптимизация ради красивого графика, а попытка изменить экономику инференса.
Если модели требуют меньше HBM и меньше brute-force compute, меняется вся логика железа. Чипы, которые раньше выглядели компромиссом, LPDDR, NAND и кастомные ASIC начинают играть совсем другую роль. Не как замена Nvidia один к одному, а как база для собственной архитектуры ИИ.
Reuters уже писал о постоянном снижении цен DeepSeek V4-Pro на 75%, одновременно упоминая ограничения поставок Huawei Ascend и ожидание supernode-инфраструктуры. В этом и видно направление: DeepSeek не просто снижает цену API, а подгоняет модель, память, ускорители и системный слой друг к другу.
Самый сильный ход здесь не в app layer и не в очередной гонке бенчмарков. DeepSeek показывает, как можно программировать дефицит: не ждать идеального железа, а менять архитектуру так, чтобы доступное железо стало пригодным для фронтирного ИИ.
Источник и примеры запуска и работы с Deepseek, залетайте: https://t.me/ai_machinelearning_big_data/10206