Когда клиент написал с запросом на H100, задача звучала стандартно: локальный сервер под LLM на 30 миллиардов параметров, постоянная нагрузка в продуктиве, данные нельзя выносить в облако. H100 в таких проектах встречается часто, и на первый взгляд выбор казался очевидным.
Прежде чем обсуждать железо, мы задали несколько вопросов о том, где ф…