Чипы Nvidia оставили след в топовых китайских нейросетях

Исследователь и бывший разработчик OpenAI нашёл в шести моделях DeepSeek, Moonshot, MiniMax и Ant Group следы использования чипов Nvidia Blackwell. Это передовые чипы, поставки которых в Китай запрещены властями США. Чтобы узнать, какие чипы использовали для создания модели, достаточно опубликованных весов.

Перед обучением параметры заполняют псевдослучайными числами. Разные чипы распределяют их по-разному, оставляя характерный отпечаток, часть которого сохраняется после обучения. На чипе Blackwell B300 исследователь воспроизвёл 445 строк начальных параметров DeepSeek-V4-Flash с точностью до бита. Для сравнения, на чипе H100 повторить результат не удалось.

Для DeepSeek-V4-Flash автор исследования считает использование Blackwell в начале создания модели доказанным. Для остальных пяти моделей он говорит о сильных свидетельствах. По его мнению, модели и обучали на том же оборудовании.