NVIDIA B200 оказалась в 4 раза эффективнее AMD MI350X по экономической отдаче от ИИ

Исследователи Стэнфорда сравнили четыре ИИ-ускорителя на 220 реальных профессиональных задачах. На каждом запускали одну и ту же модель Qwen3.6-27B, оценивая полезный результат относительно потреблённой энергии.

По опубликованным результатам, NVIDIA B200 превзошла AMD MI350X по двум показателям:

- Более чем в 4 раза по денежной ценности выполненной работы на единицу энергии.

- Более чем в 9 раз по времени экспертов, сэкономленному на единицу энергии.

Исследователи оценивали не только скорость генерации токенов, но и экономическую полезность ответов модели.

Ускоритель может показывать хорошие результаты в стандартных бенчмарках, но уступать конкуренту по количеству действительно полезной работы на каждый потреблённый киловатт-час.

Модель оставалась неизменной, различались аппаратная платформа и условия выполнения.

Результаты не означают, что B200 всегда выгоднее MI350X: для полной оценки стоимости эксплуатации нужно учитывать цену оборудования, загрузку, охлаждение и программные оптимизации.

Больше экспертно про ИИ пишу у себя в канале: