Суперкомпьютер от NVIDIA и Meta

NVIDIA вместе с Meta планируют суперкомпьютер для обучения AI с триллионом параметров.

Компьютер создают для нескольких задач, в том числе для синхронного перевода устной речи с разных языков, для совместной работы пользователей сервисов Meta или для игр в AR-игры.

Компьютер мощностью 5 миллионов эксафлопс будет называться AI Research SuperCluster (RSC), обеспечит исследователям искусственного интеллекта Meta 5 экзафлопс производительности и оснащен передовыми системами NVIDIA, матрицей InfiniBand и программным обеспечением, обеспечивающим оптимизацию на тысячах графических процессоров.

Создан 1,5 года назад, пока не запущен, в полную силу он будет работать с середины 2022 года.

В компьютере уже используются более 750 систем NVIDIA DGX, они объединяют 6000 графических ускорителей. Объединяет их архитектура NVIDIA Quantum, передача данных 200 Гбит в секунду.

В 2022 году Meta увеличит количество ускорителей до 16 тысяч.

Meta Platforms высоко оценила Nvidia, выбрав их технологии для своей самой мощной исследовательской системы на сегодняшний день, — считает NVIDIA.

Объявленный сегодня AI Research SuperCluster (RSC) уже обучает новые модели для развития ИИ.

Ожидается, что после полного развертывания Meta RSC станет крупнейшей клиентской установкой систем NVIDIA DGX A100.

Когда RSC будет полностью построен в конце этого года, Meta планирует использовать его для обучения моделей ИИ с более чем триллионом параметров. Это может улучшить такие области, как обработка естественного языка, для таких задач, как выявление вредоносного контента в режиме реального времени.

В дополнение к производительности в масштабе Meta назвала исключительную надежность, безопасность, конфиденциальность и гибкость для работы с «широким спектром моделей ИИ» в качестве ключевых критериев для RSC.

Meta уже второй раз выбирает технологии NVIDIA в качестве основы для своей исследовательской инфраструктуры. В 2017 году Meta построила первое поколение этой инфраструктуры для исследований ИИ с 22 000 графических процессоров NVIDIA V100 с тензорными ядрами, которые ежедневно выполняют 35 000 заданий по обучению ИИ.

Ранние тесты Meta показали, что RSC может обучать большие модели NLP в 3 раза быстрее и выполнять задачи компьютерного зрения в 20 раз быстрее, чем предыдущая система.

Технологии искусственного интеллекта NVIDIA доступны предприятиям любого размера.