Бюджетный сервер для обучения нейронных сетей
Всем добрый день. В этой статье я расскажу как собрать сервер для обучения нейронных сетей и сэкономить кучу денег.
Всем добрый день. В этой статье я расскажу как собрать сервер для обучения нейронных сетей и сэкономить кучу денег.
Взял 2 XEON 2693v3 по 18 ядер на каждом.Это Хасвелл почти 10 летней давности
Обращаю внимание на то, что данная память серверная. Она подойдет в х99, но не подойдет в обычные компьютеры.Все Ryzen поддерживают ECC. Как минимум часть плат ASRock поддерживает комбинацию ECC + Ryzen. Но в целом это конечно бессмысленно, т.е. память с ECC дороже.
Взял Taifast на 1800 Вт за 8,5к. В Росси такой мощности стоят порядка 55к.Это унылое говно, а не блоки питания. У той же supermicro блоки питания под сервера с видюшками от 2 кВт, хотя можно 3 кВт+ купить. Но самое большое отличие в том, что у серверов два блока питания, если это не лезвие. Лезвия по-другому резервируют питание в случаях выхода из строя одного из блоков питания.
+ Видеокарта 3090 ti 450 Вт.Не серверная видеокарта. И нужно понимать, что есть обучение, есть инференс. Надо смотреть на то что там с тензорными ядрами. Велика вероятность что в ваших задачах v100 скорее всего будут сильно производительнее 3090 ti.
SSD KingSpec 2 штуки по 512 Гб работают в RAID 0 для ускорения производительности. Обошлись оба за 8,5 к. В России за 2 можно отдать порядка 14к. +6к экономии.Никогда не стоит использовать RAID0. Во-первых, это не надежно. Во-вторых, встроенные контроллеры обычно очень плохие по производительности. Смысла брать SSD и объединять их - нет. Если уж хочется RAID0, то надо брать внешний PCI-E контроллер, но с Intel могут быть проблемы. Лучше собирать коробку на AMD EPIC, у AMD PCI-E линий раза в 3-4 больше, чем аналогичных конфигурациях у Intel. Вообще любые конфиги на видеокартах типа A100 сейчас собирают на AMD из-за PCI-E.
Цена сборки (с учётом доработки): порядка 130 000 рублей. Экономии 380 000 рублей, по сравнению, если закупать аналоги в России.Это не экономия. Собрали +/- нормальный игровой комп со старыми процами, которые будут медленнее современных десктопных процов. Тем более SIMD инструкции в новых десктопных процах возможно превзойдут старые Xeon. Не могу оценить, т.к. нет десктопных вариантов и некуда их вставить. На сервер это все не тянет, скорее воркстейшен. Ну и я бы лучше брал б/у v100 все же.
А вообще, есть такая вещь как исследования: https://benchgame.com/ru/compare-cpu
Можно сравнить производительность процессоров.
У него одинаковые показатели производительности с core i9, как это показано на картинке.
Да вы меня конечно извините, но я за него отдал в 5 раз ниже, а у меня их 5.
Поэтому, лично я считаю подобный выбор разумностью в современных условиях.
Однако, я никого не призываю поступать также. Само собой можно отдавать по сотку за топовые зеоны.
Там есть смысл райда 0 уровня. Он используется ТОЛЬКО с целью максимизации производительности.
Само собой, хранить проекты на нем опасно. Поэтому для хранения проектов нужно создавать отдельный райд, например 5 уровня.
По поводу говна согласен. Проблема только в том, что сейчас на дворе кризис, а жить как то нужно. Поэтому, некоторые вещи это неизбежность.
По поводу игрового компа не согласен.
Но самое большое отличие в том, что у серверов два блока питания, если это не лезвие.Ващет по-разному бывает, какой конфиг соберете. Но 2 БП большого смысла нет. Проще собирать с одним и резервировать нодами.