Мне просто интересно, насколько активно его будут покупать🙄 Кажется, многие просто и дешевле чуть будут находить компьютеры, но такие же хорошие. Реально исследователям нужен настолько мощный?
проблема в том, что нейронки , которые уже полезные занимают миниум около 60 гб рам, а самая мощная видеокарта из персональных, которая только выходит имеет на борту 32 гб рам. То есть их надо купить две для запуска такой модели. И каждая видеокарта стоит 2к $, но за такие деньги ее не купить, так что перекупы будут продавать за 3k$. но это будет модель на 60 миллиардов параметров, а про модель на 405 млрд параметров, просто забей :) ну или тебе надо, около 13 видеокарт...
Мне просто интересно, насколько активно его будут покупать🙄 Кажется, многие просто и дешевле чуть будут находить компьютеры, но такие же хорошие. Реально исследователям нужен настолько мощный?
проблема в том, что нейронки , которые уже полезные занимают миниум около 60 гб рам, а самая мощная видеокарта из персональных, которая только выходит имеет на борту 32 гб рам. То есть их надо купить две для запуска такой модели. И каждая видеокарта стоит 2к $, но за такие деньги ее не купить, так что перекупы будут продавать за 3k$. но это будет модель на 60 миллиардов параметров, а про модель на 405 млрд параметров, просто забей :) ну или тебе надо, около 13 видеокарт...
Я жду когда в продаже будет. Потому такой можно возить с собой в рюкзаке в самолёте через границу, в отличие от компа.
Это железо идеально для развертывания локальных опенсорсных ИИ