«Т-Технологии» выложила исходный код больших языковых моделей на 32 млрд и 7 млрд параметров

Компания утверждает, что это «лучшие в мире открытые модели на русском языке».

«Т-Технологии» выложила исходный код больших языковых моделей на 32 млрд и 7 млрд параметров
3232
1111
22
22

Какое железо нужно ?

NVIDIA H100 80GB PCIe 5.0 x16
За 29 827,69 € ~ 3 230 000 руб.
Но лучше парочку таких, и тянущий это комп

2

Под t-lite хватит 3090 с 24 гигами памяти без проблем, с t-pro посложнее и подороже

1

У меня работает на 32 озу и rtx4070 12 гб. Правда не очень быстро. t-pro-it-1.0 Q4