Популярное
Свежее
Моя лента
Сообщения
Рейтинг
Курсы
Темы
Маркетинг
Деньги
Сервисы
Личный опыт
Крипто
Маркетплейсы
AI
Путешествия
Карьера
Образование
Показать все
vc.ru
О проекте
Правила
Реклама
Приложения
SpiridonSunRotator
+1
с 23.07.2024
0
подписчиков
0
подписок
Свежее
SpiridonSunRotator
в посте
«Яндекс» разработал методы сжатия языковых моделей для запуска на устройствах с меньшей вычислительной мощностью
23 июля
Зависит от размера целевой модели. 70B модель в 4 бита не влезет на RTX3090/4090, а c AQLM влезет.
1
Зависит от размера целевой модели. 70B модель в 4 бита не влезет на RTX3090/4090, а c AQLM влезет.