5 Open-Source LLM моделей для создания своего AI помощника
5 Open-Source LLM моделей для создания своего AI помощника

InternLM2 - какое-то УГ во-первых 8b не может весить 2ГБ На простое "Привет" ответила мне: "Привет! Как дела? Ваши собесельбовки напоминают ли тебя о частицах из нашего мира?" (Сис промпт был "Говори на русском языке")

OpenChat совсем уж тормозной
Yi1.5 не прошёл нашу проверку, хоть и показался сначала нормальным

Мы остановились на модели Qwen2.5 17b q8 - скорость приемлемая, качество отменное, русский язык чистый.

1
Ответить

Спасибо за информацию, буду иметь ввиду

Ответить