⚡️ Mistral-7B-v0.3 доступна на HuggingFace

— pip install mistral_inference

Изменения в Mistral-7B-v0.3 по сравнению с предыдущими версиями:

— Увеличен словарь до 32768 слов;

— Добавлена поддержка более новой версии токенизатора v3;

— Модель теперь поддерживает вызов функций;

— Apache 2.0 лицензия.

from huggingface_hub import snapshot_download from pathlib import Path mistral_models_path = Path.home().joinpath('mistral_models', '7B-v0.3') mistral_models_path.mkdir(parents=True, exist_ok=True) snapshot_download(repo_id="mistralai/Mistral-7B-v0.3", allow_patterns=["params.json", "consolidated.safetensors", "tokenizer.model.v3"], local_dir=mistral_models_path)

А результатов бенчмарков нет. Видимо этот релиз больше про добавление возможности Function Calling, нежели улучшения общего перфоманса.

🤗 Hugging Face — Base Model

🤗 Hugging Face — Instruct Model

Если интересуетесь темой ИИ и нейросетей, здесь я разбираю и тестирую свежие модели, статьи и гайды, там куча полезной информации, заходите в гости.

#llm

#машинноеобучение