Нейросеть Gemma: как запустить на своём ПК под Windows

Скорее всего вы уже слышали (читали) о новой открытой модели от Google под названием Gemma. Эти модели (2B и 7B) были анонсированы совсем недавно и Google утверждает, что они превосходят другие открытые модели, такие как LLaMA от Meta, по многим параметрам.

Я не буду сравнивать ее с чем то и делать какие то выводу, просто покажу как это работает:

А это уже веб версия, которую тоже можно установить себе на пк (или на удаленный сервер):

В целом, чтобы протестировать модели Gemma не обязательно их устанавливать на ПК, вполне можно это сделать через площадку Hugging Face.

Я хотел бы показать вам, как запустить модели Google Gemma 2B или 7B на вашем компьютере абсолютно бесплатно. Вы можете использовать эту нейросеть прямо с командной строки или через браузер.

ШАГ 1: Скачайте и установите приложение Ollama по ссылке.

ШАГ 2: В командной строке windows (да, та самая стандартная) вводим команду ollama run gemma:2b или ollama run gemma:7b если хотите модель с 7 миллиардами параметров.

Как только появилась надпись Send Message, можете вводить любое сообщение прямо в коммандной строке.

Если у вас возникнут какие-либо вопросы — оставьте их в комментариях ниже. Спасибо за внимание и удачных экспериментов!

P. S. Если нужен гайд по установке веб версии, пишите в комментариях! При создании материала, использовался этот источник (мой сайт про нейросети).

#нейросети #gemma #seo