Нейросеть Gemma: как запустить на своём ПК под Windows
Скорее всего вы уже слышали (читали) о новой открытой модели от Google под названием Gemma. Эти модели (2B и 7B) были анонсированы совсем недавно и Google утверждает, что они превосходят другие открытые модели, такие как LLaMA от Meta, по многим параметрам.
Пример того, как работает Gemma
Я не буду сравнивать ее с чем то и делать какие то выводу, просто покажу как это работает:
А это уже веб версия, которую тоже можно установить себе на пк (или на удаленный сервер):
В целом, чтобы протестировать модели Gemma не обязательно их устанавливать на ПК, вполне можно это сделать через площадку Hugging Face.
Установка Gemma на свой ПК (через командную строку):
Я хотел бы показать вам, как запустить модели Google Gemma 2B или 7B на вашем компьютере абсолютно бесплатно. Вы можете использовать эту нейросеть прямо с командной строки или через браузер.
ШАГ 1: Скачайте и установите приложение Ollama по ссылке.
ШАГ 2: В командной строке windows (да, та самая стандартная) вводим команду ollama run gemma:2b или ollama run gemma:7b если хотите модель с 7 миллиардами параметров.
Как только появилась надпись Send Message, можете вводить любое сообщение прямо в коммандной строке.
Вот и всё! Теперь вы можете задавать вопросы Gemma прямо на своем компьютере и получать мгновенные ответы.
Если у вас возникнут какие-либо вопросы — оставьте их в комментариях ниже. Спасибо за внимание и удачных экспериментов!
P. S. Если нужен гайд по установке веб версии, пишите в комментариях! При создании материала, использовался этот источник (мой сайт про нейросети).
Огромное спасибо! Как раз думал поискать как поставить, а тут ваша статья. Было бы интересно и про веб-версию тоже почитать
я правда уже разобрался :) но думаю не помешает
Написал подробно про второй вариант установки тут: https://neyrolab.ru/ustanovka-gemma-na-svoy-pk-pod-windows/