Популяризатор ИИ. IT предприниматель.
Модель свежая и протестировать полноценно еще не успел, но это в планах и работе. Сегодня я и у меня в компании, мы активно применяем GPT4All с Llama 3.1 в которой 8 млрд. параметров. Запускаем на ПК где нужно 16 Гб оперативной памятью, нейронка займёт 8 Гб. На 4-6 летних ПК у нас получается 3-6 токенов в секунду, при этом качество ответов не страдает. А GPT4All дает возможность работать с вашими текстовыми документами. Подробнее в предыдущей статье: https://vc.ru/ai/1367388-rabota-s-dokumentami-s-pomoshyu-ii-bez-interneta
Сама модель никак данные не защищает, но позволяет организовать безопасный контур, т.к. не требует для своей работы соединение с Интернет. Важно, модель не умеет выходить в Интернет и ничего туда не выгружает и не загружает. По этому, что бы она обработала какую то ссылки, приходится скачать страницу или страницы и предоставить модели в виде текстовых файлов, что не очень удобно.
А специализированные решения на пример GitHub Copilot(это мой выбор), GigaCode, Codium(знаю целые команды, которые его используют) и т.п.
А если требуется локальный запуск есть Tabby(https://github.com/TabbyML/tabby). К стати, тут можно выбирать модели которые потянет ваш комп и качество и скорость ответов, тоже от этого будет зависеть. Подробнее в документации решения.
Модели Llama 3 и 3.1 лично для меня сделали это реальностью именно этим летом. Последнее обновление (Llama 3.1) просто взорвало мозг, насколько ответы стали качественнее и точнее. И более того, теперь модель ссылается на файлы которые я прикрепил к чату (коллекции файлов), в других моделях и даже Llama 3.0 так не делала.
Да, при этом можно достигать требуемого эффекта.
Но для фотографа это уникальный инструмент, как песочница, в которой можно не только играть со светом, фокусом, камерой, стилем и еще огромным перечнем характеристик.
Ниже пример эффекта Polaroid. Теперь можно готовить ТЗ для фотографа, с примерами, что упрощает работу с клиентами и снижает риски последних. Ведь у нас, у всех свое представление о готовом снимке, и если мы можем улучшить взаимодействие, это нам же огромный плюс.
К стати, статья основана на реальном опыте взаимодействия с клиентами. Я только поменял объекты, из-за NDA, но суть постарался передать.
И при должной сноровке можно достигать требуемой реалистичности.
Суть не в операционной системе, а в процессоре, на мобильных устройствах активно применяется ARM, а адаптация к ним позволит запускать нейронки на большинстве умных устройств (колонки, телевизоры и т.п.).