ИИ с флешки: локальные модели без интернета

Запускать ИИ прямо с флешки — без постоянного подключения к интернету и установки на компьютер.

ИИ с флешки: локальные модели без интернета

Проект Uncensored Local Studio позволяет работать с разными типами моделей локально:

  • LLM — для общения и работы с текстом;

модели для генерации изображений;

  • Speech-to-Text для распознавания речи;
  • TTS для синтеза голоса.

По сути, можно носить с собой полноценный набор локальных ИИ-инструментов и запускать его на совместимом компьютере без обращения к облачным сервисам.

Для базового набора моделей может хватить флешки на 8 ГБ. Если взять накопитель на 32 ГБ, пространства будет заметно больше — можно разместить несколько моделей и дополнительные компоненты.

Есть у разработчика и отдельный проект Claude Portable — ИИ-агент, который также можно запускать с внешнего накопителя. Проект доступен бесплатно в репозитории на GitHub.

Работает всё на Windows, macOS и Linux. Данные, настройки и параметры API сохраняются локально, поэтому рабочую среду можно переносить между компьютерами вместе с накопителем.

™ Сам Uncensored Local Studio можно найти и скачать на GitHub.

Для тех, кто хочет меньше зависеть от облачных сервисов и интернет-соединения, такой вариант особенно интересен: ИИ-инструменты всегда под рукой, а модели запускаются локально.

Если вам интересны технологии и IT, будем рады видеть вас в нашем Telegram-канале «КОД — техножурнал».

Подписывайтесь на канал: https://t.me/kodjournal — там новые материалы появляются в первую очередь, поэтому вы сможете следить за публикациями и ничего не пропустить.

18