LM Studio выпустила собственного ИИ агента Bionic для локальных моделей

Теперь в LM Studio можно не только запускать локальные LLM, но и работать с полноценным ИИ агентом. Bionic умеет писать код, редактировать документы, создавать презентации и PDF. Все изменения сохраняются автоматически, поэтому можно спокойно дорабатывать результат вместе с моделью.

Еще одна интересная функция это полностью локальный голосовой ввод. Можно просто разговаривать с агентом, а речь будет распознаваться в реальном времени. При этом аудио не отправляется в облако и остается только на вашем устройстве.

Для локальной работы Bionic использует MLX и llama.cpp. Модели можно скачивать прямо внутри приложения и запускать без дополнительной настройки.

Если мощности компьютера не хватает, можно переключиться на облачные открытые модели вроде GLM и Kimi. LM Studio заявляет, что все запросы обрабатываются на серверах в США с режимом Zero Data Retention, то есть данные не сохраняются.

Bionic уже доступен бесплатно для macOS и Windows.

Подписывайтесь на Telegram Ринат Шакиров | Промпты для Midjourney | ChatGPT |.