Nvidia представила Chat with RTX - свой аналог ChatGPT, который работает локально

Демо модели весит 35 ГБ и доступно бесплатно всем владельцам видеокарт RTX 3000 или 4000 серии.

Пользовательский интерфейс модели

Перевод заголовка со страницы презентации Chat with RTX:

Чат с RTX — это демонстрационное приложение, которое позволяет вам персонализировать GPT large language model (LLM), подключенную к вашему собственному контенту - документам, заметкам, видео или другим данным. Используя генерацию с расширенным поиском (RAG), TensorRT-LLM и ускорение RTX, вы можете спрашивать чат-бота, и быстро получать контекстуально релевантные ответы. А поскольку все это выполняется локально на вашем ПК с Windows RTX или рабочей станции, вы получите быстрые и безопасные результаты.

Скачать и ознакомиться с системными требованиями можно здесь:

0
Комментарии
-3 комментариев
Раскрывать всегда