Nvidia представила Chat with RTX - свой аналог ChatGPT, который работает локально
Демо модели весит 35 ГБ и доступно бесплатно всем владельцам видеокарт RTX 3000 или 4000 серии.
Пользовательский интерфейс модели
Перевод заголовка со страницы презентации Chat with RTX:
Чат с RTX — это демонстрационное приложение, которое позволяет вам персонализировать GPT large language model (LLM), подключенную к вашему собственному контенту - документам, заметкам, видео или другим данным. Используя генерацию с расширенным поиском (RAG), TensorRT-LLM и ускорение RTX, вы можете спрашивать чат-бота, и быстро получать контекстуально релевантные ответы. А поскольку все это выполняется локально на вашем ПК с Windows RTX или рабочей станции, вы получите быстрые и безопасные результаты.
Скачать и ознакомиться с системными требованиями можно здесь:
Начать дискуссию