React-библиотека для рендера потока LLM

🔹 richardgill/llm-ui

React-библиотека для рендера потока LLM

⭐ 1749 звёзд · TypeScript

Headless-библиотека для отображения стриминга от ChatGPT, Claude или Llama в React-приложении. Рендерит вывод с частотой обновления экрана и throttl-ит поток, чтобы сгладить рваные паузы между токенами модели.

Под капотом — Shiki для подсветки кода на любом языке и очистка битого markdown, который LLM любят выдавать посреди генерации. Стили не навязываются: можно подключать собственные React-компоненты прямо в поток вывода.

Лицензия MIT, зависимостей от конкретного провайдера нет — работает поверх любого источника токенов.