Типизированные функции Python как вызовы LLM

🔹 generative-computing/mellea

Типизированные функции Python как вызовы LLM

⭐ 1783 звёзд · Python

Библиотека от IBM Research превращает написание генеративных программ в обычный Python. Декоратор @generative берёт типизированную функцию: docstring становится промптом, type hints — Pydantic-схемой для валидации выхода. Никаких шаблонов и ручных парсеров.

Из коробки — стратегии семплирования (rejection sampling, majority voting), проверка требований и авто-ретраи при провале валидации. Бэкенды: Ollama, OpenAI, HuggingFace, WatsonX, LiteLLM, Bedrock. Совместимо с MCP, так что генеративные программы можно выставлять как инструменты для агентов.

Функция mify помогает вкрутить Mellea в существующий код без переписывания. Лицензия Apache-2.0.