После проектирования архитектуры возникает следующая проблема: как начать писать реальный код и не разрушить собственные архитектурные решения первой же реализацией.
После проектирования архитектуры возникает следующая проблема: как начать писать реальный код и не разрушить собственные архитектурные решения первой же реализацией.
Когда начинаешь проектировать GenAI систему легко сразу уйти в технологии: LangChain, vector database, Kafka, Kubernetes, AI agents.
Недавно проверял, можно ли запускать локальные AI модели на обычном ноутбуке.
Тестировал openai/gpt-oss-20b MXFP4 GGUF через LM Studio на ноутбуке с Ryzen 7, встроенной Radeon 780M и 32 GB RAM.