Зачем бизнесу ML и AI
Пару лет назад наша компания вплотную занялась разработкой обучающихся алгоритмов. В этой статье расскажу, почему мы вообще обратились к этой сфере и зачем выделили её в отдельное направление. Уверен, наш опыт поможет другим компаниям найти точки роста и масштабироваться.
Добрый день, было бы интересно узнать об используемом стеке на стороне ML и как заводите модельки на продакшн
Стек и подход к MLOps зависит от области.
Стек:
- CV/NLP - Pytorch, Huggingface transformers, Mmdetection, Torchvision. (еще был болезненный опыт с TF Detection API :))
- чатботы - RASA и NLU модели HF transformers через обучалку RASA или собственные.
- табличный ML - XGBoost и опять же эксперименты с трансформерами
- recsys - разные матричные разложения типа ALS и трансформеры :)
Деплой:
- если делаем как хотим, то K8s + KServe
- если надо попроще, то самописный сервис с API под задачу