Подкаст с главой ИИ в Битрикс24: как делать продукты на ИИ-агентах и не сломаться в проде
У меня в гостях Сергей Нотевский- руководитель AI-платформы в Битрикс24. Команда Сергея отвечает за ИИ-инфраструктуру из 100+ GPU, на которой работают он-прем модели и автономные агенты крупнейшего бизнес-сервиса страны.
А еще я называю Сергея "отцом кэширования контекста в России") Так как он разработал опенсорс скилл по этой теме, за который Anthropic подарили ему официально подписку MAX на 6 мес.
О чем выпуск:
• Как создавать ИТ-продукты, используя агентов, так, чтобы они были устойчивыми при эксплуатации;
• Как экономить на токенах за счет кэширования;
• Почему RAG остался в 2025 году и что пришло ему на смену сейчас;
• ИИ-внутрянка Битрикс24. Как и зачем оркестрировать собственный кластер на 100+ GPU.
🎧 Подкаст уже доступен на двух площадках: