Эффективность работы нейронок и скриптов в автоматизации задач
Я тут недавно писал, что не надо собирать целый офис из нейронок. Добавлю еще кое-что: если часть работы можно сделать обычным скриптом, незачем заводить под нее отдельного ИИ-помощника.
И вот вам наглядный кейс.
На deep tech night посмотрел доклад Павла Капли из команды Алисы. Он рассказал, как они переделывали систему бронирования — чтобы помощник мог забронировать вам ресторан или записать в салон.
Сначала они придумали одного главного агента, который раздавал задачи другим агентам под разные сервисы. Но модель путалась между похожими сценариями: бронь ресторана и запись в салон почему-то были для нее слишком похожи.
Поэтому они пошли чуть иначе и дали главному агенту общие инструменты для этих задач. А решение, когда подключать агента, который сам работает с сайтом, прописали обычным кодом. Так они убрали возможность ошибиться и заменили часть его «мозгов» кодом.
И вот, казалось, Алиса — огромный универсальный продукт, и уже в силу этого должна опираться на мультиагентную схему и специальные архитектурные решения-медиаторы между агентами, тулами и моделями. У вас скорее всего задач такой сложности нет. Поэтому если у вас есть свои сборки, где прям все-все делают агенты — подумайте. Может, какую-то часть проще заменить скриптом (который сделаете с нейронкой)? И тогда ваша система:
- будет есть меньше токенов
- будет работать эффективнее
А то можно потратить весь день на то, чтобы нейронки правильно передавали друг другу работу. И до самой работы так и не добраться ;)