Альфа-Банк повысил продуктивность разработчиков в два раза с помощью новой ИИ-платформы
AlfaGen совмещает в себе сразу несколько нейросетей и позволяет ускорить рутинные процессы.
За последние несколько лет генеративные нейросети стали одним из главных драйверов инноваций в крупных финтех-компаниях. Разработчики постоянно экспериментируют с искусственным интеллектом в поисках новых способов адаптировать его для решения как клиентских, так и внутренних задач. Не исключение и Альфа-Банк, в котором существуют целые департаменты по работе генеративным ИИ и машинным обучением. Рассказываем, что такое платформа AlfaGen, и как с её помощью Альфа-Банк смог повысить продуктивность сотрудников.
AlfaGen появилась в результате эксперимента — разработчики просто хотели проверить, на что способны нейросети
В 2023 году сотрудники Департамента системной поддержки Альфа-Банка провели опрос, чтобы выявить основные тренды — пять-десять наиболее распространённых проблем, с которыми сталкиваются пользователи. Они получили тысячи разных ответов, и анализировать их вручную было очень сложно и долго. На помощь пришел искусственный интеллект, который справился с этой задачей буквально за десять минут. Стало очевидно, что это один из тех случаев, когда генеративные нейросети могут работать гораздо эффективнее человека, если им чётко сформулировать требования.
Всему этому предшествовали несколько месяцев экспериментов. В то время генеративный ИИ уже начал набирать популярность во всём мире, и сотрудники Альфа-Банка пытались понять, как лучше использовать его возможности. Существовавшие к тому моменту наработки показывали, что прежде чем внедрять нейросети, необходимо обозначить четкие рамки их применения, а также упростить взаимодействие с ними с помощью промпт-инжиниринга.
«Когда ты о чём-то спрашиваешь искусственный интеллект — допустим, как подключить программную библиотеку или как написать какую-то часть кода — он не понимает контекста рабочей области. То есть ИИ не знает, какие технологии существуют в банке, что можно или что нельзя использовать. Поэтому ему нужно всё это обозначить в виде промпта — преднастройки искусственного интеллекта в простом текстовом виде, которая обозначает границы работы».
Чтобы лучше понять возможности нейросетей и проверить гипотезу об эффективности их применения, в Альфа-Банке создали инициативную группу из технических специалистов. Они в своё свободное время начали работать с популярными чат-ботами, пытаясь выявить типовые задачи по определенным инженерным компетенциям. Очевидно, что функции Java-разработчика, системного аналитика или тестировщика программного обеспечения существенно различаются. Поэтому нужно было отобрать несколько наиболее распространенных задач, где ИИ мог бы быть эффективен.
Когда промпты для основных кейсов были написаны, их предложили протестировать рядовым инженерам. И отзывы оказались очень положительными — в отдельных операциях нейросети позволяли ускорить работу в несколько раз. Некоторые задачи, на выполнение которых раньше требовалось около двух дней, после внедрения ИИ можно было сделать за пару часов.
Стало понятно, что как минимум в IT-сфере этот метод работает и позволяет повышать продуктивность. Но для его дальнейшего развития требовалось создание полноценной платформы генеративного искусственного интеллекта. Так в начале 2024 года появилась платформа AlfaGen.
AlfaGen не зависит от возможностей одной нейросети и легко адаптируется под разные задачи
Прежде всего, нужно было определиться со стратегией развития искусственного интеллекта в Альфа-Банке. От создания собственной большой языковой модели разработчики почти сразу отказались. Такой подход требовал огромных человеческих и финансовых ресурсов. В том числе инвестиций в дорогую инфраструктуру, состоящую из тысяч графических процессоров, необходимых для обучения и дальнейшего функционирования системы. Банк решил, что на текущем этапе это будет попросту невыгодно.
Стратегию, которая подразумевает интеграцию с каким-либо крупным сторонним партнером, тоже признали не очень эффективной. В первую очередь потому, что в этом случае банк становился сильно зависим от платформы и возможностей конкретного поставщика. В этом случае гораздо сложнее адаптировать систему под свои нужды.
В результате Альфа-Банк решил, что AlfaGen будет независима от конкретной ИИ-модели. Этот подход позволил использовать любые существующие нейросети, наиболее подходящие для решения определенных задач, экспериментировать с новыми разработками, только вышедшими на рынок, а также сравнивать эффективность разных моделей посредством A/B-тестирования. Кроме того, платформа позволяет подключать классические модели, которыми занимается Центр продвинутой аналитики Альфа-Банка, так как системы машинного обучения по-прежнему могут лучше справляться с определенным типом задач.
На данный момент на платформе AlfaGen реализовано три ключевых инструмента, которые упрощают жизнь разработчикам:
Ассистент разработчика — веб-интерфейс в виде чата для IT-специалистов, в котором сотрудники могут вести диалог с искусственным интеллектом. Это можно делать как в свободном формате, так и с использованием заранее прописанных промптов, созданных под определенные компетенции, например, Java, JavaScript, .NET, Android, системная аналитика, QA. Сейчас его используют около трёх тысяч сотрудников банка.
IDE-плагин — инструмент, интегрированный с наиболее популярными средами разработки (например, IntelliJ IDEA, VS Code и другими), который анализирует код и позволяет получить комментарии или рекомендации по его улучшению. Кроме того, плагин обладает функцией автозаполнения, а также может помочь с переводом кода с одного языка программирования на другой. В отличие от ассистента, это более узкоспециализированное, но, тем не менее, очень востребованное в банке решение.
ИИ-агенты — виртуальные сотрудники на основе искусственного интеллекта. Такие агенты автономно от человека разрабатывают план решения задач, исполняют его и возвращаются с результатом «под ключ». Агенты также взаимодействуют друг с другом, объединяясь в целые виртуальные команды и подразделения. На данный момент в банке пилотируют агентов по авто-тестированию и системной аналитике.
Статистика Альфа-Банка показывает, что платформа пользуется большим спросом среди менее опытных сотрудников, которые находятся в начале карьерного пути и нуждаются в советах или подсказках. Но и те, кто занимает senior-позиции в банке, используют AlfaGen для особо сложных кейсов.
«На самом деле прямо сейчас уже сложно представить работу Альфа-Банка без этой платформы. Очень много людей ее используют на регулярной основе, особенно в нашем мобильном банке и фронт-системах. И те команды, для которых AlfaGen стала привычным инструментом, вырываются вперед как по скорости, так и по качеству».
В технологическом плане AlfaGen можно назвать действительно уникальной разработкой — существующие на рынке аналоги гораздо проще как с точки зрения интеграции с разными ИИ-системами, так и с точки зрения грамотного распределения ресурсов. Отдельная особенность платформы заключается в ее гибкости. На то, чтобы подключить совершенно новую модель, только появившуюся на рынке, уходит меньше недели.
В ближайшее время AlfaGen смогут использовать любые сотрудники Альфа-Банка за пределами IT-департамента
В планах у разработчиков активное развитие платформы за пределами сферы программирования. Уже в конце первого квартала 2025 года появится своего рода маркетплейс для промптов — любой сотрудник сможет составить инструкцию с учётом специфики своей работы и типовых задач. Например, для дальнейшего применения в маркетинге или в управлении продуктами. За наиболее удачные промпты можно будет голосовать, чтобы выделять самые полезные из них. Такой подход позволит лучше адаптировать систему под конкретные нужды разных департаментов и определить рутинные задачи, выполнение которых можно упростить и ускорить.
Еще одна важная цель — интеграция технологии Retrieval-augmented generation, которая позволит обогащать уже имеющиеся знания больших языковых моделей за счёт дополнительной специфической информации. Например, той, которая содержится во внутренних базах знаний Альфа-Банка. Это позволит повысить точность ответов искусственного интеллекта и сделать их более релевантными.
До конца первого полугодия платформа AlfaGen будет масштабирована, чтобы охватить более 15 тысяч сотрудников банка из других сфер, не касающихся IT. В перспективе разработчики рассчитывают, что AlfaGen превратится в продукт, адаптированный в том числе для простых задач. С понятным пользовательским интерфейсом, где каждый желающий сможет легко отредактировать документ, собрать аналитический отчет или просто сгенерировать картинку.
Помимо этого в планы разработчиков входит активное внедрение ИИ-агентов. Это совершенно новый тип программного обеспечения, который позволяет полностью автоматизировать определенные задачи и выполнять их без участия человека. Уже в ближайшем будущем с помощью ИИ-агентов можно будет создавать полноценные микросервисы.
Сейчас это одно из наиболее перспективных направлений развития ИИ в мире, если не считать создание общего искусственного интеллекта. Последний сможет самостоятельно обучаться и в теории — превзойти человека в некоторых областях. Но пока такой ИИ остается лишь мечтой исследователей.