«ЦИПР-2024». День третий: «Искусственный огонь»

Привет! На связи Кирилл Левин, CEO NLABTEAM. Принёс вам заметки с третьего дня «ЦИПР-2024», одного из ТОП-5 мероприятий России, посвящённых цифровой экономике. Тема одной из пленарных сессий — «Искусственный огонь. Промышленная эволюция с генеративным ИИ и языковыми моделями». Делюсь самым полезным из увиденного и услышанного. Поехали!

Источник: pravda-nn.ru <br />
Источник: pravda-nn.ru

На третий день организаторы дали всем немного выдохнуть: пленарная сессия началась в 11 утра. Тема крайне актуальная, я и в своём блоге о ней уже писал совсем недавно.

Забегая вперёд, была панельная дискуссия: сначала представители большого бизнеса рассказали о своих достижениях в использовании больших языковых моделей (LLM), а потом осталось немного времени на вопросы и, собственно, обсуждение.

Об LLM высказались представители ведущих организаций страны: «Татнефть», «Газпром нефть», ИТМО, «Яндекс.Технологии», ГПБ и другие

Ильшат Карамов рассказал о том, как «Татнефть» объединила LLM со специализированными моделями распознавания изображений. У них все распознанные технологические операции собираются в единый производственный график, затем он сопоставляется с технологическими картами и нормативной документацией — и отчётливо выделяются простои.

«ЦИПР-2024». День третий: «Искусственный огонь»

Михаил Корольков, начальник управления цифровых технологий и ИИ в компании «Газпром нефть», вместе со своей командой представил «Супергеолога»: это генеративный ИИ, который из текстового запроса формирует план геологических исследований.

«ЦИПР-2024». День третий: «Искусственный огонь»

Работают с открытыми LLM. Любопытно, что, поскольку те работают лучше с английским, всё общение с LLM ведётся на английском.

Анна Калюжная из ИТМО, как и положено представителю науки, систематизировала роль генеративных сетей в общем многообразии искусственных интеллектов, начав с цитаты Stephen Wolfram (основателя одной из лучших платформ математических расчётов Wolfram):

Не стоит ожидать, что ChatGPT сам по себе сможет выполнять нетривиальные вычисления, или будет систематически выдавать верные ответы — а не те, которые просто похожи на правильные.

«ЦИПР-2024». День третий: «Искусственный огонь»

То есть для получения действительно точных ответов нужно интегрировать LLM c системами точных расчётов. Как пример, платформа ИИ Microsoft Jarvis имеет единый интерфейс, где под каждую задачу вызываются специализированные ML-модели.

«ЦИПР-2024». День третий: «Искусственный огонь»

Анна показала, как работает построенная на архитектуре мультиагентов система от ИТМО.

«ЦИПР-2024». День третий: «Искусственный огонь»

Далее, развитие ИИ будет двигаться в направлении связки LLM + AutoML: генеративные модели и специализированные модели с автообучением.

Если вам интересна тема LLM и AutoML, поставьте «+» в комментариях: так я пойму, что об этом нужна отдельная статья, и напишу её для вас сразу после «ЦИПР».

Александр Крайнов, директор по развитию ИИ в ООО «Яндекс.Технологии», выступил без презентации, как он сказал: «Вытяну за счёт харизмы». Не соврал, реально зажёг ;)

Озвучил прикольную идею мониторинга процессов управления проектами:

Составляем список контрольных вопросов:

— Какие сроки?

— Какие ответственные лица?

— Какие риски?

— ...

Учим LLM находить ответы на эти вопросы в базах знаний типа Confluence (используется RAG).

Если проектная документация ведётся корректно, то ответы на такие вопросы LLM находит.

А вот если нет, то включается LLM, настроенная в режиме «менеджер-дятел»: она долбит нерадивого PM вопросами типа: «Риски недостаточно проработаны, когда исправите?», или: «А почему ничего не изменилось за неделю?»

Адель Валиуллин, руководитель отдела искусственного интеллекта из Газпромбанка, рассказал об уже внедрённых сервисах, которые решают задачу Copilot-а по развитию карьерного трека.

В завершение Дмитрий Филатов, модератор сессии, показал видео с концептом мультимодальной LLM, которая анализирует и текст, и видео — и подсказывает водителю об опасностях на дороге. Пообещал, что такая технология будет внедрена в российском электромобиле «АТОМ».

И напоследок — короткая дискуссия о будущем и больших языковых моделях

Далее между спикерами состоялась небольшая, но занимательная дискуссия.

📌 Вопрос № 1: Генеративные LLM доступны только крупным компаниям?

Александр Крайнов:

— Есть уже существующие облачные сервисы. На их основе можно заказывать разработку LLM-решений под конкретный бизнес у сторонних компаний. Например, Александр Бухановский, директор мегафакультета трансляционных информационных технологий, профессор факультета цифровых трансформаций ИТМО, со своей командой делал проект для «Татнефти».

Open source модели можно переиспользовать. Использование внешней команды сводится к тому, что вы, по сути, принимаете команду к себе — между вами создаётся очень тесная интеграция. Команда мониторит LLM, сравнивает и комбинирует.

Михаил Корольков:

— Почему бы не отдать вообще все функции GPT, включая генерацию самих GPT?

Ответ Александра Крайнова:

— Класс специалиста определяется по уровню его самой большой ошибки. GPT модели — это как джун. Вероятность грубейших ошибок очень высока.

Ильшат Карамов:

— Мы организовали высшую школу «Татнефти». Одна из идей — обучение применению LLM. Основная проблема — неумение правильно сформулировать промпт.

Комментарий Александра:

Промпт-инжиниринг, по сути, был всегда, только раньше мы задачи формулировали только живым людям. И точно так же была проблема с тем, что задача формулировалась неточно.

📌 Вопрос № 2: Как станет выглядеть будущее? Как изменятся профессии?

Анна Калюжная:

— Если сравнить нашу современную жизнь с началом 90-х, когда стартовала эра повсеместного использования компьютеров, то новых профессий появилось не так уж и много. Просто в рамках старых профессий люди освоили новые технологии. Через десяток лет все будут нативно пользоваться большими языковыми моделями, но сами профессии мало изменятся.

Александр Крайнов:

— Garbage in, garbage out. Плохие данные на входе — плохие результаты на выходе. Языковые модели начали переходить к сложным задачам. Будут востребованы люди, способные очень точно собирать новые данные для обучения и правильно их готовить. Само обучение моделей автоматизируется.

Адель Валиуллин:

— Вспоминаем Клауса Шваба, «Четвёртая промышленная революция».

Однако, что происходило с первыми промреволюциями? Люди не остались без работы, повысилась их эффективность. То же самое произойдёт и сейчас: просто повысится производительность людей.

Михаил Корольков оппонирует:

— Утешительная мантра: «Модели возьмут на себя рутину, а люди будут заниматься интеллектуальным трудом». Но, например, «Супергеолог», фактически, замахивается на творческий уровень — еще немного, и интеллектуальный труд будет замещён.

Возможно, интеллектуалы сместятся в сторону обучения LLM, у стратегического уровня управления компаниями будет +2 года, но потом и их будут замещать. Так что не надо себя успокаивать, человеку нужно будет заново искать своё место в новом мире.

Буду рад, если материал окажется вам полезен. И, как всегда, готов ответить на ваши вопросы в комментариях!


Мои предыдущие посты о мероприятии:

🔹 «ЦИПР-2024»: день первый. Заметки с полей, или тренды в импортозамещении для ключевых сфер промышленности

🔹 «ЦИПР-2024». День второй: динамическое ценообразование


Чем занимается моя команда в разрезе обучения больших языковых моделей, вы можете прочитать здесь.


9
2 комментария

+, AutoML это всегда интересно)

1
Ответить

+

Ответить