Управление продуктами с искусственным интеллектом

Перевод статьи Марти Кагана (признанного гуру в области продакт менеджмента) и Мэрили Ники (эксперта в области ИИ продуктов). Статье объясняет, почему и в чем продукты на базе ИИ сложнее, чем обычные tech продукты, и какие риски необходимо учитывать при их разработке.

Подписывайтесь на мой канал: продуктовые штуки одной строкой

В статье эксперты говорят об особенностях ИИ продуктов, а также традиционно Каган разбирает 4 риска в разработке tech продукта применительно к продуктам с ИИ:

Предисловие

Мэрили Ника (Marily Nika) помогает в создании продуктов и услуг на базе ИИ. Она имеет PhD в области машинного обучения, сделала впечатляющую карьеру в создании ИИ продуктов в Meta и Google, а также является автором популярного курса для менеджеров по продуктам о том, что им нужно знать для создания эффективных продуктов на основе ИИ.

В предыдущей статье Марти писал о том, как ИИ может повлияет на продуктовые команды в целом и на роль управления продуктом в частности (и Мэрили выступала в качестве эксперта-рецензента в этой статье). В этой статье мы обсуждаем продукты, которые создают эти команды.

Важные пояснения

Чтобы внести ясность в терминологию: «управлении продуктами ИИ» - это создание продуктов на базе ИИ. Когда мобильные технологии были новинкой, «менеджер мобильных продуктов» был особенно востребованным навыком, а теперь большинство продакт менеджеров обладают навыками разработки продуктов для мобильных устройств. Мы ожидаем, что то же самое произойдет и с менеджерами по продуктам с использованием ИИ.

Мы ожидаем, что через несколько лет большинству продактов потребуется обладать навыками создания продуктов и услуг на основе ИИ.

Еще одним важное пояснение: мы фокусируемся на приложениях на базе ИИ, а не на базовой инфраструктуре ИИ, которая включает в себя процесс обучения модели.

Это различие аналогично разнице между платформенным продуктом и продуктом опыта. Платформенный продукт позволяет создавать "продукты опыта" [продукт для конечного пользователя, прим. НХ]. Оба типа продуктов интересны и важны, но подавляющее большинство менеджеров ИИ продуктов будут отвечать за продукты опыта, приложения, – то, на чем мы сосредоточимся здесь.

Природа продуктов на базе ИИ

Большинство продуктов сопряжены со значительными рисками, но к счастью, продуктовые команды являются кроссфункциональными, а поэтому у них есть навыки для устранения этих рисков. Лишь немногие продукты испытывают острую необходимость в эффективном управлении продуктами больше, чем продукты на базе ИИ.

Продукты на базе ИИ особенно сложны, когда речь идет о рисках. А это означает, что менеджер по продукту, дизайнер продукта и технический лидер должны будут тесно сотрудничать, чтобы найти эффективные продуктовые решения.

Риск технической осуществимости продукта (Feasibility Risk)

Генеративный ИИ по своей природе является вероятностным.

В случае традиционных (не ИИ) решений мы обычно можем рассчитывать на то, что если в продукте будут представлены одни и те же входные данные, он будет генерировать похожий результат. Для генеративных решений на основе ИИ могут существовать буквально миллиарды входных данных, и их веса могут меняться в результате обучения, что потенциально может со временем привести к различным результатам.

Определенные типы продуктов и возможностей очень хорошо подходят для вероятностных решений, а другие — нет. Это, пожалуй, самое важное соображение.

Например, если продукт представляет собой персонализированную ленту новостей, то если иногда рекомендация не полностью соответствует заявленным предпочтениям пользователя, этим можно управлять в пользовательском интерфейсе. Однако если продукт контролирует дозу лекарства, например инсулина, то выходящая за рамки медицинских рекомендаций дозировка будет просто недопустима.

Поэтому крайне важно, чтобы менеджер ИИ продукта следил за тем, чтобы технология точно соответствовала конкретному продукту или решению.

Это непосредственно ведет к важной теме качества продукта. Каков приемлемый уровень ошибок? Возможные типы ошибок? Как продукт будет обрабатывать каждый тип ошибок? Есть ли способы минимизировать ошибки в пользовательском опыте?

Говоря об ошибках, большую часть времени основное внимание будет уделяться тренировочным данным. Качество данных, используемых для обучения модели ИИ, имеет решающее значение. Менеджеры по продукту должны иметь четкое и глубокое понимание данных обучения, а также того, как модель обучалась и настраивалась.

Все большие наборы данных имеют потенциальные ошибки и ограничения. Этические последствия систематических ошибок в данных обсуждаются в разделе «Риск жизнеспособности», и менеджер ИИ продукта должен быть в курсе этих проблем и понимать, как проблемы могут проявиться в конечном продукте.

Основным камнем преткновения для многих сегодняшних основанных на ИИ продуктов являются именно обучающие данные. Быть может, еще недостаточно объема или качества тренировочных данных для создания полноценного коммерческого продукта.

Когда дело доходит до выполнимости, менеджеру по продукту ИИ необходимо тесно сотрудничать с техническим лидером и, возможно, проконсультироваться со специалистами по машинному обучению, чтобы определить приемлемые компромиссы.

Например, высокоточная модель может потребовать более серьезных инвестиций в обучение, значительные вычислительные мощности и время, что повлияет на пользовательский опыт, масштабируемость и стоимость. решения.

Также важно упомянуть технический долг и инфраструктуру: это может препятствовать масштабируемости, а также общей осуществимости и жизнеспособности продукта.

Нужно ответить на вопрос, есть ли у компании необходимая техническая инфраструктура для поддержки ИИ продукта? Учитывайте также такие факторы, как хранение данных, вычислительная мощность и текущие затраты на обслуживание.

Риск удобства использования / юзабилити (Usability Risk)

Что касается ИИ продуктов, необходимо проектировать такой пользовательский опыт, который четко формирует ожидания относительно того, что может и чего не может технология, и как (по крайней мере, концептуально) работает продукт. Эта прозрачность является ключом к построению доверия и избежания разочарования при столкновении с ограничениями.

Традиционно менеджеры продукта во многом полагаются на дизайнеров с точки зрения завоевания доверия пользователей. Однако ИИ вводит дополнительный уровень ограничений и сложностей, многие из которых решаются именно менеджером по продукту. Нужно, чтобы пользователи чувствовали себя комфортно в отношении того, как используются их данные, и каковы возможности ИИ. Это может означать поиск новых способов взаимодействия с пользователем.

Дизайнеру продукта придется работать рука об руку с менеджером по продукту, чтобы гарантировать, что продукт на базе ИИ будет легко освоить, использовать, понимать и доверять ему.

Более того, во многих случаях пояснение решений и поведения ИИ может оказаться ключевым в определенных продуктах. Такая прозрачность укрепляет доверие и помогает пользователям повысить уверенность при взаимодействии с продуктом.

Как и при оценке осуществимости, менеджеру по ИИ продукту необходимо будет тесно сотрудничать с дизайнером, чтобы найти оптимальные для пользовательского опыта продуктовые компромиссы. Например, высокоточной системе рекомендаций ИИ может потребоваться больше времени для получения результатов, что приведет к разочарованию пользователей. Напротив, более простая модель ИИ для более быстрой обработки может иметь меньшую точность.

Очень важно найти правильный баланс между точностью, скоростью, расходами на решение и пользовательским опытом.

От себя добавлю, что этот риск - совсем не умозрительный. Так, многообещающий продукт AI Pin провалился во многом из-за неудобства использования.

Юзабилити продукта стало основной причиной, почему авторитетный MIT назвал его "провалом года".

Риск ценности (Value Risk)

Ценность всегда представляет собой критический риск. Продукты на основе ИИ обещают ощутимую ценность, поэтому значительная часть мира стремится применять эту технологию.

Сегодня мы можем видеть множество примеров ИИ-продуктов, которые являются таковыми только по названию. Поэтому первая обязанность менеджера по продукту — обеспечить, чтобы функции и продукты на базе ИИ приносили подлинную ценность для пользователей и клиентов.

Это означает решение реальных проблем способами, которые явно лучше существующих решений, или даже решения проблем, которые были бы невозможны без новых технологий ИИ.

Мы хотим избежать соблазна внедрить ИИ исключительно ради маркетинга или конкурентного паритета. Наша задача — обеспечить, чтобы воспринимаемая ценность была ясной и четкой. Обычно это означает объединение количественных данных (например, A/B-тестирования) с качественной информацией (например, пользовательское тестирование).

Картинка из статьи MIT, хорошо иллюстрирующая хайп вокруг ИИ. <a href="https://api.vc.ru/v2.8/redirect?to=https%3A%2F%2Fwww.technologyreview.com%2F2024%2F01%2F08%2F1085094%2F10-breakthrough-technologies-2024&postId=1270470" rel="nofollow noreferrer noopener" target="_blank">Источник<br /></a>
Картинка из статьи MIT, хорошо иллюстрирующая хайп вокруг ИИ. Источник

Нам также необходимо тесно сотрудничать с маркетингом, чтобы обеспечить эффективное донесение этой ценности. Говоря о маркетинге продуктов, мы обсуждаем важную работу по обеспечению жизнеспособности, связанную с конфиденциальностью пользователей и использованием этических данных, и мы хотим быть уверены, что, когда это уместно, мы также четко и ясно сообщаем об этом.

Риск жизнеспособности (Viability Risk)

Хотя ИИ обладает огромным потенциалом с точки зрения реальной ценности, проблемы жизнеспособности бизнеса часто бывают серьезными, а ошибки и упущения в отношении рисков жизнеспособности, как правило, доминируют в заголовках новостей.

В отношении любого продукта необходимо убедиться, что его можно эффективно продавать, обслуживать, монетизировать, а также он является законным и соответствует всем соответствующим нормативным ограничениям. Для ИИ продуктов эти риски жизнеспособности могут быть особенно важными и сложными.

С точки зрения экономики говорить о продуктах на базе ИИ очень рано: затраты могут быть довольно высокими.

Кроме того, для некоторых типов продуктов возникают серьезные вопросы об источнике данных, авторских правах на данные для обучения и искаженности данных. Компании еще работают над пониманием юридической ответственности и последствий предоставления вероятностных решений клиентам.

И последнее, не менее важное: этические соображения вызывают постоянную и растущую озабоченность. Это выходит за рамки потенциальных ошибок в обучающих данных. Если пользователи неправильно понимают результат или модель галлюцинирует и создает опасность, каковы юридические и этические последствия?

С помощью вероятностных решений вполне возможно, что система на базе ИИ не только спасет жизни (выполняя важную задачу точнее и быстрее, чем люди), но и подвергнет жизни опасности (совершив ошибку). Сегодня компании должны всерьез учитывать эти этические соображения.

Также менеджер ИИ продукта должен стремиться предвидеть последствия злоумышленников, использующих продукты незаконным или ненадлежащим образом. Могут иметь место социальные или экологические последствия. Ожидается, что менеджер ИИ продукта рассмотрит и проанализирует эти риски и будет работать с юридической командой компании, чтобы защитить клиентов и компанию.

И чтобы внести ясность: эти критические вопросы для жизнеспособности ИИ продукта ложатся исключительно на плечи менеджера продукта.

Подводя итог

Надеемся, что эта статья показывает, как ИИ сказывается на продуктовых рисках, и что у менеджера ИИ продукта, вероятно, возникает больше ответственности и обязательств, чтобы справиться с неопределенностью.

От успешного менеджера ИИ продукта потребуются глубокие знания о пользователях, данных, бизнесе и рынке, чтобы выполнять трудную роль. Более того, грамотность в области ИИ — еще один пример того, почему менеджерам по продукту нужна прочная основа в технологиях.

Как и в случае с мобильным менеджером проекта, мы ожидаем, что со временем все менеджеры продуктов должны будут обладать хотя бы базовым уровнем этих навыков.

Ожидается, что в будущем большинство менеджеров продукта станут менеджерами ИИ продуктов, в том смысле, что они будут понимать, как работает технология ИИ, каков диапазон связанных с этим рисков и что необходимо предпринять для уменьшения этих рисков.

Пожалуйста, поддержите меня, поставьте лайк!

22
11
1 комментарий

возникает новая проблема ,нужно обладать широкой базой знаний чтобы уметь управлять этой технологией

Ответить