Как не дать ИИ обесчеловечить бизнес

«Суть бюрократии в том, что правила и процедуры ставятся превыше человеческого мнения. ИИ принимает решения только в соответствии с правилами. Со множеством правил, основанных на прошлых данных, — но только правил. И если процесс происходит без человеческой оценки, ИИ породит новую ужасающую форму бюрократии», — говорит бизнес-технолог Сильвен Дюрантон.

Чтобы избежать «бесчеловечного подхода» — когда присутствие ИИ в компании чрезмерно и лишь снижает бизнес-эффективность, Дюрантон предлагает другой путь — «Человек плюс ИИ». Эта «формула» включает три компонента:

Например, вы разрабатываете новое лекарство, первая доза которого может оказаться опасной для некоторых пациентов. Вы разрабатываете алгоритм, который на основании результатов ЭКГ, анализов крови и биомаркеров выявляет группу риска. Для этого он проводит исследование данных пациентов, которые уже приняли лекарство и почувствовали себя плохо. Когда алгоритм готов, вы не оставите под надзором врачей своего родственника после первой дозы, если так сказал ИИ? Думаю, что нет. Да и врачи будут против.

Другая ситуация — когда над созданием алгоритма вы работаете вместе с большой командой врачей. Тогда вы не только проверяете статистику анализов, но и проводите клинические исследования, ставите эксперименты и смотрите реакцию на препарат отдельных органов. В результате получается гораздо более сложная модель диагностики, но и точность её вердиктов несравненно выше.

Представьте, к вам приходит розничная сеть модной одежды с таким запросом: «У нас лучшие байеры в мире. Вы сможете построить ИИ, который обойдёт их в предсказании продаж? Который лучше предскажет, что мы продадим, а что нет, чем наши дизайнеры?»

Вы берётесь за разработку и предлагаете алгоритм, в котором опытные байеры корректируют предсказания ИИ о трендах будущего. Но ничего не получается: 75% поправок уменьшают точность.

Значит ли это, что нужно отказаться от помощи байеров? Нет. Это значит, что нужно переделать модель. Вместо изначального интерфейса, который работает по принципу «Человек, смотри, что я прогнозирую, поправь, как ты хочешь», сделать версию вроде «Человек, я не знаю тренды на следующий год. Не мог бы ты поделиться своим самыми креативными догадками?» В этом случае получится совместить анализ трендов прошлого, который проведёт ИИ, с профессиональным чутьём байеров и получить более точные результаты.

К примеру, агентство медицинского страхования разработало алгоритм, чтобы выделить среди клиентов тех, кто мог вскоре попасть в больницу, чтобы продать им премиальную страховку. Затем компания начинает массовый обзвон этих людей. Проблема в том, что некоторые потенциальные клиенты получат звонок, когда сами ещё не подозревают, что скоро им придётся обратиться за медицинской помощью. Возможно, и не придётся. В любом случает звучит как вторжение в частную жизнь.

Чтобы этого не произошло, нужна команда людей, которые помогут бизнесу и ИТ установить границы между персонализацией и манипуляцией.

Я замечаю, что количество ИТ-стартапов растёт, значит, всё больше проектов полагаются на применение ИИ. На каждом этапе работы с идеей важно помнить, что «Человек плюс ИИ» — это бесконечно больше, что «Человек минус ИИ» или «ИИ минус Человек».

Подписывайтесь на мой tg-канал о проектах и стартапах. Новые посты каждый понедельник и четверг.