Экспресс-чеклист для первичной диагностики применимости AI

Очень часто приходится обсуждать вопросы применимости AI в разных финансовых проектах. В итоге, сформулировал для себя простой чеклист, который быстро позволяет оценить шансы на успех, отдачу и риски. Итак, прежде чем запускать AI проект, задайте себе эти 3 вопроса.

1) Этично ли здесь использовать AI? Пример: идея использовать транзакционную активность клиентов для предсказания валютного курса лежит на поверхности. Думали об этом? Если думали, то, поздравляю! Вы изобрели фронтраннинг, и он незаконен.

Конечно же, любой банк может предсказать что его клиент может захотеть продать или купить валюту, глядя на движение по счетам клиента, однако использовать эту информацию для торговли незаконно. Также всегда надо помнить, что если в ваших данных "зашита" какая-то историческая несправедливость или дискриминация, ваш алгоритм ее воспроизведет и усилит.

2) Хорошо ли с задачей справляется человек-профессионал? Пример, профессионал хорошо водит машину, играет в шахматы, отличает котиков на фото, но исключительно плохо предсказывает, что будет с рублем и ключевой ставкой. Если с вашей задачей плохо справляются люди-профессионалы, то, скорее всего, не стоит рассчитывать, что AI вам тут сильно поможет. Тип, качество и количество данных, с которыми вы тут будете иметь дело, скорее всего, не позволяет эффективно решать эту задачу.

3) Влияет ли ваш прогноз на объект прогнозирования? Если о вашем прогнозе станет известно людям и их поведение изменится, повлияет ли это на ваш прогноз?

Пример: Если гидрометцентр, заявит, что будет дождь, и все горожане выйдут на улицы с зонтиками, на вероятность дождя это не повлияет никак. Вероятно, задача прогноза погоды хорошо решаемая с помощью AI.

Другой пример: аналитик спрогнозировал что какой-то банк рухнет. Все побежали забирать из него деньги и банк рухнул. Или же центральный банк спрогнозировал банковский кризис, и поэтому предоставил всем банкам дополнительную ликвидность и банковский кризис не случился.

В одном случае пророчество стало самоисполняющимся, во втором - самоуничтожающимся. Проблемы, в которых оглашение прогноза влияет на поведение людей и через это на объект прогнозирования плохо решаются с помощью AI.

Резюме: наибольшую отдачу при наименьших рисках от AI стоит ожидать в тех проектах, где это этично, где с задачей хорошо справляются люди-профессионалы, где люди не могут поменять исход, отреагировав на сам прогноз.