Стоит ли ловить мошенников нейросетью

Банки все чаще используют нейросети для целей антифрода. Например, 7 сентября зампредседателя правления ВТБ А. Печатников рассказал «Известиям», что банк будет с помощью ИИ вычислять несоответствие типичному поведению заемщика. Разберем проблемы такого подхода. Но сначала вспомним, что в ИИ нет интеллекта как такового. ИИ скорее похож на нефтеперерабатывающий завод: подготовка сырья, первичная перегонка, вторичная переработка фракций. Каждому этапу соответствуют непростое оборудование и свои технологические циклы. Сейчас антифрод-скоринг — это зачастую несколько нейросетей, взаимодействующих друг с другом. Подробнее об этом можно почитать, например, на открытых ресурсах Альфа-Банка.

Дело в том, что системы эти непредсказуемые и плохо контролируемые в своих прогнозах. Несмотря на усилия научного сообщества по популяризации таких решений, по сути их результат невозможно объяснить. Это первое слабое место.

Второе слабое место — частое отсутствие блоков самооценки. Прогноз нейросети используется as is. Даже те, кто работал со стандартными библиотеками, знают, насколько странные решения иногда получаются на реальных данных.

ИИ хорош для случаев высокотехнологичного мошенничества. Но представьте, что вы столкнулись с хулиганами на улице, а у вас на телефоне есть кнопка «Вызвать вертолет спецназа». Вы, конечно, можете ее нажать, но часто лучше убежать. А еще лучше — чтобы органы МВД путем профилактики исключили хулиганские нападения в городе.

Мегаусилия банков по борьбе с мошенничеством не адекватны поставленной задаче — по сути, государственно-правовой задаче в области уголовного права. Иными словами, сейчас мы даже не вызываем вертолет, а строим заводы по производству вертолетов, чтобы справляться с уличными хулиганами.

Здравый смысл подсказывает, что высокие зарплаты сотен специалистов, работающих в этой сфере, лучше направить на пресечение деятельности 5-10 крупнейших мошеннических группировок, которые сегодня представляют собой высокотехнологичный IT-бизнес.