Заместитель президента — председателя правления ВТБ Анатолий Печатников рассказал, что банки начали использовать искусственный интеллект (ИИ) для борьбы с мошенниками. Например, ВТБ будет с помощью ИИ вычислять несоответствие типичному поведению заемщика и отклонять такие заявки. В кредитный скоринг будет включена оценка востребованности займа, а возможное мошенничество будут выявлять на каждом шаге кредитного процесса. Предполагается, что такие меры помогут сохранить не меньше 2 млрд руб. средств клиентов за год. Разберем проблемы такого подхода.
Интеллект, но не совсем
На самом деле банки уже очень давно используют нейронные сети для предотвращения мошенничества по кредитам. Однако в большинстве публикаций речь идет о том, что этот класс решений применяется все чаще. Это так. Но нужно вспомнить о том, что такое ИИ.
По сути ИИ — это крайне сложные программные комплексы и алгоритмы с большими объемами вычислений и множеством этапов работы. В них нет интеллекта как такового. Скорее это похоже на нефтеперерабатывающий завод, если вспомнить фотографии.
На любом НПЗ есть этапы подготовки сырья, первичной перегонки, вторичной переработки фракций в зависимости от выпускаемой продукции. Каждому этапу производства соответствуют непростое оборудование и свои технологические циклы. То же самое и в так называемом антифрод-скоринге. Сейчас это не просто нейросети, а зачастую несколько сетей, которые взаимодействуют друг с другом. Подробнее об этом можно почитать в сообществах специалистов по Data Science, например на открытых ресурсах Альфа-Банка.
Очевидно, что это крайне сложные системы, непредсказуемые и плохо контролируемые в своих прогнозах. Несмотря на усилия научного сообщества по популяризации данного класса решений, по сути их результат невозможно объяснить. Это первое слабое место.
Вторым слабым местом является то, что часто в подобных системах нет блоков самооценки. Прогноз нейросети используется as is. Она просто выдает результат сложных вычислений, предобработки данных и т.д. — и пользователю остается только верить или не верить. Это большая проблема, потому что даже те, кто сталкивался со стандартными библиотеками, знает, насколько странные решения иногда получаются на реальных данных. С этим борются путем математических метрик. Но даже если у вас эти метрики высоки, в антифроде какая-то часть решений все равно будут абсолютно нелогичными.
Все мы знаем, как, например, Сбербанк проверяет своих клиентов. Если в полночь попробовать перевести крупную сумму, вам поступит запрос на дополнительное подтверждение операции. Здесь критерий понятен — ночная операция, нетипичная для пользователя. Но дело в том, что для нейросети объяснимых критериев просто нет.
Спецназ против мелких хулиганов
Сейчас, как известно, в России всплеск мошенничества. По данным Банка России, во II квартале 2022 года объем операций без согласия клиента составил 2,8 млрд руб. Однако такой инструмент, как ИИ, хорош только для исключительных случаев высокотехнологичного мошенничества. Представьте, что вы столкнулись с хулиганами на улице, а у вас на телефоне есть кнопка «Вызвать вертолет спецназа». Вы, конечно, можете ей воспользоваться, но чаще всего лучше просто убежать или позвать на помощь. А еще лучше — чтобы органы МВД путем профилактики преступлений исключили хулиганские нападения в городе.
Мегаусилия банков, нацеленные на борьбу с мошенничеством, не адекватны поставленной задаче — по сути, государственно-правовой задаче в области уголовного права. Иными словами, сейчас мы даже не вызываем вертолет, а строим заводы по производству вертолетов, чтобы справляться с уличными хулиганами.
Здравый смысл подсказывает, что высокие зарплаты сотен специалистов, работающих в этой сфере, лучше направить на пресечение деятельности 5-10 крупнейших мошеннических группировок. Сегодня все эти группировки представляют собой высокотехнологичный IT-бизнес, о чем постоянно сообщают порталы типа InfoWatch.
Возможно, в публичной активности банков, связанной с антифрод-скорингом, больше пиара пресловутого мошенничества, чем борьбы с ним?