Artem Lyashanov: Как превратить регуляторные требования в рыночное преимущество 

Автор: Artem Lyashanov

Последние десять лет крупные финансовые компании смотрели на ИИ исключительно как на продвинутый калькулятор. Задачей алгоритмов было найти ошибку в бухгалтерской книге или выгадать лишнюю миллисекунду в биржевых сделках. 

Но эпоха комфортного неведения закончилась. Появление сложных нейросетей перевернуло всё с ног на голову. Сегодня банк или финтех-проект уже не может просто сказать: У нас есть умная система, она предсказывает прибыль.

В этом материале разберем, как финансовым институтам перестать бояться проверок и превратить соблюдение законов в реальное преимущество на рынке, которое помогает зарабатывать больше, а не просто «отбиваться» от регуляторов.

«Раньше мы гнались за скоростью алгоритмов. Сегодня мы боремся за их прозрачность. И как ни странно, именно те, кто наведет порядок в своих ИИ-системах, в итоге заберут самую большую долю рынка».

Artem Lyashanov

Почему объяснимость ИИ стала активом

Сфера кредитования (как розничного, так и корпоративного) лучше всего проявляет фундаментальный конфликт между скоростью ИИ и требованиями регулятора.

Когда международный банк внедряет нейросети для оценки заемщиков, он получает колоссальное преимущество в time-to-market. Система за миллисекунды сопоставляет кредитные рейтинги, волатильность рыночных секторов и кэш-флоу, выдавая ликвидность именно в тот момент, когда она нужна клиенту. Но за этой скоростью скрывается критическая уязвимость.

Если модель при обучении подхватила скрытые закономерности, она может начать дискриминировать заемщиков по географическому или демографическому признаку, сама того не осознавая.

Инвестиции в инфраструктуру надзора и этический контроль это способ легального масштабирования.

1. Банк, внедривший архитектуру прозрачного ИИ на старте, выпускает продукты быстрее;
2. Чистая и верифицированная модель исключает сценарии, когда из-за одной системной ошибки приходится отзывать продукт, выплачивать компенсации и восстанавливать разрушенную репутацию бренда;
3. Когда алгоритм понятен, он управляем. Это позволяет банку агрессивнее наращивать кредитный портфель, точно понимая границы риска.

«В современных финансах этика алгоритмов это про инженерную дисциплину. Создавая систему, которую можно проверить и объяснить, мы фактически покупаем страховку от регуляторного дефолта. Это фундамент, на котором строится долгосрочная маржинальность цифрового банка».

Artem Lyashanov

Цифровая гигиена

Достичь высокого уровня безопасности ИИ невозможно без жесткого, почти бескомпромиссного подхода к качеству внутренних данных. 

Главная проблема классических банков это раздробленность. Данные о клиентах могут храниться на серверах тридцатилетней давности, истории транзакций в облаке, а профили рисков в отдельной изолированной базе. В таком хаосе добиться соблюдения законов физически невозможно.

Чтобы навести порядок, финансовым организациям нужно внедрять систему отслеживание происхождения данных.

Еще один риск рассинхронизация. Если база данных ИИ не обновляется в реальном времени, система начинает галлюцинировать, выдавать вымышленные финансовые советы или устаревшие данные за абсолютную истину.

В финтехе это критично еще и потому, что рынок меняется мгновенно. Модель, обученная на процентных ставках трехлетней давности, сегодня потерпит крах. Технически это называется сдвиг концепта, когда реальность уходит вперед, а алгоритм остается в прошлом.

Высокая точность прогнозов ничего не значит, если вы не видите, что происходит с моделью прямо сейчас. Для борьбы со сдвигами и ошибками в живые алгоритмы нужно встраивать системы непрерывного мониторинга.

«Без возможности наблюдать за ИИ в реальном времени даже самая совершенная модель превращается в корпоративную мину замедленного действия».

Artem Lyashanov

Безопасность алгоритмов

Для руководителей по информационной безопасности (CISO) внедрение ИИ это головная боль нового уровня. Классическая кибербезопасность привыкла строить стены вокруг сетей и компьютеров. Но защита ИИ это совсем другое. Здесь нужно защищать целостность самой модели. И, честно говоря, большинство современных центров безопасности к этому пока не готовы.

Угрозы в финтехе:

• Злоумышленники могут незаметно манипулировать внешними данными, на которых банк обучает свои системы борьбы с мошенничеством;
• Когда через обычный чат с ботом поддержки злоумышленник вводит такие текстовые команды, которые заставляют ИИ забыть правила безопасности и выдать конфиденциальные данные счета;
• Внешний хакер может засыпать систему тысячами запросов, пока не вычислит секретные финансовые данные, которые были спрятаны глубоко в памяти алгоритма во время обучения.

Чтобы противостоять этим угрозам, нам приходится внедрять архитектуру нулевого доверия

«Раньше мы защищали периметр базы данных. Сегодня мы защищаем мыслительный процесс машины». 

Artem Lyashanov

Можно ли купить готовую безопасность?

Сегодня крупнейшие облачные гиганты буквально встраивают инструменты контроля в свои платформы. Они предлагают банкам готовые панели мониторинга, автоматические отчеты для регуляторов и встроенные алгоритмы для поиска ошибок.

Параллельно растет целая экосистема стартапов, которые специализируются на узких задачах, например, только на проверке того, почему ИИ принял конкретное решение, или на отслеживании момента, когда модель начинает ошибаться.

Почему это заманчиво? Купить готовое решение это удобно. Вам не нужно с нуля писать сложный софт для аудита. Вы просто подключаете готовый инструмент к своей системе и получаете мгновенный результат и внешнее подтверждение, что ваши модели работают честно.

Однако здесь кроется серьезный риск, зависимость от поставщика.

• Если вы полностью завяжете свою безопасность на одну облачную платформу, любая попытка сменить провайдера (например, из-за новых законов о хранении данных внутри страны) превратится в многолетний и безумно дорогой кошмар;
• Вы должны сохранять контроль. Инструменты, которые проверяют ваш ИИ, должны быть переносными. 

Главное правило, интеллектуальная собственность и механизмы управления должны оставаться внутри банка.

Об авторе

Artem Lyashanov – финтех-предприниматель и эксперт по международным платежным технологиям.

Специализируется на создании устойчивой бизнес-инфраструктуры в банковском и небанковском финансовом секторах. В профессиональном портфолио Артема Ляшанова, путь от руководителя техподдержки процессингового центра PIN Bank до позиции СТО международной платежной системы, где под его техническим руководством объем транзакций вырос в три раза.

Для тех, кто хочет глубже разобраться в том, как ИИ меняет мышление руководителя, не только процессы, но и саму логику принятия решений, читайте колонку. Хорошая точка отсчёта для тех, кто уже внедрил автоматизацию и думает о следующем шаге.