Банк России выступил за мягкое регулирование искусственного интеллекта для оценки кредитного риска
Об этом рассказала начальник управления средств моделирования в департаменте банковского регулирования и аналитики Банка России Ольга Кадрева на Финансовом конгрессе Банка России.
К 1 января 2030 г. системно значимые кредитные организации обязаны перейти на модельный подход к оценке величины кредитного риска (подход на основе внутренних рейтингов - ПВР). Регулятор разрешает банкам переходить на ПВР после того, как проверяет модели.
Заместитель председателя Банка России Ольга Полякова рассказала на Финансовом конгрессе, что от банков есть вопросы о возможности применения ИИ в ПВР. При этом Ольга Кадрева отметила, что регрессия на данный момент считается отраслевым стандартом для пруденциальных целей: она проста, интерпретируема, понятна для регулятора и банков, показывает достаточно надежные результаты. Она рассказала, что в Банке России обширный опыт в валидации регрессий.
При этом Ольга Кадрева отметила, что генеративный искусственный интеллект может в будущем значительно облегчить банкам применение более сложных моделей. "Мы скорее будем придерживаться политики мягкого регулирования: начнем с мониторинга того, как генеративный искусственный интеллект в разных банках работает. При необходимости, как коллеги из Китая, выпустим методические рекомендации, как рисками можно управлять. Но если мы поймем, что банки этими рисками управляют плохо и риски могут нарастать в будущем, вероятно, мы подумаем о том, чтобы выпустить требования. Это касается не только пруденциальных моделей, но и в целом использования генеративного искусственного интеллекта в банке", - заявила Ольга Кадрева.
По ее словам, если все будет "хорошо работать", то ЦБ вернется к вопросу о том, чтобы расширить таксономию моделей, но пока "не время".
При этом спикеры, которые также присутствовали на конгрессе, отметили, что генеративный ИИ имеет ограничения. "Генеративный искусственный интеллект имеет недетерминированную логику, а вероятностную. Это означает, что LLM не вычисляет ответ, она его фактически генерирует. Это факт, который надо принять", - сказал директор по развитию бизнеса ИИ Yandex Cloud (ООО "Яндекс.Облако") Александр Долбнев. Поэтому он считает, что генеративная модель не должна давать финального решения.
Президент ГК InfoWatch Наталья Касперская также заявила, что генеративный ИИ - это всегда черный ящик, и считает, что такие модели надо воспринимать как недоверенные. "Надо их использовать не для критических применений, а для анализа данных, в разработке, но не в скоринге, чтобы оценивать людей. Есть нормальные алгоритмические вещи, которые хорошо работают. При этом они предсказуемы, их можно объяснить, в отличие от вещей генеративных", - заявила Касперская.
При этом старший вице-президент, руководитель блока "Риски" ПАО "Сбербанк" Джангир Джангиров рассказал, что "Сбербанк" использует логистические регрессии, но более высокое качество показывают модели на нейросетях, которые в кредитовании в "Сбере" используют с 2018 г. "Генеративный ИИ - не идеальное решение. Но надо сказать, что случайность есть и в том, как люди принимают решение. И здесь вопрос, кто менее случаен, кто более интерпретируем", - сказал Джангир Джангиров.
Он также подчеркнул, что в "Сбере" используется почти 500 моделей ИИ в системе управления рисками. Большинство из них работают в кредитовании: более 130 в розничном сегменте и более 190 - в корпоративном.
При этом участники согласились, что регулирование ИИ не должно быть жестким, чтобы не затормозить развития технологии.