Воронеж БИЗНЕС

ЦБ предупредил о рисках ИИ и потребовал «человека в контуре»

ЦБ предупредил о рисках ИИ и потребовал «человека в контуре»

Источник: abireg.ru
Банк России впервые системно описал риски применения искусственного интеллекта в финансовом секторе и предложил участникам рынка базовые правила защиты. Регулятор выпустил методические рекомендации, где разобрал потенциальные сценарии атак на ИИ-системы и меры противодействия. Ключевой сигнал — автоматизация не должна быть безусловной. В операциях с повышенным риском, включая платежи, ЦБ советует сохранять «человека в контуре»: решения ИИ должны подтверждаться сотрудником. Регулятор также фактически перекладывает ответственность за безопасность на сами организации: им предложено разработать собственные модели угроз и политики защиты ИИ. Курировать этот блок должен профильный заместитель руководителя. Отдельный акцент сделан на работе с внешними ИИ-сервисами. ЦБ указывает на необходимость проверки поставщиков, в том числе участия их моделей в программах поиска уязвимостей, что должно снижать риски для клиентов и инфраструктуры. Документ стал первой попыткой регулятора задать рамку для быстро растущего сегмента, где уровень рисков пока опережает практику регулирования.