OCC выпустил первый надзорный фреймворк по ИИ в банках на 22 страницах

Офис контролёра денежного обращения США (OCC) 4 ноября выпустил первый надзорный фреймворк для проверки применения ИИ в банках. Документ на 22 страницах предлагает проверяющим отталкиваться от последствий ошибок системы, оставляя в стороне мощность модели.

Проверяющий смотрит, что произойдёт при сбое, можно ли отменить действие и сколько контроля остаётся у людей. OCC приводит четыре уровня риска: полностью автономные платёжные агенты и системы мгновенных кредитных решений попали в высшую категорию, простые инструменты для внутренней работы — в низшую. Для систем высокого риска регулятор считает уместными ограничение автономии, независимое тестирование и подтверждение человеком перед важными действиями.

Отдельный раздел посвящён сторонним агентам, которыми управляют клиенты, финтех-компании или другие организации. Такие системы создают риск для банка, даже если банк ими не управляет. Среди предложенных мер — проверка личности, делегированные права, лимиты транзакций, мониторинг и возможность приостановить или отозвать доступ. Для агентов, которые продолжают работать, принимая вредные решения, перечислены автоматические прерыватели, лимиты частоты запросов, урезанные права и аварийное отключение.

Новых обязательных требований документ не вводит. Банкам не нужно заводить отдельную категорию риска ИИ, а проверяющие оценивают системы по действующим категориям операционного риска, комплаенса и кибербезопасности. OCC обещает обновлять документ по мере развития технологии.

Фреймворк вышел вскоре после сообщений о сторонних ИИ-агентах в клиентских аккаунтах. 22 октября Axios сообщил, что Morgan Stanley блокировала таких агентов, а JPMorgan, Bank of America и Citi ограничивали доступ. Банковские руководители в разговоре с изданием называли ситуацию «ужасающей». Сам регулятор не связывал выпуск документа с этими случаями.