ИИ-системы в банке могут работать с финансовой и персональной информацией, поэтому среди основных рисков — утечки данных, несанкционированный доступ и использование непроверенных результатов модели в операционных процессах. Защита должна охватывать сами данные, модель, интеграции и права доступа к системе.
Уровень человеческого контроля зависит от последствий возможной ошибки. В справочных сценариях он может быть ниже, чем в процессах, где ошибка влияет на финансовую операцию или решение по клиенту. Банк России в
рекомендациях № 3-МР от 16 июня 2026 года указывает, что при использовании ИИ в процессах с высоким риском информационной безопасности, в частности в платежных операциях, подтверждение операции сотрудником снижает риск некорректного автоматического действия. Регулятор также рекомендует финансовым организациям формировать собственные модели угроз и политики информационной безопасности для работы с ИИ.