ЕДИНЫЙ ЦУПИС рассказал о регулировании ИИ и практиках его применения

В Москве 14 апреля прошел III Российский риск-форум, организованный Аналитическим кредитным рейтинговым агентством (АКРА). Одним из спикеров мероприятия выступил руководитель подразделения прикладного ИИ ЕДИНОГО ЦУПИС Сергей Панченко.

Форум собрал экспертов финансового рынка, представителей банков, ИТ-компаний и регуляторов для обсуждения ключевых вызовов и трендов в сфере риск-менеджмента.

В своем выступлении «ИИ в ЕДИНОМ ЦУПИС: кейсы и новые правила игры» Сергей Панченко рассказал о практическом применении ИИ в финансовой организации и о том, как меняются подходы к управлению рисками под влиянием формирующегося регулирования.

Спикер отметил, что развитие ИИ в финансовом секторе — это эволюционный процесс, в котором ключевую роль играет построение единого безопасного контура. В ЕДИНОМ ЦУПИС ИИ внедряется на нескольких уровнях — от платформенных решений и инструментов разработки до no-code среды и специализированных систем под бизнес-задачи. При этом для всех сценариев действуют единые принципы: работа с чувствительными данными внутри периметра, трассируемость действий и обязательный контроль человека в критических точках.

Отдельное внимание было уделено проекту закона об искусственном интеллекте и его практическому влиянию на риск-функцию. По словам Сергея Панченко, новая регуляторная модель предполагает переход от точечного использования ИИ к формированию полноценного контура безопасной эксплуатации: с четко закрепленными ролями участников, требованиями к доверенным моделям, обязательным учетом инцидентов и непрерывным мониторингом со стороны регулятора.

«Мы видим, что безопасная эксплуатация ИИ становится не лучшей практикой, а обязанностью оператора. Это требует пересмотра процессов: от инвентаризации всех ИИ-систем и назначения ответственных до внедрения механизмов остановки систем при риске причинения вреда и формализации работы с инцидентами», — отметил руководитель подразделения прикладного ИИ ЕДИНОГО ЦУПИС Сергей Панченко.

Спикер также подчеркнул, что готовность к новым требованиям формируется уже на этапе архитектуры решений. Использование локальных моделей для чувствительных данных, внедрение логирования и human-in-the-loop, а также изначально заложенная прозрачность для пользователей позволяют снизить будущие издержки на соответствие регулированию.

В завершение Сергей Панченко обозначил базовые шаги, которые необходимо предпринять финансовым организациям для подготовки к вступлению закона в силу: провести инвентаризацию ИИ-решений, определить роли и зоны ответственности, задокументировать архитектуру систем и выстроить процессы учета инцидентов и уведомления пользователей.