У половины ИБ-специалистов высокий уровень опасений утечек из-за ИИ

Опрос «СерчИнформ» 170 специалистов по ИБ показал растущий интерес и потенциальную возможность расширения использования ИИ в отрасли информационной безопасности. По итогам опроса 34% опрошенных специалистов уже активно используют ИИ в работе. 39% планируют внедрение ИИ в будущем, однако 27% не рассматривают использование ИИ для решения ИБ-задач.

В числе основных ограничений выделяется уровень недоверия к ИИ. Более половины ИБ-специалистов (53%) оценивают риск утечки конфиденциальных данных как высокий, еще 29% — как средний. Однако инструменты мониторинга и контроля применяют не все — 36% не контролируют использование нейросетей вовсе, 30% разрешают работу с ИИ только из «белых списков», а 26% допускают использование технологии в рамках строго определенных сценариев.

Андрей Рыков, заместитель генерального директора по ИТ и инновациям «ОБИТ», подчеркивает: «Вопросы безопасности LLM-моделей и ИИ-агентов в корпоративном контуре остаются одним из наиболее чувствительных для ИБ-руководителей. С одной стороны, они несут ответственность за защиту данных, с другой — не могут полностью ограничить использование ИИ, который становится драйвером развития бизнеса.

Однако существуют варианты нивелировать эту дихотомию, и речь идет не про запрет технологии, а про выстраивание управляемой среды их использования. На рынке появляется специализированные решения и платформы для безопасного использования корпоративного ИИ.

Подобные платформы представляют собой промежуточный слой управления ИИ-агентами: которые не взаимодействуют с корпоративными системами напрямую, а каждое их действие проходит через набор модулей запуска, контроля и аудита. Модули определяют, кто инициирует действие, какие операции разрешены, в каких случаях требуется подтверждение, а в каких случаях необходимы ограничения.

Среди модулей могут быть политики доступа, риск-контроля, аудита действий, интеграции с корпоративными системами, а также управление межагентными взаимодействиями и взаимодействием «сотрудник—ИИ». Такие инструменты позволяют снизить операционные и информационные риски, сохраняя при этом возможность масштабирования ИИ-решений внутри организации».