«Формат кода» на выставке Sfitex 2025

В Санкт-Петербурге завершилась 33-я Международная выставка Sfitex 2025. В этом году мероприятие объединило 47 компаний из различных регионов России и ближнего зарубежья. В деловой программе первого дня выставки директор по развитию бизнеса компании «Формат кода» Александр Жуков принял участие в тематической сессии по искусственному интеллекту (ИИ), где он выступил с докладом на тему: «Баланс возможностей и вызовов искусственного интеллекта в области безопасности».

В своем выступлении ведущий специалист компании в области ИИ рассказал о вызовах, с которыми сталкивается рынок систем безопасности, и о способах их преодоления.

«ИИ одновременно усиливает возможности защиты и создает новые, качественно иного рода угрозы. Задача профессионалов по безопасности — не отвергать технологию, а управлять ею: внедрять механизмы контроля качества данных, тестирования и жесткой защиты моделей, проводить регулярный редтайминг, обеспечивать прозрачность и распределять ответственность», — рассказал эксперт. «Только балансируя и оценивая потенциал и риски, мы сможем превратить ИИ в инструмент устойчивой безопасности, а не в фактор системного риска», — продолжил Александр.

Сегодня ИИ трансформирует практики обеспечения безопасности: от мониторинга физических пространств до автоматизации киберзащиты. Тематика выступления Александра Жукова находится на передовой ИИ, поэтому мы собрали основные тезисы из его выступления:

ИИ как защита

• Современная видеоаналитика в реальном времени позволяет обнаруживать аномалии поведения, фиксировать скопления, оставленные предметы и быстро идентифицировать транспорт или лица — это сокращает время реакции охраны и уменьшает число человеческих ошибок.
• В сфере документооборота ИИ автоматически проверяет контракты, регламенты и внутренние инструкции на соответствие правовым и корпоративным требованиям, что снижает юридические риски и ускоряет комплаенс-аудит.
• Объединяя данные с сенсоров, сетевых журналов и открытых источников, модели предсказывают зарождающиеся угрозы и помогают моделировать сценарии кризисов — от аварий до координированных кибератак.
• Наконец, ИИ способен выполнять первичные меры реагирования (изоляция узла, блокировка трафика), освобождая людей для стратегических решений, а также предоставлять понятные объяснения и варианты действий, усиливая человеческий контроль над ситуацией.

ИИ как уязвимость

Вместе с выгодами приходят структурированные новые риски.

• Во-первых, централизованные массивы данных и обученные модели становятся лакомой целью для атак: утечка чувствительной информации или непреднамеренное «воспроизведение» приватных данных моделью может иметь серьезные последствия.
• Во-вторых, сами модели уязвимы — от «отравления» тренировочных данных до adversarial-атак, заставляющих систему ошибочно интерпретировать входящие сигналы; это может привести как к пропуску реальной угрозы, так и к ложным срабатываниям, парализующим процессы. Зависимость от инфраструктуры и периферийных устройств увеличивает эффект «единой точки отказа»: успешный взлом центра данных или IoT-узла может нарушить сразу множество сервисов.
• Наконец, правовые и этические рамки еще формируются — вопросы ответственности за ошибочные или предвзятые решения ИИ остаются открытыми и создают дополнительные риски для организаций.

ИИ как оружие

Генеративные технологии выводят и угрозы на новый уровень: реалистичные фейки (видео, аудио, тексты) делают социальную инженерию более убедительной и масштабной — поддельное обращение руководителя или сфабрикованное медиа-сообщение могут разрушить внутрикорпоративные процессы за считанные часы. Более того, злоумышленники массово автоматизируют свои инструменты: ИИ ускоряет поиск уязвимостей, генерацию эксплойтов, создание целенаправленных фишинговых кампаний и автоматизацию вредоносного ПО.  В результате барьер для проведения сложных атак падает: атаки становятся быстрее, дешевле и более персонализированными.

Эксперты тематической сессии по ИИ сошлись во мнении, что в обозримом будущем для большинства предприятий и организаций вопросы, связанные с технологической независимостью, цифровизацией и ИИ-решениями в сфере безопасности, останутся одними из ключевых на повестке дня. Убедитесь, что вы придерживаетесь самых последних практик.