Искусственный интеллект против кибербезопасности — каков расклад сил

Современная экономика и государственное управление функционируют в постоянно изменяющемся ландшафте киберугроз и изменении поверхностей атак, поэтому важно помнить, что необходимо действовать на упреждение, а не реагировать на уже произошедшие инциденты. Как руководитель компании по кибербезопасности я знаю это не понаслышке. Плотно поработав с новыми технологиями весь прошлый год, поделюсь своими соображениями об ИИ в разрезе кибербезопасности.

Развитие специализированных языковых моделей

Могу сказать наверняка, что искусственный интеллект никуда не денется, его не запретят, не ограничат, ИИ будет совершенствоваться — причем как во благо человечества, так и на службе у «темных сил», такова реальность. Наглядный пример, как большие языковые модели уже трансформировали сферу кибербезопасности: они предоставляют командам ИБ изумительную возможность проанализировать огромные объемы информации и получить оперативные аналитические данные с помощью простых запросов. В повседневной жизни обывателей и бизнесе сложные модели ИИ тоже продемонстрировали выдающиеся способности — в понимании и написании текста, интерпретации изображений и их создании. Все это способствуя прогрессу в различных сферах.

Однако при всей своей раскрученности и популярности большие языковые модели все еще ограничены в способности понимать и интерпретировать специализированные данные кибербезопасности. Поэтому в 2024 году команды ИБ перейдут к использованию малых языковых моделей. Эти подвижные специализированные модели предоставят экспертам доступ к оперативным аналитическим данным об активности хакеров. А обучение в реальном времени станет «секретным оружием», позволяя отделам информационной безопасности быстро адаптироваться к постоянно меняющемуся ландшафту угроз.

Зачем ИИ хакерам? Чтобы действовать на опережение

Как я уже упомянул выше, искусственный интеллект станет постоянным элементом нашей жизни, и дискуссия об этичном использовании генеративного ИИ будет становиться все острее. Пока что крупные организации заняли выжидательную позицию, они «присматриваются» к ИИ и пытаются понять отношение общества к таким технологиям. А вот злоумышленники не мучают себя вопросами этики и вовсю применяют искусственный интеллект в своих интересах. Поэтому с моей точки зрения, в 2024 году хакеры будут иметь преимущество в использовании ИИ.

Как это выглядит на практике:

Фишинговые кампании становятся более продвинутыми. Злоумышленникам уже не надо тратить время на придумывание «завлекающих» текстов и ручной выбор адресатов-жертв. Все делает нейронка.

Сбор информации о потенциальных целях автоматизируется. По заданным параметрам ИИ формирует детальный портрет жертвы и определяет слабые места — точки входа для реализации атаки.

Нашествие дипфейков. Свежий пример — раскрытая в марте 2024 года мошенническая схема с использованием дипфейка премьер-министра одной из стран, призывающего вкладывать деньги в некую инвестиционную программу правительства. Видео было сгенерировано на основе прошлогоднего интервью политика, а вот с голосом ИИ ошибся: на фейковом видео премьер-министр говорил с сильным австралийским акцентом.

Я настоятельно советую руководителям отделов информационной безопасности готовиться к приближающейся волне угроз, генерируемых ИИ.

Как оставаться киберустройчивой организацией

В условиях диджитализации бизнеса и госуправления, а также повсеместного внедрения искусственного интеллекта экспертиза по информационной безопасности должна прийти в высший менеджмент. Вопросы ИБ теперь необходимо рассматривать как и любые другие существенные бизнес-риски. Раньше я говорил, что залог сохранности данных компании — это обученный персонал, а сегодня должен добавить: руководители высшего звена тоже должны повысить уровень киберграмотности для принятия правильных стратегических решений.