Сотрудники компаний смогут научиться безопасному обращению с нейросетями

Сотрудники организаций смогут узнать, как противостоять киберугрозам, связанным с искусственным интеллектом (ИИ). Для прохождения нового курса не нужны специализированные знания или навыки, он рассчитан на широкую аудиторию. При этом новый модуль будет особенно полезен тем, кто непосредственно работает с нейросетями. Он состоит из двух уровней, каждый из которых представлен семью уроками. Они доступны на платформе для повышения уровня цифровой грамотности — Kaspersky Automated Security Awareness Platform.

Первый уровень. На нем участники курса узнают о схемах злоумышленников, применяющих ИИ, и научатся противостоять таким киберугрозам. Речь идет, в частности, про атаки с использованием дипфейков — поддельных голосовых и видеороликов, фотографий, а также про фишинговые сообщения, для написания которых мошенники могут использовать нейросети.

Второй уровень. В его рамках специалисты рассказывают о киберрисках, которые важно учитывать при использовании ИИ в работе. Они объясняют, почему не стоит делиться с нейросетями конфиденциальными данными и полностью перекладывать на них принятие решений. Разработчики курса поднимают вопросы авторских прав на произведения, созданные с помощью ИИ, раскрывают, какие опасности связаны с обходом ограничений (джейлбрейками) нейросетей, а также для чего и как злоумышленники атакуют системы искусственного интеллекта.

Пользователям Kaspersky Automated Security Awareness Platform теперь также доступен экспресс-курс «Искусственный интеллект и нейросети». В нем представлена сокращенная версия второго уровня — применение ИИ в работе.

«С каждым днем сотрудники компаний из разных сфер все чаще используют для решения рабочих задач нейросети, но не всегда учитывают при этом риски информационной безопасности. Технологии не умеют различать, какая информация конфиденциальна и достоверна, а какая — нет. Для нейросетей любые „залитые” данные — материал для работы, и они могут выдать их в неизменном виде другому человеку в ответ на его запрос. К тому же не стоит забывать об интересе к таким решениям со стороны злоумышленников, которые с их помощью могут создавать более реалистичные фишинговые письма и дипфейки. Этот модуль будет полезен не только тем, кто использует или планирует использовать нейросети в будущем, но и вообще всем, чтобы уметь распознавать и противостоять современным киберугрозам», — комментирует Татьяна Шумайлова, эксперт направления повышения цифровой грамотности Kaspersky Security Awareness.