ГОСТ для ИИ в поликлинике: новые риски старых данных

Утверждение первого ГОСТа для систем искусственного интеллекта в здравоохранении — событие, которого профессиональное сообщество ждало давно. Появление этого документа, классифицирующего ИИ-системы от диагностики до реабилитации и даже изменения анатомических структур, выводит отрасль из «серой зоны» эксперимента в правовое поле.

Однако, приветствуя стандартизацию, нужно обратить внимание на проблему, которая пока остается за скобками бурных обсуждений. Это проблема рисков, связанных с обработкой и защитой данных при внедрении ИИ.

Новый ГОСТ четко делит системы ИИ по пользователям: от профессоров до пациентов, от голосовых чат-ботов до сложных диагностических алгоритмов для анализа снимков. Но чем шире проникновение технологий, чем больше «точек входа» в нашу цифровую инфраструктуру, тем выше уязвимость самого ценного актива — персональных медицинских данных.

В чем именно кроется новая угроза?

Давайте посмотрим на классификацию, которую утвердил стандарт. Мы видим там два ключевых момента, создающих новые, нетрадиционные риски для соблюдения 152-ФЗ и врачебной тайны.

1. «Умные» голосовые сервисы и чат-боты. Отнесенные ко второму типу, они становятся «первым контактом» пациента с медицинской информационной системой. Любой диалог с таким ботом о симптомах, образе жизни или психологическом состоянии — это массив сверхчувствительных данных. Вопрос: гарантирует ли текущая архитектура таких решений, что эти разговоры не станут пищей для алгоритмов Big Tech без должного обезличивания? ГОСТ описывает, что это за системы, но пока не регламентирует до конца, как они должны обеспечивать приватность на всех этапах.
2. Разделение по уровню подготовки пользователя. Стандарт предполагает использование ИИ людьми без специальной подготовки (пациентами) и прошедшими подготовку (врачами). Для кибербезопасности это критическая разница.
   • Врач (подготовленный пользователь) работает в защищенном контуре клиники, понимает риски и обязан сохранять врачебную тайну.
   • Пациент (неподготовленный пользователь) взаимодействует с системой чаще всего через мобильное приложение со своего смартфона. Именно этот канал сегодня — самое слабое звено. Личные гаджеты защищены гораздо хуже, чем серверы больниц. Именно здесь данные могут быть перехвачены или скомпрометированы, что создает прямые риски утечек.

ГОСТ как зеркало проблем

Утверждение ГОСТа — это не финишная прямая, а скорее старт для новой гонки: гонки вооружений между разработчиками ИИ и теми, кто нацелен на хищение информации. Документ дает нам четкую карту угроз, показывая, где сосредоточены наиболее ценные активы — в каждом из перечисленных типов систем, будь то сервисы видеоаналитики или системы поддержки принятия врачебных решений.

Теперь наша общая задача — сделать так, чтобы внедрение стандарта не привело к парадоксу, когда системы профилактики, диагностики и реабилитации станут идеальным инструментом для сбора компрометирующей информации. Мы обязаны потребовать от разработчиков и регуляторов, чтобы параллельно с внедрением ГОСТа ужесточались требования к цифровой гигиене на стороне пользователя, и особенно — пациента.

Стандартизация — это необходимый шаг. Но в эпоху цифровой медицины безопасность данных и соответствие нормам законодательства должны быть вшиты в код так же глубоко, как и диагностические алгоритмы. 
Иначе, леча тело с помощью ИИ, мы рискуем потерять контроль над самой чувствительной информацией о человеке.