Телемедицина и ИИ в здравоохранении: кто платит за ошибку алгоритма

Романовская Ангелина Александровна, медицинский юрист, соучредитель и руководитель юридической компании  «МФКЭКСПЕРТ», управляющий партнер АНО «Правовой Центр Судебных Независимых Экспертиз», правозащитник врачей, автор аккредитованных Минздравом образовательных программ для медиков, спикер многочисленных  управленческих и медицинских конференций, эксперт СМИ о телемедицине и ИИ в здравоохранении.

Цифровизация здравоохранения в России — уже не эксперимент

Телемедицина, электронный документооборот, медицинские информационные системы и решения, основанные на искусственном интеллекте, уверенно вошли в повседневную практику клиник. По данным Минздрава, ИИ уже внедрен в десятках регионов: анализируются миллионы медицинских записей, появляются голосовые ассистенты и автоматизированные системы поддержки принятия врачебных решений.

Однако в правоприменительной и судебной практике видно, что вместе с технологиями в клиники приходят и новые управленческие риски, связанные не с уровнем развития ИИ, а с тем, как медицинские организации встраивают цифровые решения в работу.

Восприятие телемедицины как облегченного формата медицинской помощи — иллюзия. На уровне маркетинга это подается как сервис, которым удобно пользоваться, а внутри клиники ощущается, что телемедицина упрощает взаимодействие с пациентом.

При проведении телемедицинских консультаций медорганизация обеспечивает защищенный канал связи — так пациент может удаленно подписывать медицинскую документацию, пройдя идентификацию и аутентификацию. Но часто в клиниках телемедицину подменяют онлайн-информированием, выходя за рамки требований ФЗ-323 «Об основах охраны здоровья граждан». 

Чат-боты и мессенджеры: как нарушается закон

Еще одна зона рисков — запись пациентов и сопровождение лечения через чат-боты и мессенджеры. Для клиник — удобный клиентский сервис, но для Роскомнадзора –информационная система, собирающая персональные данные.

Практика подтверждает: общение с пациентом через Telegram- или WhatsApp*-ботов (принадлежит корпорации Meta, деятельность которой признана экстремистской на территории РФ и запрещена) без отдельного согласия на трансграничную передачу данных нарушает законодательство о персональных данных. Аргументы о «привычности» сервиса и отсутствии жалоб не принимаются. При этом, клиники не берут отдельного согласия на рекламную рассылку, рискуя получить штраф до 700 тысяч рублей. Совет: рассмотрите российские мессенджеры для общения с пациентами или защищенные каналы связи приложений медицинских информационных систем. 

Ошибка: Запись через Telegram-бот

Клиника принимала заявки через Telegram-бот без согласия на обработку персональных данных, политика обработки персональных данных оказалась формальной, типовой. По итогам проверки суд подтвердил штраф 150 тыс. рублей.

Главная ошибка — управленческая: цифровой сервис внедрялся как удобство, без признания его юридического статуса и без пересмотра документации.

Искусственный интеллект: помощник врача или медицинское изделие

Случаи, связанные с применением ИИ, стали появляться в практике: в них ошибки выявлял не алгоритм, а врач, который использовал результаты работы искусственного интеллекта.

С правовой точки зрения ИИ — инструмент поддержки принятия врачебных решений. То есть, за клинический результат по-прежнему отвечает врач и медицинская организация, работающая по такой модели.

Ошибка: ИИ «не увидел» новообразование

Два врача использовали ПО с ИИ при описании МРТ и не выявили патологию, третий врач обнаружил новообразование. Да, ошибся ИИ, но ответственность понес врач как субъект клинического решения.

При этом суды и регуляторы отдельно оценивают правовой статус самого программного обеспечения. Если ПО участвует в клиническом процессе, оно рассматривается как медицинское изделие.

Ошибка: ПО с ИИ как медицинское изделие

Арбитражный суд Республики Татарстан (дело № А65-6178/2023) указал: программное обеспечение, участвующее в клиническом процессе и обработке медицинских данных, подлежит регистрации как медицинское изделие. Без регистрационного удостоверения применение такого ПО становится юридически уязвимым.

Мнение «ПО с ИИ — только софт» — ошибочно.

КИИ и информационная безопасность: о чем забывают

Еще одна проблема, с которой сталкиваются клиники, — игнорирование требований законодательства о безопасности критической информационной инфраструктуры. Федеральный закон № 187-ФЗ обязывает медицинские организации проводить категорирование объектов КИИ, однако на деле эта обязанность воспринимается как формальность.

Отсутствие категорирования, модели угроз и ответственных лиц — повод для претензий со стороны надзорных органов. Проверка ждет и при отсутствии инцидентов.

Где проходит граница ответственности

Судебная и надзорная практика показала: граница ответственности проходит не между врачом и алгоритмом. Она проходит между:

• управляемой цифровизацией,
• и внедрением технологий без пересмотра юридической и управленческой модели клиники.

С того момента, когда телемедицина и ИИ становятся частью бизнес-процессов, они оцениваются судами и регуляторами по тем же критериям, что и другая медицинская деятельность.

Цифровые технологии в здравоохранении сами не создают правовых рисков. Эти риски появляются там, где есть недоработки в управленческих решениях. Это ключевой пункт для клиник, которые рассматривают телемедицину и ИИ как инструмент развития.