Кодекс этики применения искусственного интеллекта в сфере охраны здоровья. Версия 2.1 (утв. Межведомственной рабочей группой при Минздраве России по вопросам создания, развития и внедрения в клиническую практику медицинских изделий и сервисов с использованием технологий искусственного интеллекта, протокол от 14 февраля 2025 г. N 90/18-0/117)

АННОТАЦИЯ

Кодекс этики применения искусственного интеллекта в сфере охраны здоровья (далее - Кодекс) - это набор принципов и рекомендаций, предлагаемых Министерством здравоохранения Российской Федерации совместно с главными внештатными специалистами Минздрава России и направленных на определение этических норм использования искусственного интеллекта (далее - ИИ).

Субъекты СИИ должны развивать и поддерживать научное партнерство, обеспечивать соблюдение принципов профессиональной ответственности, прозрачность оценки эффективности и безопасности применения СИИ при практическом применении в части использования данных клинической практики при формировании баз данных, используемых для обучения различных СИИ.

Настоящий Кодекс разработан на основе следующих нормативных правовых актов и документов:

Конституция Российской Федерации;

Указ Президента Российской Федерации от 10.10.2019 N 490 "О развитии искусственного интеллекта в Российской Федерации" (вместе с "Национальной стратегией развития искусственного интеллекта на период до 2030 года");

Федеральный закон от 21.11.2011 N 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации";

Федеральный закон от 24.04.2020 N 123-ФЗ "О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта в субъекте Российской Федерации - городе федерального значения Москве и внесении изменений в статьи 6 и 10 Федерального закона "О персональных данных";

Федеральный закон от 31.07.2020 N 258-ФЗ "Об экспериментальных правовых режимах в сфере цифровых инноваций в Российской Федерации";

Федеральный закон от 27.07.2006 N 152-ФЗ "О персональных данных";

Приказ Росстандарта от 25.10.2024 N 68-пнст "Об утверждении предварительного национального стандарта Российской Федерации" вместе с национальным стандартом Российской Федерации ПНСТ 961-2024 "Системы искусственного интеллекта в здравоохранении. Этические аспекты", с гармонизацией Кодекса с нормами международного права.

Положения настоящего Кодекса рассчитаны на системы искусственного интеллекта, применяемые исключительно в сфере охраны здоровья граждан при оказании медицинской помощи в части профилактики, диагностики, лечения и иных действий в сфере здравоохранения Российской Федерации. Его Положения могут быть расширены и/или конкретизированы в отраслевых или локальных документах по этике в сфере ИИ с учетом развития технологий, особенностей решаемых задач, класса и назначения СИИ, уровня возможных рисков, а также специфического контекста и среды, в которой применяются СИИ.

Основными этическими проблемами применения технологии ИИ в условиях практического здравоохранения являются:

недостаток доказательств эффективности и безопасности решений СИИ с точки зрения допуска их для применения медицинскими работниками;

повышенный риск причинения вреда здоровью пациентов в силу потенциальных ошибок обработки данных и знаний, а также заключений (рекомендаций), формируемых СИИ;

сложность интерпретации решений при машинном обучении (проблема "черного ящика");

повышенные риски от СИИ с непрерывным обучением, которые способны изменять свою работу вследствие появления новых данных, в том числе получаемых во время их эксплуатации;

повышенные риски, связанные с добросовестностью разработчика системы ИИ в части полноты выборки и качества обучающих данных;

отсутствие понятия вывода из эксплуатации технологий, что может быть особенно важно при выявлении критических отклонений в работе алгоритмов ИИ;

необходимостью проработки вопросов, связанных с выводом из эксплуатации ИИ-систем, в том числе при выявлении критических ошибок в их работе;

проблемы кибербезопасности, включая несанкционированное вмешательство в алгоритмы работы ИИ или доступ к персональным данным пациентов;

сложность определения конкретного субъекта СИИ, ответственного за финальное принятое решение на основании работы СИИ, в случае отсутствия регистрационного удостоверения на СИИ, являющиеся медицинскими изделиями с технологией искусственного интеллекта;

этические проблемы, связанные с внедрением квантовых вычислений;

необходимость предоставления гражданину или его законному представителю в доступной форме полной информации о целях, методах оказания медицинской помощи, связанном с ними риске, возможных вариантах медицинского вмешательства (в том числе с применением технологий ИИ), о его последствиях.

Реализация Кодекса и его принципов позволит:

содействовать расширению обоснованного применения технологий ИИ в здравоохранении;

сформировать нравственную основу для субъектов ИИ основанную на традициях отечественной медицинской школы;

повысить прозрачность использования технологий ИИ для пациентов и медицинских специалистов, в сфере охраны здоровья.

1. ОБЩИЕ ПОЛОЖЕНИЯ

1.1 Цель и задачи Кодекса

Целью Кодекса является этичное, безопасное и эффективное развитие и использование ИИ на благо общества, развитие здравоохранения, а также предотвращение применения ИИ во вред в настоящем и будущем, с гармонизацией Кодекса с международными соглашениями и международным правом.

Основными задачами Кодекса являются:

- Определение прав и обязанностей субъектов ИИ.

- Определение механизмов регулирования применения Кодекса.

1.2 Область применения Кодекса

Кодекс должен применяться на всех этапах жизненного цикла СИИ, включая этапы планирования, проектирования, построения модели, апробации, верификации и валидации, экспертизы, развертывания, эксплуатации и мониторинга с учетом обязательного определения критериев вывода из эксплуатации.

1.3 Термины и определения

Термины/Сокращения	Определения
База данных	Совокупность взаимосвязанных данных, организованных в соответствии со схемой базы данных таким образом, чтобы с ними мог работать пользователь1.
ИИ	Искусственный интеллект - комплекс технологических решений, позволяющий имитировать когнитивные функции человека (включая поиск решений без заранее заданного алгоритма) и получать при выполнении конкретных задач результаты, сопоставимые с результатами интеллектуальной деятельности человека или превосходящие их. Комплекс технологических решений включает в себя информационно-коммуникационную инфраструктуру, программное обеспечение (в том числе в котором используются методы машинного обучения), процессы и сервисы по обработке данных и поиску решений. [Указ Президента Российской Федерации от 10.10.19 N 490 "О развитии искусственного интеллекта в Российской Федерации"]
Клиническая практика	Деятельность, направленная на диагностику, профилактику, лечение и уход за больным человеком или группой людей с целью удовлетворения их потребностей и улучшения благополучия. Предусматривает выполнение действий, направленных на восстановление здоровья пациента.
Кодекс	Кодекс этики применения искусственного интеллекта в здравоохранении.
Область применения	Взаимоотношения субъектов СИИ и участников СИИ в сфере охраны здоровья граждан.
Персональные данные	Любая информация, относящаяся к прямо или косвенно определенному или определяемому физическому лицу (субъекту персональных данных).
Реестр субъектов СИИ	Реестр субъектов СИИ с указанием ролей, размещенный на портале оперативного взаимодействия участников единой государственной информационной системы в сфере здравоохранения.
СИИ	Система искусственного интеллекта (Artificial Intelligence System): техническая система обработки информации, обладающая искусственным интеллектом (например, см. ПНСТ 553-2021 (ISO/IEC DIS 22989, NEQ), ГОСТ Р 59276-2020). Программное обеспечение, в котором используются технологические решения искусственного интеллекта. [ГОСТ Р 59921.6-2021, пункт 3.10]
Субъекты СИИ	Лица, принимающие участие в жизненном цикле СИИ при его реализации на территории Российской Федерации или лица, находящиеся на территории Российской Федерации, в отношении которых применяется СИИ, включая предоставление товаров и оказание услуг. К таким лицам относятся в том числе: разработчики, производители, уполномоченные представители производителей, заказчики, владельцы, операторы и поставщики данных, пользователи, лица, принимающие участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области ИИ (регулятор), иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.
Участник СИИ	Любое физическое или юридическое лицо, добровольно и сознательно присоединившееся к Кодексу.

------------------------------

1 - ГОСТ 34.321-96 "Информационные технологии. Система стандартов по базам данных. Эталонная модель управления данными".

------------------------------

1.4 Субъекты СИИ и их Роли

Субъектами СИИ являются:

В рамках настоящего Кодекса под Субъектами СИИ понимается круг лиц, принимающих участие в жизненном цикле СИИ при его реализации на территории Российской Федерации или лица, в отношении которых применяются СИИ, находящиеся на территории Российской Федерации, включая предоставление товаров и оказание услуг. Это могут быть физические лица и юридические лица, в том числе:

- физические лица, в том числе пациенты;

- некоммерческие организации и профильные профессиональные сообщества;

- медицинские организации всех форм собственности и подчиненности;

- образовательные учреждения, в том числе в сфере здравоохранения;

- компании разработчики, производители, уполномоченные представители производителей, операторы и владельцы ИИ;

- органы управления здравоохранением;

- независимые (локальные) этические комитеты.

Роли субъектов СИИ:

- Разработчик - физическое или юридическое лицо, создающее, обучающее, тестирующее модели/системы ИИ и разрабатывающее, реализующее такие модели/системы, программные и/или аппаратные комплексы и принимающее на себя ответственность в отношении их конструкции;

- Заказчик и/или Владелец - физическое или юридическое лицо или организация, получающие продукт или услугу (СИИ);

- Пользователь - физическое или юридическое лицо, на законном основании использующее СИИ по назначению и в соответствии с техническими характеристиками и непосредственно реализующее решение прикладных задач с использованием СИИ;

- Оператор - физическое или юридическое лицо, обеспечивающее работу СИИ в соответствии с заявленными параметрами;

- Регулятор - юридическое лицо, принимающее участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области применения СИИ в здравоохранении;

- Иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.

Субъекты СИИ в соответствии со своей ролью обеспечивают:

- проектирование, разработку, апробацию, экспертизу и эксплуатацию СИИ в соответствии с законодательством и принятыми стандартами;

- сбор, обработку и использование данных в соответствии с законодательством;

- надежные меры защиты и конфиденциальности данных, включая анонимизацию данных, шифрование и строгий контроль доступа;

- обеспечение защиты прав и благополучия субъектов исследования (субъектов СИИ);

- контроль над использованием данных и функционированием СИИ;

- информирование о правилах обеспечения безопасности.

2. ОСНОВНЫЕ ПРИНЦИПЫ

Для обеспечения доступности, качества, эффективности и безопасности медицинской деятельности при выполнении работ с применением технологий ИИ в сфере охраны здоровья граждан и получения медицинской помощи пациентами предлагается соблюдение субъектами СИИ нижеследующих основных принципов:

2.1 Ограниченная автономность

Автономность СИИ в здравоохранении ограничена и обратима.

Обеспечить требуемые параметры автономности должны разработчики СИИ в рамках своей роли на соответствующем этапе жизненного цикла СИИ.

Субъекты СИИ обеспечивают комплексный контроль над СИИ в объеме и порядке, зависящем от целей, задач и этапа жизненного цикла СИИ.

Все решения СИИ (при необходимости) должны быть проверены и одобрены субъектом ИИ с соответствующей ролью.

СИИ должны позволять субъектам СИИ с соответствующей ролью:

- Проверять и/или санкционировать автоматизированные решения.

- Отказаться от автоматизированных решений.

- Изменять предложенные СИИ решения.

2.2 Прозрачность и объяснимость

СИИ должны проектироваться и разрабатываться с ориентацией на понятность и объяснимость результатов функционирования, кроме того, разработчик и/или производитель обязан обеспечить доступность информации о применяемых в СИИ алгоритмах работы ИИ, что повышает уровень защищенности пользователя и доверия к СИИ.

2.3 Конфиденциальность данных и безопасность пациентов

В соответствии с законодательством субъекты СИИ должны обеспечивать конфиденциальность данных и безопасность пациентов на всех этапах жизненного цикла СИИ.

Неисполнение законодательства Российской Федерации в части обеспечения конфиденциальности данных, повлекших за собой причинение вреда здоровью и/или риск разглашения сведений, составляющих врачебную тайну, в результате применения СИИ (в том числе по причине применения СИИ не в соответствии с заявленными характеристиками), ведет к возникновению ответственности в соответствии с законодательством.

2.4 Справедливость и равенство доступа

Права всех субъектов СИИ, включая пациентов и представителей социально уязвимых групп населения (как субъектов СИИ), должны быть защищены и учтены при разработке и применении СИИ в соответствии с требованиями законодательства. Применение СИИ не должно приводить к стигматизации и дискриминации субъектов СИИ из-за их состояния здоровья, пола, возраста, национальности или иных характеристик. Все субъекты СИИ должны иметь равный доступ к СИИ с учетом целей и задач, решаемых СИИ.

2.5 Научное партнерство и профессиональная ответственность

Субъекты СИИ должны развивать и поддерживать научное партнерство, в том числе в рамках сотрудничества с международными организациями и научными центрами государств-участников Договора о создании Союзного государства и Договора о Евразийском экономическом союзе, обеспечивать соблюдение принципов профессиональной ответственности.

Субъекты СИИ, принимающие участие в создании, апробации, экспертизе, эксплуатации контроле СИИ, должны руководствоваться научной добросовестностью, приверженностью открытому исследованию и междисциплинарному сотрудничеству, а также выдерживать высокие стандарты профессионализма, осознавая свою возможность влиять на общество и будущее технологии.

2.6 Информирование

Субъекты СИИ в рамках своей роли должны обеспечивать максимальную прозрачность и правдивость в информировании об уровне развития СИИ, их возможностях и рисках, предоставлять достоверную информацию о допустимых областях применения, эффективных методах использования, потенциальном вреде, пользе и существующих ограничениях СИИ.

Все субъекты СИИ должны увеличивать уровень осведомленности общества о СИИ, проводя и/или принимая участие мероприятиях по повышению доверия и информированности: разработка научных и публицистических материалов, организация конференций и семинаров, а также включение правил этического поведения в правила эксплуатации СИИ.

2.7 Проведение этической экспертизы и апробации СИИ

Проведение этической экспертизы и апробации СИИ определены законодательством Российской Федерации.

2.8 Контроль

Применение СИИ в сфере охраны здоровья граждан подотчетны и контролируемы.

Субъекты ИИ в соответствии с их ролью должны обеспечивать надлежащий контроль за применением СИИ. Для каждого из этапов жизненного цикла СИИ должны быть определены Субъекты ИИ, принимающие на себя ответственность за воздействие СИИ на заинтересованные стороны, общество.

3. ПРАВА И ОБЯЗАННОСТИ СУБЪЕКТОВ ИИ:

3.1 Права и обязанности физических лиц

Физические лица обладают следующими правами и обязанностями:

- Право на защиту персональных данных.

- Право на доступ к достоверной информации о СИИ и их влиянии на здоровье и общество.

- Право на защиту своих прав и поддержку со стороны профессиональных сообществ и государственных органов в случае возникновения этических конфликтов или выявления нарушений.

- Право на участие в обсуждении и выработке государственной политики и нормативно-правового регулирования в области применения СИИ в здравоохранении.

- Право сообщать о любых проблемах, выявленных при работе с СИИ.

- Обязанность соблюдать положения и рекомендации законодательства на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать рекомендованные меры по обеспечению конфиденциальности и безопасности персональных (в том числе медицинских) данных на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать принципы честности и объективности, избегая искажений и манипуляций, на всех этапах жизненного цикла СИИ.

3.2 Права и обязанности юридических лиц

Юридические лица обладают следующими правами и обязанностями:

- Право на доступ к информации о характеристиках, возможностях и ограничениях СИИ, используемых в здравоохранении.

- Право участвовать в выработке государственной политики и нормативно-правового регулирования в области применения СИИ в здравоохранении.

- Право осуществлять сотрудничество с международными организациями, научными центрами (государств-участников Договора о создании Союзного государства и Договора о Евразийском экономическом союзе) для обмена знаниями и лучшими практиками в области применения СИИ в здравоохранении.

- Обязанность обеспечить конфиденциальность и безопасность персональных (в том числе медицинских) данных на всех этапах жизненного цикла СИИ.

- Обязанность учитывать и защищать права всех физических лиц (в том числе пациентов), включая социально уязвимые группы населения, при разработке и применении СИИ.

- Обязанность обеспечить безопасность и прозрачность разработки, проверки, применения и мониторинга функционирования СИИ.

- Обязанность осуществлять информирование об уровне развития СИИ, их возможностях и рисках.

- Обязанность развивать и поддерживать научное партнерство и обеспечивать профессиональную ответственность.

- Обязанность соблюдать требования и рекомендации законодательства и регулирующих документов на всех этапах жизненного цикла СИИ.

- Обязанность соблюдать принципы честности и объективности, избегая искажений и манипуляций, на всех этапах жизненного цикла СИИ.

- Обязанность обеспечивать подготовку специалистов, участвующих в создании, проверке, эксплуатации, мониторинге функционирования СИИ.

4. ДЕЙСТВИЕ КОДЕКСА

Положения настоящего Кодекса распространяются на все лица, принимающие участие в жизненном цикле СИИ при его реализации на территории Российской Федерации, и лица, находящиеся на территории Российской Федерации, в отношении которых применяется СИИ, включая предоставление товаров и оказание услуг.

К таким лицам относятся в том числе: разработчики, производители, уполномоченные представители производителей, заказчики, владельцы, операторы и поставщики данных, пользователи, лица, принимающие участие в регуляторном воздействии на сферу ИИ, в том числе разработчики нормативно-технических документов, руководств, различных регуляторных положений, требований и стандартов в области ИИ (регулятор), иные лица, действия которых потенциально могут повлиять на результаты действий СИИ или лиц, принимающих решения с использованием СИИ.