vitjВрач и информационные технологииMedical Doctor and Information Technologies1811-01932413-5208Pirogov National Medical and Surgical Center10.25881/18110193_2023_4_36vitj-131Research ArticleОРИГИНАЛЬНЫЕ ИССЛЕДОВАНИЯORIGINAL RESEARCHЭтические принципы разработки систем искусственного интеллекта для здравоохраненияEthical principles of the development of artificial intelligence systems for healthcareВасильевЮ. А.VasilievY. A.

к.м.н.

г. Москва

 PhD

Moscow

VasilevYA1@zdrav.mos.ruГусевА. В.GusevA. V.

 к.т.н.

г. Петрозаводск

г. Москва

PhD

Petrozavodsk

Moscow

agusev@webiomed.ruМихайловаА. А.MikhailovaA. A.

г. Москва

Moscow

MikhajlovaAA8@zdrav.mos.ruШароваД. Е.SharovaD. E.

г. Москва

Moscow

SharovaDE@zdrav.mos.ruАрзамасовК. М.ArzamasovK. M.

г. Москва

PhD

Moscow

ArzamasovKM@zdrav.mos.ruВладзимирскийА. В.VladzymyrskyyA. V.

д.м.н.

г. Москва

 DSc

 Moscow

VladzimirskijAV@zdrav.mos.ruГБУЗ «НПКЦ ДиТ ДЗМ»РоссияSBHI «SPCC for DTT of MHD»Russian FederationООО К-Скай; ФГБУ «ЦНИИОИЗ» Минздрава РоссииРоссия«K-SkAI» LLC; Russian Research Institute of HealthRussian Federationк.м.н., ГБУЗ «НПКЦ ДиТ ДЗМ»РоссияSBHI «SPCC for DTT of MHD»Russian Federation202331032025043641Copyright © Васильев Ю.А., Гусев А.В., Михайлова А.А., Шарова Д.Е., Арзамасов К.М., Владзимирский А.В., 20252025Васильев Ю.А., Гусев А.В., Михайлова А.А., Шарова Д.Е., Арзамасов К.М., Владзимирский А.В.Vasiliev Y.A., Gusev A.V., Mikhailova A.A., Sharova D.E., Arzamasov K.M., Vladzymyrskyy A.V.Данная работа распространяется под лицензией Creative Commons Attribution 4.0.This work is licensed under a Creative Commons Attribution 4.0 License.https://www.vit-j.ru/jour/article/view/131

Внедрение систем искусственного интеллекта (СИИ) рассматривается как одно из самых перспективных направлений цифровой трансформации здравоохранения. Такие системы могут повысить качество лечебно-диагностических процессов и эффективность планирования и управления отраслью. Однако возможности СИИ по улучшению показателей общественного здоровья населения и повышению качества функционирования системы здравоохранения неразрывно связаны с этическими проблемами, которые возникают из-за особенностей создания и внедрения таких систем, а также их непосредственного влияния на жизнь и здоровье сообществ, отдельно взятых пациентов и медицинского персонала.

 Для успешного внедрения СИИ в здравоохранение необходимо формировать и повышать доверие со стороны медицинского сообщества, пациентов, регуляторных и надзорных органов и других заинтересованных лиц. Для этого разработчикам и другим участникам работы с СИИ целесообразно следовать единым этических принципам. На основе ведущих работ в области этики ИИ были разработаны 19 принципов создания СИИ в здравоохранении. Они были направлены на общественные обсуждения и скорректированы с учетом полученных комментариев. Соблюдение опубликованных принципов участниками процессов создания, тестирования, валидации, вывода на рынок и пост-продажного сопровождения может значительно повысить доверие к СИИ и способствовать успешному внедрению этичных СИИ в здравоохранение.

Implementation of Artificial Intelligence (AI) is considered one of the most promising directions in the digital transformation of healthcare. Such systems can improve the quality of therapeutic and diagnostic processes and the efficiency of planning and managing the healthcare industry. However, the potential of AI to enhance public health indicators and improve the functioning quality of the healthcare system is inextricably linked to ethical issues arising from the specific aspects of their creation and implementation, as well as their direct impact on the life and health of communities, individual patients, and medical personnel.

 It is necessary to form and increase trust from the medical community, patients, regulatory and supervisory bodies, and other interested parties in order to implement AI in healthcare. For this purpose, it is advisable for AI developers and other involved parties to follow a set of unified ethical principles. Based on leading work in the field of AI ethics, 19 principles for the creation of AI in healthcare were developed. They were directed to public discussions and adjusted in consideration of the feedback. Adherence to the published principles by participants in the processes of creation, testing, validation, market launch, and postmarketing support can significantly increase trust in AI and contribute to the successful implementation of ethical AI systems in healthcare.

искусственный интеллект в здравоохраненииэтика искусственного интеллектацифровизация здравоохраненияэтические принципыдовериеаrtificial intelligence in healthcareethics of artificial intelligencedigitalization of healthcareethical principlestrustДанная статья подготовлена авторским коллективом в рамках НИОКР «Разработка платформы повышения качества ИИ-Сервисов для медицинской диагностики» (№ ЕГИСУ: 123031400006-0) в соответствии с Приказом от 21.12.2022 г. № 1196 «Об утверждении государственных заданий, финансовое обеспечение которых осуществляется за счет средств бюджета города Москвы государственным бюджетным (автономным) учреждениям подведомственным Департаменту здравоохранения города Москвы, на 2023 год и плановый период 2024 и 2025 годов» Департамента здравоохранения города Москвы.ReferencesСеррато П., Халамка Д. Цифровая трансформация здравоохранения. Переход от традиционной к виртуальной медицинской помощи: монография. М.: ГЭОТАР-Медиа, 2022.Cerrato P, Halamka J. The digital reconstruction of healthcare: Transitioning from brick and mortar to virtual care: monography. Moscow: GEOTAR-Media, 2022. (In Russ.)]Указ Президента РФ от 07.05.2018 №204. «О национальных целях и стратегических задачах развития Российской Федерации на период до 2024 года». Доступно по: http://publication.pravo.gov.ru/Document/View/0001201805070038. Ссылка активна на 01.11.2023.Decree of the President of the Russian Federation on 07.05.2018 № 204. «O nacional’nyh celjah i strategicheskih zadachah razvitija Rossijskoj Federacii na period do 2024 goda». Available at: http://publication.pravo.gov.ru/Document/View/0001201805070038. Accessed 01.11.2023. (In Russ.)]Гусев А.В., Владзимирский А.В., Шарова Д.Е. и др. Развитие исследований и разработок в сфере технологий искусственного интеллекта для здравоохранения в Российской Федерации: итоги 2021 года // Digital Diagnostics. − 2022. − Т.3. − №3. − С.33-49. doi: 10.17816/DD107367Gusev AV, Vladzymyrskyy AV, Sharova DS, et al. Evolution of research and development in the field of artificial intelligence technologies for healthcare in the Russian Federation: results of 2021. Digital Diagnostics. 2022; 3(3): 178-194. (In Russ).] doi: 10.17816/DD107367.Шарова Д.Е., Зинченко В.В., Ахмад Е.С. и др. К вопросу об этических аспектах внедрения систем искусственного интеллекта в здравоохранении // Digital Diagnostics. − 2021. − Т.2. − №3. − С.356-368. doi: 10.17816/DD77446Sharova DS, Zinchenko VV, Akhmad ES, et al. On the issue of ethical aspects of the artificial intelligence systems implementation in healthcare. Digital Diagnostics. 2021; 2(3): 356-368. (In Russ.) doi: 10.17816/DD77446.Гусев А.В., Астапенко Е.М., Иванов И.В., Зарубина Т.В., Кобринский Б.А. Принципы формирования доверия к системам искусственного интеллекта для сферы здравоохранения // Вестник Росздравнадзора. — 2022. — №2. — С.25-33.Gusev AV, Astapenko EM, Ivanov IV, Zarubina TV, Kobrinskij BA. Principles of building trust in artificial intelligence systems for healthcare. Bulletin of Roszdravnadzor. 2022; 2: 25-33. (In Russ.)Clark P, Kim J, Aphinyanaphongs Y. Marketing and US Food and Drug Administration Clearance of Artificial Intelligence and Machine Learning Enabled Software in and as Medical Devices: A Systematic Review. JAMA Netw Open. 2023; 6(7): e2321792. doi: 10.1001/jamanetworkopen.2023.21792.Clark P, Kim J, Aphinyanaphongs Y. Marketing and US Food and Drug Administration Clearance of Artificial Intelligence and Machine Learning Enabled Software in and as Medical Devices: A Systematic Review. JAMA Netw Open. 2023; 6(7): e2321792. doi: 10.1001/jamanetworkopen.2023.21792.Кодекс этики в сфере искусственного интеллекта (принят 26.10.2021) // Альянс в сфере ИИ. Доступно по: https://a-ai.ru/ethics/index.html. Ссылка активна на 01.11.2023.AI Ethics Code (adopted on 10/26/2021) // AI Alliance Russia. Available at: https://a-ai.ru/ethics/index.html. Accessed 01.11.2023. (In Russ.)Кодекс профессиональной этики врача Российской Федерации (принят Первым национальным съездом врачей Российской Федерации 05.10.2012). Доступно по: https://www.consultant.ru/document/cons_doc_LAW_174773/. Ссылка активна на 01.11.2023.Kodeks professional’noj jetiki vracha Rossijskoj Federacii (adopted by the First National Congress of Doctors of the Russian Federation on 05.10.2012) Available at: https://www.consultant.ru/document/cons_doc_LAW_174773/. Accessed 01.11.2023. (In Russ.)]Этические принципы и использование искусственного интеллекта в здравоохранении: руководство ВОЗ. Всемирная организация здравоохранения. 2021. Лицензия: CC BY-NC-SA 3.0 IGO.Ethics and governance of artificial intelligence for health: WHO guidance. World Health Organization. 2021. (In Russ.)]Владзимирский А.В., Гусев А.В., Шарова Д.Е. и др. Методика оценки уровня зрелости информационной системы для здравоохранения // Врач и информационные технологии. — 2022. — №3. — С. 68-84.Vladzimirskij AV, Gusev AV, SHarova DE, et al. Metodika ocenki urovnya zrelosti informacionnoj sistemy dlya zdravoohraneniya. Vrach i informacionnye tekhnologii. 2022; 3: 68-84. (In Russ.)]

The authors declare that there are no conflicts of interest present.