DOI 10.24412/2312-2935-2026-3-888-909

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ В ПРОГНОЗИРОВАНИИ ОНКОЛОГИЧЕСКИХ РИСКОВ ПРИ ЗАБОЛЕВАНИЯХ ПОДЖЕЛУДОЧНОЙ ЖЕЛЕЗЫ: МЕДИКО-СОЦИАЛЬНЫЕ И ЭТИЧЕСКИЕ АСПЕКТЫ ВНЕДРЕНИЯ

Плутницкий А.Н., Голышко П.В., Каримова Д.Ю.

Медико-биологический университет инноваций и непрерывного образования ФГБУ Государственный научный центр Российской Федерации «Федеральный медицинский биофизический центр им. А.И. Бурназяна» Федерального медико-биологического агентства России, Москва

Введение. Рак поджелудочной железы занимает 7-е место по смертности среди онкологических заболеваний при 14-м месте по заболеваемости, что обусловлено поздней диагностикой и агрессивным течением. Прогностические модели предполагают перемещение заболевания на 2-е место по смертности к 2030 году. Традиционные номограммы прогнозирования рецидивов демонстрируют ограниченную эффективность (C-индекс 0,656–0,734). Технологии искусственного интеллекта открывают принципиально новые возможности для ранней диагностики, прогнозирования рецидивов и персонализации терапии. Их клиническое внедрение сопряжено с медико-социальными, этическими и правовыми проблемами, требующими системного анализа.

Цель исследования. Систематизировать результаты исследований применения искусственного интеллекта для прогнозирования рецидивов и прогрессирования рака поджелудочной железы на основе клинических параметров, оценить потенциальное влияние этих подходов на клиническую практику и рассмотреть медико-социальные и этические аспекты внедрения ИИ-технологий в онкологическую практику.

Материалы и методы. Проведен систематизированный анализ 41 научной публикации (38 англоязычных, 3 русскоязычные) из баз данных PubMed, Web of Science, Scopus, eLIBRARY.RU и КиберЛенинка за 2018–2025 годы.

Результаты. Полученные данные показывают высокую диагностическую точность алгоритмов глубокого обучения, где их эффективность при выявлении рака поджелудочной железы достигает 95,47 %. Модели анализа мочевых биомаркеров показывают площадь под кривой 0,94, а системы прогнозирования злокачественности внутрипротоковых папиллярных муцинозных опухолей демонстрируют площадь под кривой 0,98 с чувствительностью 95,7 процента и специфичностью 92,6 %. Исследователи отмечают, что эти показатели значительно превышают результаты экспертной диагностики врачами на уровне 56,0 %. Модели случайного леса и пропорциональных рисков Кокса для прогнозирования послеоперационных рецидивов достигают индекса конкордации 0,7738, поэтому они опережают традиционные номограммы по точности предсказаний. Искусственные нейронные сети, которые оценивают восьмимесячную выживаемость при нерезектабельном раке с площадью под кривой 0,921, превосходят не только базовые, но и улучшенные модели логистической регрессии, что показывает только 0,849 при статистической значимости различий.

Обсуждение. Анализ выявил неравномерность географического и социально-экономического доступа к технологиям искусственного интеллекта, где различия в вычислительной инфраструктуре и уровне подготовки специалистов создают барьеры для внедрения. Интерпретируемость алгоритмов глубокого обучения остается существенной проблемой, а эффект черного ящика препятствует формированию клинического доверия к системам. Методы объяснимого искусственного интеллекта включают технологии SHAP, LIME и градиентные карты активации, которые частично решают проблему через визуализацию вклада отдельных признаков в итоговый прогноз. Этические вопросы охватывают широкий спектр рисков, поэтому системы могут воспроизводить систематические ошибки из обучающих данных. Высокие оценки риска вызывают не только медицинские, но и психосоциальные последствия для пациентов, что создает угрозу потенциальной стигматизации больных, а проблемы конфиденциальности информации усугубляют эту ситуацию.

Выводы. Исследование показало, что искусственный интеллект превосходит традиционные методы диагностики рака поджелудочной железы, где его точность значительно выше по сравнению с номограммами и экспертными оценками. Успешное внедрение требует обеспечения равного доступа через развитие инфраструктуры и образовательных программ, поэтому необходимо повышение интерпретируемости алгоритмов для клинического применения. Нормативная база должна быть адаптирована с включением механизмов валидации и распределения ответственности. Системы требуют валидации на различных популяционных группах для подтверждения универсальности. Разработка протоколов коммуникации рисков пациентам является приоритетной задачей. До принятия специального законодательства системы искусственного интеллекта функционируют как инструменты поддержки врачебных решений. Ответственность за окончательный диагноз и лечение сохраняется за медицинским специалистом.

Ключевые слова: искусственный интеллект, машинное обучение, рак поджелудочной железы, прогнозирование рецидивов, радиомика, медицинская этика, системы поддержки клинических решений

ARTIFICIAL INTELLIGENCE IN PREDICTING CANCER RISKS IN PANCREATIC DISEASES: MEDICAL, SOCIAL, AND ETHICAL ASPECTS OF IMPLEMENTATION

Plutnitsky A.N., Golyshko P.V., Karimova D.Yu.

Medical and Biological University of Innovation and Continuing Education of the Federal State Budgetary Institution State Research Center of the Russian Federation Federal Medical Biophysical Center named after A.I. Burnazyan of the Federal Medical and Biological Agency of Russia, Moscow

Introduction. Pancreatic cancer is the 7th leading cause of cancer mortality and the 14th leading cause of incidence, due to late diagnosis and an aggressive clinical course. Prognostic models predict that pancreatic cancer will become the second leading cause of cancer mortality by 2030. Traditional recurrence prediction nomograms demonstrate limited effectiveness (C-index 0.656–0.734). Artificial intelligence technologies offer fundamentally new opportunities for early diagnosis, recurrence prediction, and therapy personalization. Their clinical implementation is associated with medical, social, ethical, and legal challenges that require a systematic analysis.

Purpose. To systematize the results of studies on the use of artificial intelligence to predict pancreatic cancer recurrence and progression based on clinical parameters, assess the potential impact of these approaches on clinical practice, and consider the medical, social, and ethical aspects of implementing AI technologies in oncology.

Materials and Methods. A systematic analysis of 41 scientific publications (38 English-language, 3 Russian-language) from PubMed, Web of Science, Scopus, eLIBRARY.RU, and CyberLeninka databases for 2018–2025 was conducted.

Results. The obtained data demonstrate the high diagnostic accuracy of deep learning algorithms. Their effectiveness in detecting pancreatic cancer reaches 95.47%. Urinary biomarker analysis models show an area under the curve (AUC) of 0.94. Systems for predicting the malignancy of intraductal papillary mucinous tumors demonstrate an AUC of 0.98, with a sensitivity of 95.7% and a specificity of 92.6%. These figures significantly exceed the results of expert diagnosis by physicians (56.0%). Random forest and Cox proportional hazards models for predicting postoperative recurrence achieve a concordance index of 0.7738, outperforming traditional nomograms in prediction accuracy. Artificial neural networks estimate eight-month survival for unresectable cancer with an AUC of 0.921. Logistic regression shows only 0.849, with statistically significant differences.

Discussion. The analysis revealed uneven geographic and socioeconomic access to artificial intelligence technologies. Differences in computing infrastructure and specialist training create barriers to implementation. Interpretability of deep learning algorithms remains a significant challenge. The black-box effect hinders the development of clinical trust in systems. Explainable artificial intelligence methods include SHAP, LIME, and gradient activation maps. They partially address this issue by visualizing the contribution of individual features to the final prognosis. Ethical issues cover a wide range of risks. Systems can reproduce systematic errors from training data. High risk assessments cause psychosocial consequences for patients. Information privacy concerns pose a threat of potential stigmatization for patients.

Conclusions. Artificial intelligence outperforms traditional methods for diagnosing pancreatic cancer. Its accuracy is significantly higher compared to nomograms and expert assessments. Successful implementation requires ensuring equal access through the development of infrastructure and educational programs. Improved interpretability of algorithms for clinical use is necessary. The regulatory framework should be adapted to include mechanisms for validation and accountability. Systems require validation in various population groups to confirm their universality. Developing protocols for communicating risks to patients is a priority. Until specific legislation is adopted, artificial intelligence systems function as decision support tools for physicians. Responsibility for the final diagnosis and treatment remains with the medical professional.

Keywords: artificial intelligence, machine learning, pancreatic cancer, recurrence prediction, radiomics, medical ethics, clinical decision support systems

Введение. Рак поджелудочной железы — агрессивное злокачественное опухолевое заболевание пищеварительной системы с крайне неблагоприятным прогнозом. Отсутствие специфических ранних симптомов и выраженная инвазивность опухолевого процесса затрудняют своевременную диагностику. Большинство пациентов обращаются за медицинской помощью на распространённых стадиях, когда радикальное хирургическое вмешательство уже невозможно [1, 2].

По данным Международного агентства по изучению рака, карцинома поджелудочной железы занимает 14-е место среди 36 наиболее распространённых злокачественных новообразований по заболеваемости, но переместилась на 7-ю позицию по смертности. В США в 2021 году зарегистрировано 60 430 новых случаев заболевания и 48 220 летальных исходов. Прогностические модели предполагают, что к 2030 году рак поджелудочной железы может занять 2-е место по смертности от онкологических заболеваний в США [3].

Даже после успешной резекции опухоли сохраняется высокий риск рецидива. Неоадъювантная терапия становится перспективным направлением исследований, однако отсутствие стандартизированной системы оценки её эффективности препятствует практическому применению. Развитие технологий искусственного интеллекта открывает новые возможности для онкологии. Машинное обучение использует разнообразные алгоритмические подходы, включая деревья решений, случайные леса, искусственные нейронные сети, метод опорных векторов, логистическую регрессию, байесовские методы и метод k-ближайших соседей [4].

Радиомика на основе искусственного интеллекта обеспечивает качественно новый уровень точности диагностики рака поджелудочной железы. Алгоритмы глубокого обучения способны создавать модели раннего прогнозирования высокого риска развития злокачественного процесса и послеоперационного рецидивирования. В хирургии рака поджелудочной железы применяются технологии 3D-визуализации и дополненной реальности.

Мета-анализ 64 исследований, проведённый в 2024 году, выделил статистически значимые параметры раннего рецидива: уровень онкомаркера CA19-9, отсутствие адъювантной химиотерапии, поражение лимфатических узлов, степень дифференцировки опухоли и её размеры. На основе этих данных были разработаны номограммы с C-индексом в диапазоне от 0,656 до 0,734, но они не нашли широкого применения в клинической практике из-за ограниченной эффективности [5].

Остаётся неясным, насколько подходы на основе искусственного интеллекта превосходят традиционные номограммы. В связи с этим, сформирована  цель исследования -  систематизировать результаты исследований применения искусственного интеллекта для прогнозирования рецидивов и прогрессирования рака поджелудочной железы на основе клинических параметров, оценить потенциальное влияние этих подходов на клиническую практику и рассмотреть медико-социальные и этические аспекты внедрения ИИ-технологий в онкологическую практику.

Материалы и методы. Настоящий обзор выполнен в соответствии с методологией систематизированного анализа научной литературы по применению технологий искусственного интеллекта в прогнозировании онкологических рисков при заболеваниях поджелудочной железы.

Поиск научных публикаций осуществлялся в международных базах данных PubMed, Web of Science, Scopus, а также в российских научных электронных библиотеках eLIBRARY.RU и КиберЛенинка за период с 2018 по 2025 год. Использовались ключевые слова и их комбинации на английском и русском языках, включающие термины «искусственный интеллект», «машинное обучение», «глубокое обучение», «рак поджелудочной железы», «прогнозирование», «нейронные сети», «радиомика», «системы поддержки клинических решений», «этические аспекты» и «медико-социальные проблемы».

В обзор включались оригинальные исследования, систематические обзоры, мета-анализы и клинические испытания, посвященные применению алгоритмов машинного обучения для диагностики и прогнозирования рака поджелудочной железы, радиомическому анализу медицинских изображений с использованием искусственного интеллекта, прогнозированию послеоперационных рецидивов и выживаемости пациентов, биомаркерному профилированию и молекулярной диагностике, а также медико-социальным, этическим и правовым аспектам внедрения ИИ-технологий в онкологическую практику. Критериями исключения являлись публикации без полнотекстового доступа, исследования с недостаточным описанием методологии и дублирующиеся публикации одних и тех же результатов.

Отобранные публикации систематизированы по тематическим разделам, охватывающим технологические основы применения искусственного интеллекта, клиническое применение в различных аспектах диагностики и прогнозирования рака поджелудочной железы, медико-социальные аспекты внедрения, этические проблемы и вопросы интерпретируемости алгоритмов. В обзор включено 41 источник, из них 38 англоязычных и 3 русскоязычных публикации. Синтез данных проводился описательным методом с акцентом на практическую значимость результатов для клинической онкологии и выявление нерешенных проблем, требующих дальнейших исследований.

Результаты и  обсуждение. Технологические основы применения искусственного интеллекта в прогнозировании рака поджелудочной железы

Машинное обучение открывает новые возможности для ранней диагностики рака поджелудочной железы. Традиционные методы визуализации обладают ограниченной чувствительностью при выявлении микроскопических предраковых изменений. Алгоритмы искусственного интеллекта способны анализировать комплексные данные электронных медицинских карт, результаты лабораторных исследований, характеристики визуализации и молекулярные маркеры для выявления скрытых закономерностей, недоступных человеческому восприятию.

Контролируемое обучение представляет доминирующий подход в прогнозировании онкологических рисков и включает алгоритмы логистической регрессии, метод опорных векторов, случайные леса и градиентный бустинг (Zhao et al., 2024) [6]. Эти модели обучаются на размеченных данных для решения задач классификации и регрессии, позволяя различать злокачественные и доброкачественные поражения, оценивать вероятность выживания и прогнозировать ответ на терапию. Глубокое обучение расширяет возможности традиционного машинного обучения за счет иерархического извлечения признаков из многомерных данных. Сверточные нейронные сети достигли передовых результатов в обнаружении опухолей, сегментации патологических структур и радиомическом анализе (Si et al., 2021). Рекуррентные нейронные сети эффективны при обработке временных последовательностей клинических данных, что позволяет моделировать динамику развития заболевания [7].

Практическое применение технологий глубокого обучения в радиомике демонстрирует впечатляющие результаты. Радиомика на основе искусственного интеллекта обеспечивает количественный анализ визуальных характеристик опухолевой ткани, извлекая сотни признаков из медицинских изображений. Исследование Ma et al. (2020) продемонстрировало, что модель сверточной нейронной сети, обученная на 7245 КТ-изображениях от 222 пациентов с патологически подтвержденным раком поджелудочной железы, достигла точности диагностики 95,47% с чувствительностью 91,58% и специфичностью 98,27% [8]. Текстурные параметры, морфологические дескриптры и паттерны контрастного усиления могут коррелировать с гистологическими подтипами, генетическими мутациями и клиническими исходами.

Внимание в прогностических моделях уделяется группам высокого риска, среди которых пациенты с впервые выявленным сахарным диабетом занимают важное место. Впервые выявленный сахарный диабет демонстрирует двунаправленную связь с раком поджелудочной железы, выступая одновременно фактором риска и ранним проявлением опухолевого процесса. Sharma et al. (2018) разработали прогностическую модель для пациентов с новым диабетом, синтезирующую ключевые параметры, возраст на момент диагностики диабета, индекс массы тела и гликемические колебания [9]. Пациенты с оценкой 3 и выше демонстрировали чувствительность и специфичность диагностики рака поджелудочной железы 80% (AUC=0,87), что соответствует 4,4-кратному увеличению заболеваемости по сравнению с остальной диабетической популяцией.

Альтернативный подход к раннему выявлению основан на биомаркерном профилировании с использованием методов машинного обучения. Blyuss et al. (2020) разработали новую систему оценки риска рака поджелудочной железы (PancRISK), основанную на мочевых биомаркерах. Команда измерила три биомаркера мочи (LYVE1, REC1B, TFF1) у 199 пациентов с протоковой аденокарциномой поджелудочной железы и 180 здоровых индивидуумов [10]. Полученная модель логистической регрессии продемонстрировала выдающуюся диагностическую мощность с AUC 0,94. При комбинировании с установленным опухолевым маркером CA19-9 модель достигла диагностической специфичности и чувствительности 96%.

Значительный прогресс достигнут в применении искусственного интеллекта для диагностики предраковых поражений, что открывает перспективы превентивного вмешательства. Kuwahara et al. (2019) разработали модель глубокого обучения, обученную на 3970 изображениях эндоскопического ультразвука от пациентов с гистопатологически подтвержденными внутрипротоковыми папиллярными муцинозными опухолями (IPMN) [11]. Модель демонстрировала значительно более высокую среднюю величину AI-значения при злокачественных IPMN по сравнению с доброкачественными (0,808 против 0,104, P<0,01). Площадь под кривой для AI-вероятности злокачественности достигла 0,98, а диагностическая чувствительность, специфичность и точность составили 95,7%, 92,6% и 94,0% соответственно, превосходя точность диагностики врачами (56,0%).

В контексте послеоперационного ведения пациентов машинное обучение показывает эффективность в прогнозировании рецидива и выживаемости. Lee et al. (2021) провели ретроспективное когортное исследование с использованием данных многоцентрового регистра для оценки вероятности послеоперационного рецидива. Применяя модели случайного леса и пропорциональных рисков Кокса, авторы анализировали безрецидивную выживаемость в когорте из 4846 пациентов [12]. Размер опухоли, степень дифференцировки, стадия TNM, стадия T и лимфоваскулярная инвазия были идентифицированы как ключевые прогностические факторы. Модель Кокса продемонстрировала более высокий средний C-индекс (0,7738) по сравнению с моделью случайного леса (0,6805).

Параллельно с прогнозированием рецидива разрабатываются модели для оценки краткосрочной выживаемости у пациентов с неоперабельными формами заболевания. Tong et al. (2020) разработали три модели искусственных нейронных сетей для прогнозирования 8-месячной выживаемости у 221 пациента с нерезектабельным раком поджелудочной железы. Все три модели превзошли соответствующие логистические регрессионные модели по значениям AUC (0,811 против 0,680, 0,844 против 0,722, 0,921 против 0,849, все P < 0,05) [13].

Новым направлением применения искусственного интеллекта является предикция хирургических осложнений. Han et al. (2020) разработали AI-платформу для прогнозирования риска послеоперационного панкреатического свища, используя алгоритмы случайного леса и нейронных сетей для анализа 1769 пациентов после панкреатодуоденэктомии. Платформа достигла максимального AUC 0,74, идентифицировав 16 факторов риска [14].

Интеграция радиомических данных с клиническими параметрами дополнительно повышает точность прогнозирования осложнений. Skawran et al. (2021) использовали модель градиентного бустинга на основе МРТ-радиомики для прогнозирования послеоперационного панкреатического свища [15].

Наиболее перспективным направлением является разработка многофакторных интегративных моделей, объединяющих гетерогенные типы биомедицинских данных. Sinkala et al. (2020) применили машинное обучение для интеграции экспрессии белков, транскрипции мРНК, метилирования ДНК и микроРНК, разделив рак поджелудочной железы на подтипы с четким ответом на соответствующую медикаментозную терапию. Данный подход открывает возможности для персонализированной медицины, где выбор лечебной тактики основывается на молекулярном профиле опухоли [16, 17].

Дополняя молекулярный подход, Kaissis et al. (2019) продемонстрировали, что радиологический анализ в сочетании с машинным обучением может предсказывать молекулярные подтипы протоковой аденокарциномы поджелудочной железы с высокой чувствительностью и специфичностью, что коррелирует с ответом на химиотерапию на основе гемцитабина или FOLFIRINOX. Такая конвергенция визуальных и молекулярных данных создает основу не только для инвазивного, но и для неинвазивного генотипирования опухолей и оптимизации терапевтических стратегий [18].

Медико-социальные аспекты внедрения технологий прогнозирования

Внедрение искусственного интеллекта в онкологическую практику выходит за пределы технологических вопросов и затрагивает фундаментальные аспекты организации здравоохранения, поэтому доступ к диагностическим технологиям на основе искусственного интеллекта, которые демонстрируют географическую и социально-экономическую неравномерность, требует особого внимания. Медицинские учреждения в странах с высоким уровнем дохода обладают вычислительной инфраструктурой и специализированным персоналом для разработки систем машинного обучения. Клиники в регионах с ограниченными ресурсами сталкиваются с препятствиями от отсутствия стандартизированных электронных медицинских карт до недостатка обученных специалистов по биомедицинской информатике [19].

Стоимость разработки и валидации прогностических моделей включает затраты на сбор и аннотацию данных, вычислительные ресурсы для обучения алгоритмов и проведение проспективных клинических исследований [20]. Коммерческие системы для медицинской визуализации требуют лицензионных платежей. Они оказывают неприемлемыми для учреждений с ограниченными бюджетами. Экономическая эффективность должна демонстрироваться через оптимизацию использования диагностических ресурсов и раннее выявление заболевания на стадиях, допускающих радикальное лечение. Технологии, используемые в метеорологическом прогнозировании, математически доказали свою способность предсказывать эволюцию сложных систем и предоставляют концептуальную основу для новой парадигмы предиктивной медицины в онкологии [21].

Интеграция систем ИИ в клинические процессы требует реорганизации диагностических алгоритмов при заболеваниях поджелудочной железы. Прогностические модели, использующие данные электронных медицинских карт и лабораторных исследований, расширяют популяцию для целенаправленного наблюдения, но создают риски гипердиагностики и увеличивают нагрузку на диагностические службы. Многоуровневая система скрининга на основе стратификации риска требует координации между первичным звеном и онкоцентрами, оптимизируя использование дорогостоящих диагностических ресурсов.

Успешное внедрение технологий прогнозирования требует от клиницистов понимания обоснования алгоритмических рекомендаций и их применимости к конкретному пациенту. Профессиональная подготовка должна включать основы машинного обучения и биомедицинской информатики. Критическая оценка алгоритмов и распознавание ситуаций, выходящих за рамки обучающих данных, становятся необходимыми компетенциями онкологов и врачей первичного звена [22].

Современные технологии профилирования опухолей поджелудочной железы с множественным молекулярным разрешением и электронные медицинские карты создают основу для предиктивной медицины. Методы ИИ снижают размерность высокопроизводительных данных для вывода биологических процессов канцерогенеза, хотя многие переменные прогрессирования заболевания все еще неизвестны [23].

Применение алгоритмов машинного обучения в онкологическом прогнозировании сталкивается с рядом серьезных этических вызовов. Модели могут воспроизводить систематические ошибки обучающих данных, а они могут создавать различия в прогностической точности между демографическими группами, что ставит под угрозу принцип справедливости в медицине. Данное обстоятельство требует обязательной валидации разработанных систем на разнообразных популяциях через международные коллаборации [24].

Вопросы конфиденциальности данных и потенциальной стигматизации добавляют дополнительный уровень сложности, где информация о высоком онкологическом риске может негативно влиять не только на доступ пациентов к страхованию, но и на возможности трудоустройства [25]. Информированное согласие на использование персональных данных для обучения моделей требует разработки динамических подходов и соответствующей технологической инфраструктуры, которые способны обеспечить прозрачность и контроль со стороны пациентов.

Правовая ответственность за ошибки прогнозирования остается юридически неопределенной областью, создавая значительную неуверенность для всех участников процесса внедрения новых технологий, поэтому регуляторные агентства требуют от разработчиков демонстрации аналитической и клинической валидности алгоритмов, однако динамическая природа постоянно обновляемых моделей машинного обучения создает существенные проблемы для традиционных регуляторных подходов, которые основаны на оценке статических медицинских изделий.

В контексте российского законодательства эта проблема особенно актуальна. Согласно Федеральному закону от 21.11.2011 № 323-ФЗ "Об основах охраны здоровья граждан в Российской Федерации" и Постановлению Правительства РФ от 27.12.2012 № 1416, медицинские изделия подлежат обязательной государственной регистрации с однократной оценкой статичных характеристик [26].  Системы искусственного интеллекта, обладающие способностью к самообучению и адаптации, не укладываются в эту регуляторную модель, поскольку их параметры могут значительно изменяться после получения регистрационного удостоверения. Вопрос ответственности остается недостаточно урегулированнымю. Статьи 1064 и 1095 ГК РФ устанавливают общие принципы деликтной ответственности, однако неясно, кто несет ответственность за ошибку прогнозирования, разработчик алгоритма, медицинская организация или врач, принимающий окончательное решение.

Для решения обозначенных проблем необходима адаптация регуляторных рамок к специфике алгоритмических систем. Национальная стратегия развития искусственного интеллекта на период до 2030 года (Указ Президента РФ от 10.10.2019 № 490) признает необходимость создания гибких механизмов регулирования, включая "регуляторные песочницы", предусмотренные Федеральным законом от 31.07.2020 № 258-ФЗ [27]. Целесообразно введение в российское правовое поле концепции адаптивных медицинских изделий с механизмом непрерывной валидации и пост-маркетингового надзора, дополнение статьи 38 Федерального закона № 323-ФЗ положениями о специальном порядке регистрации ИИ-систем, а также законодательное закрепление распределения ответственности между разработчиком, медицинской организацией и медицинским персоналом. До принятия специального законодательства рекомендуется руководствоваться принципом разумной осмотрительности (статья 10 ГК РФ) и рассматривать системы ИИ как инструменты поддержки принятия решений, окончательная ответственность за которые сохраняется за медицинским работником.

Успешная реализация вычислительных инструментов для предиктивной медицины зависит от их принятия клиническим сообществом. Необходимы комплексные образовательные программы для демистификации вычислительных платформ и формирования у врачей адекватного понимания возможностей и ограничений алгоритмических систем.

Проблема интерпретируемости алгоритмов и доверия к машинным прогнозам в клинической онкологии

Современные исследования показывают, что онкологи проявляют скептицизм по отношению к алгоритмическим рекомендациям, когда не могут соотнести их с собственными клиническими представлениями [28, 29]. Система, предсказывающая высокий риск раннего рецидива у пациента с благоприятными гистологическими характеристиками опухоли, вызывает когнитивный диссонанс и может быть проигнорирована при принятии терапевтических решений. Модели машинного обучения могут выявлять неочевидные закономерности, недоступные человеческому восприятию. Именно эта способность подрывает доверие клиницистов, привыкших опираться на воспроизводимую логику диагностического процесса.

Создание алгоритмов объяснимого ИИ преследует цель ликвидировать указанный пробел посредством отображения значимости каждого параметра для финального результата (Molnar, 2022) [30]. Инструментарий SHAP от Lundberg и Lee (2017) [31] совместно с LIME от Ribeiro et al. (2016) формирует локальные приближения многокомпонентных систем [32]. В контексте панкреатической карциномы данные подходы демонстрируют, что повышенный показатель риска обусловлен сочетанием увеличенной концентрации CA19-9 (Zhang et al., 2021) [33]. Специалист располагает цифровым прогнозом с детализацией через количественные клинические показатели, где карты градиентной активации в конволюционных сетях отображают участки диагностических снимков. При исследовании КТ панкреас, согласно Ziegelmayer et al. (2020), тепловое картирование выделяет не только регионы гетерогенности тканевой структуры, но и характеристики перифокального пространства [34]. Подобная визуализация трансформирует непрозрачную систему в ресурс, который расширяет возможности специалиста и фокусирует восприятие на потенциально релевантных фрагментах изображения.

Недостатки техник объяснимости проявляются при функционировании глубоких архитектур, где многоуровневая экстракция характеристик осложняет расшифровку промежуточных сетевых слоев, поэтому визуальная интерпретация способна указывать на анатомические образования без непосредственной связи с онкопроцессом, но коррелирующие с прогнозируемым параметром в тренировочной выборке через неконтролируемые конфаундеры [35], что требует дополнительной валидации результатов. Система, натренированная на материале единственного госпиталя, может неверно связывать технические артефакты сканеров либо специфику визуализационных регламентов с прогностическими показателями [36].

Проблематика доверия обостряется неспособностью алгоритмов к количественной градации собственной неопределенности (Sidey-Gibbons и Sidey-Gibbons 2019) [37]. Стандартные системы машинного обучения продуцируют точечные вероятности без маркировки степени достоверности.

Верификация объяснимости представляет методологическую сложность, поскольку истинность интерпретации не всегда поддается проверке [38]. Алгоритм способен продуцировать корректные предсказания с ошибочными обоснованиями, что обнаруживается при тестировании на новых популяциях либо модификации клинических регламентов. Систематическая проверка интерпретаций предполагает участие врачей-экспертов для аннотирования соответствия предлагаемых алгоритмом обоснований медицинским представлениям о механизмах панкреатического рака и прогностических детерминантах [39, 40].

Практика клинического внедрения ИИ складывается через постепенную аккумуляцию опыта взаимодействия медиков с предиктивными платформами. Изначальный скептицизм сменяется чрезмерным доверием при серии успешных предсказаний, генерируя риск некритичного следования алгоритмическим указаниям без учета клинической ситуации [41]. Рациональная модель эксплуатации подразумевает взаимодополнение врачебной экспертизы и компьютерного анализа, где специалист удерживает центральную позицию в выборе тактики, а алгоритм выступает дополнительным источником диагностических данных.

Регуляторные требования к объяснимости медицинских систем искусственного интеллекта находятся в стадии формирования, поэтому Европейский регламент о медицинских изделиях и проект Закона об искусственном интеллекте ЕС предусматривают обязательную прозрачность для высокорисковых приложений, которые включают системы поддержки клинических решений в онкологии (U.S. FDA, 2022) [42]. Российское законодательство пока не содержит специфических требований к объяснимости алгоритмов, что создает правовую неопределенность не только для разработчиков, но и для пользователей таких систем.

Выводы. Алгоритмы глубокого обучения достигают точности до 95,47% в выявлении злокачественных новообразований, что существенно превосходит результативность традиционных номограмм с C-индексом 0,656–0,734, а экспертная диагностика врачами находится на уровне 56%, где разница является статистически значимой. Модели машинного обучения на основе мочевых биомаркеров демонстрируют площадь под ROC-кривой 0,94, а системы для выявления злокачественных внутрипротоковых папиллярных муцинозных опухолей достигают AUC 0,98 при чувствительности 95,7% и специфичности 92,6%. В прогнозировании послеоперационных рецидивов модели случайного леса и пропорциональных рисков Кокса показывают C-индекс 0,7738, превосходя возможности классических прогностических инструментов.

Практическая реализация данных методик связана с необходимостью преодоления ряда взаимопереплетенных препятствий. Территориальная и экономическая нервномерность в обеспечении вычислительными мощностями порождает угрозу усугубления дисбаланса в стандартах онкопомощи среди различных территорий и государств.

Российская нормативная база нуждается в модификации с учетом динамической специфики самообучающихся платформ. Действующие процедуры государственной регистрации медицинской аппаратуры подразумевают разовую экспертизу фиксированных параметров и игнорируют потенциал алгоритмов к модификации после выдачи разрешительных документов. Внедрение понятия адаптивных медицинских устройств с системой перманентной валидации и постмаркетингового контроля позволило бы достичь равновесия между инновационным прогрессом и безопасностью граждан.

Список литературы

1. Фольц Э.Э. Рак поджелудочной железы. Бюллетень медицинских интернет-конференций. 2019;9(3):146-151
2. Щастный А.Т., Луд Н.Г., Соболь В.Н. и др. Анализ выживаемости пациентов при комплексном лечении рака головки поджелудочной железы. Вестник Витебского государственного медицинского университета. 2020;19(5):66-71
3. Hu J.X., Zhao C.F., Chen W.B. et al. Pancreatic cancer: A review of epidemiology, trend, and risk factors. World J Gastroenterol. 2021;27(27):4298-4321. DOI:10.3748/wjg.v27.i27.4298
4. Sarker I.H. Machine Learning: Algorithms, Real-World Applications and Research Directions. SN Comput Sci. 2021;2(3):160. DOI:10.1007/s42979-021-00592-x
5. Leonhardt C.S., Gustorff C., Klaiber U. et al. Prognostic Factors for Early Recurrence After Resection of Pancreatic Cancer: A Systematic Review and Meta-Analysis. Gastroenterology. 2024;167(5):977-992. DOI:10.1053/j.gastro.2024.05.028
6. Zhao G., Chen X., Zhu M. et al. Exploring the application and future outlook of Artificial intelligence in pancreatic cancer. Front Oncol. 2024;14:1345810. DOI:10.3389/fonc.2024.1345810
7. Si K., Xue Y., Yu X. et al. Fully end-to-end deep learning-based diagnosis of pancreatic tumors. Theranostics. 2021;11(4):1982-90. DOI:10.7150/thno.52508
8. Ma H., Liu Z.X., Zhang J. et al. Construction of a convolutional neural network classifier developed by computed tomography images for pancreatic cancer diagnosis. World J Gastroenterol. 2020;26(34):5156-68. DOI:10.3748/wjg.v26.i34.5156
9. Sharma A., Kandlakunta H., Nagpal S. et al. Model to determine risk of pancreatic cancer in patients with new-onset diabetes. Gastroenterology. 2018;155(3):730-9. DOI:10.1053/j.gastro.2018.05.023
10. Blyuss O., Zaikin A., Cherepanova V. et al. Development of PancRISK, a urine biomarker-based risk score for stratified screening of pancreatic cancer patients. Br J Cancer. 2020;122(5):692-6. DOI:10.1038/s41416-019-0694-0
11. Kuwahara T., Hara K., Mizuno N. et al. Usefulness of deep learning analysis for the diagnosis of Malignancy in intraductal papillary mucinous neoplasms of the pancreas. Clin Transl Gastroenterol. 2019;10(5):1-8. DOI:10.14309/ctg.0000000000000045
12. Lee K.S., Jang J.Y., Yu Y.D. et al. Usefulness of AI for predicting recurrence following surgery for pancreatic cancer: Retrospective cohort study. Int J Surg. 2021;93:106050. DOI:10.1016/j.ijsu.2021.106050
13. Tong Z., Liu Y., Ma H. et al. Development, validation and comparison of artificial neural network models and logistic regression models predicting survival of unresectable pancreatic cancer. Front Bioeng Biotechnol. 2020;8:196. DOI:10.3389/fbioe.2020.00196
14. Han I.W., Cho K., Ryu Y. et al. Risk prediction platform for pancreatic fistula after pancreatoduodenectomy using AI. World J Gastroenterol. 2020;26(30):4453-64. DOI:10.3748/wjg.v26.i30.4453
15. Skawran S.M., Kambakamba P., Baessler B. et al. Can magnetic resonance imaging radiomics of the pancreas predict postoperative pancreatic fistula? Eur J Radiol. 2021;140:109733. DOI:10.1016/j.ejrad.2021.109733
16. Sinkala M., Mulder N., Martin D. Machine Learning and Network Analyses Reveal Disease Subtypes of Pancreatic Cancer and their Molecular Characteristics. Sci Rep. 2020;10:1212
17. Lin H.M., Xue X.F., Wang X.G. et al. Application of artificial intelligence for the diagnosis, treatment, and prognosis of pancreatic cancer. Artif Intell Gastroenterol. 2020;1(1):19-29. DOI:10.35712/aig.v1.i1.19
18. Kaissis G., Ziegelmayer S., Lohöfer F. et al. A machine learning algorithm predicts molecular subtypes in pancreatic ductal adenocarcinoma with differential response to gemcitabine-based versus FOLFIRINOX chemotherapy. PLoS One. 2019;14:e0218642
19. Gabriel I., Precious A. Challenges of Implementing AI in Low-Resource Healthcare Settings. 2025
20. Knapen D.G., van Kruchten T., de Groot M. et al. Artificial intelligence for clinical trial design, conduct, and analysis: a narrative review. ESMO Real World Data Digit Oncol. 2026;11:100682. DOI:10.1016/j.esmorw.2026.100682
21. Fertig E.J., Jaffee E.M., Macklin P. et al. Forecasting cancer: from precision to predictive medicine. Med. 2021;2(9):1004-1010. DOI:10.1016/j.medj.2021.08.007
22. Oduduwa Adetunji. Ethical Considerations of AI Application In Healthcare: Navigating the Intersection of Technology, Medicine, and Human Values. 2025. DOI:10.5281/zenodo.18105824
23. Capobianco Enrico. High-dimensional role of AI and machine learning in cancer research. British Journal of Cancer. 2022;126. DOI:10.1038/s41416-021-01689-z
24. Pham T. Ethical and legal considerations in healthcare AI: innovation and policy for safe and fair use. R Soc Open Sci. 2025;12(5):241873. DOI:10.1098/rsos.241873
25. Akin-Odanye E.O., Husman A.J. Impact of stigma and stigma-focused interventions on screening and treatment outcomes in cancer patients. Ecancermedicalscience. 2021;15:1308. DOI:10.3332/ecancer.2021.1308
26. Об основах охраны здоровья граждан в Российской Федерации: федеральный закон от 21.11.2011 № 323-ФЗ (последняя редакция). Собрание законодательства РФ. 2011;(48):Ст.6724
27. Алексеева М.В. Правовое регулирование искусственного интеллекта в государственном управлении в Российской Федерации: вызовы и возможности. Правовой порядок и правовые ценности. 2025;3(2):23-32. DOI:10.23947/2949-1843-2025-3-2-23-32
28. Patel H., Zanos T., Hewitt D.B. Deep Learning Applications in Pancreatic Cancer. Cancers (Basel). 2024;16(2):436. DOI:10.3390/cancers16020436
29. Lu S.C., Swisher C.L., Chung C. et al. On the importance of interpretable machine learning predictions to inform clinical decision making in oncology. Front Oncol. 2023;13:1129380. DOI:10.3389/fonc.2023.1129380
30. Molnar C. Interpretable machine learning: A guide for making black box models explainable. 2nd ed. Independently published; 2022. URL:https://christophm.github.io/interpretable-ml-book
31. Lundberg S.M., Lee S.I. A unified approach to interpreting model predictions. Advances in neural information processing systems; 2017 Dec 4-9; Long Beach, CA, USA. 2017. p.4766-75
32. Ribeiro M.T., Singh S., Guestrin C. Why should I trust you? Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining; 2016 Aug 13-17; New York, NY, USA. Association for Computing Machinery (ACM); 2016. p.1135-44. DOI:10.1145/2939672.2939778
33. Zhang Y., Lobo-Mueller E.M., Karanicolas P. et al. Improving prognostic performance in resectable pancreatic ductal adenocarcinoma using radiomics and deep learning features fusion in CT images. Sci Rep. 2021;11:1378. DOI:10.1038/s41598-021-80998-y
34. Ziegelmayer S., Kaissis G., Harder F. et al. Deep Convolutional Neural Network-Assisted Feature Extraction for Diagnostic Discrimination and Feature Visualization in Pancreatic Ductal Adenocarcinoma (PDAC) versus Autoimmune Pancreatitis (AIP). J Clin Med. 2020;9:4013. DOI:10.3390/jcm9124013
35. Linardatos P., Papastefanopoulos V., Kotsiantis S. Explainable AI: A review of machine learning interpretability methods. Entropy. 2020;23:18. DOI:10.3390/e23010018
36. Finlayson S.G., Subbaswamy A., Singh K. et al. The clinician and dataset shift in artificial intelligence. New Engl J Med. 2021;385:283-6. DOI:10.1056/nejmc2104626
37. Sidey-Gibbons J.A.M., Sidey-Gibbons C.J. Machine learning in medicine: A practical introduction. BMC Med Res Methodol. 2019;19:1-18. DOI:10.1186/s12874-019-0681-4
38. Carvalho D.V., Pereira E.M., Cardoso J.S. Machine learning interpretability: A survey on methods and metrics. Electron (Basel). 2019;8:832. DOI:10.3390/electronics8080832
39. Rudin C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1:206-15. DOI:10.1038/s42256-019-0048-x
40. Сураева Н.А., Шикина И.Б., Захарченко О.О., Терентьева Д.С. Онкологическая настороженность медицинских работников, принимающих участие в диспансеризации взрослого населения. Профилактическая медицина. 2026;29(1):7‑13.
41. Kang J., Schwartz R., Flickinger J. et al. Machine learning approaches for predicting radiation therapy outcomes: A clinician's perspective. Int J Radiat Oncol Biol Phys. 2015;93:1127-35. DOI:10.1016/j.ijrobp.2015.07.2286
42. U.S. department of health and human services food and drug administration. Clinical decision support software - guidance for industry and food and drug administration staff. 2022. URL:https://www.fda.gov/drugs/guidance-

References

1. Fol'ts E.E. Rak podzheludochnoj zhelezy [Pancreatic cancer]. Byulleten' meditsinskih internet-konferentsij [Bulletin of Medical Internet Conferences]. 2019;9(3):146-151 (In Russian)
2. Shchastnyj A.T., Lud N.G., Sobol' V.N. [i dr.] Analiz vyzhivaemosti patsientov pri kompleksnom lechenii raka golovki podzheludochnoj zhelezy [Analysis of patient survival in complex treatment of pancreatic head cancer]. Vestnik Vitebskogo gosudarstvennogo meditsinskogo universiteta [Vestnik of Vitebsk State Medical University]. 2020;19(5):66-71 (In Russian)
3. Hu J.X., Zhao C.F., Chen W.B. [et al.] Pancreatic cancer: A review of epidemiology, trend, and risk factors. World J Gastroenterol. 2021;27(27):4298-4321. DOI: 10.3748/wjg.v27.i27.4298
4. Sarker I.H. Machine Learning: Algorithms, Real-World Applications and Research Directions. SN Comput Sci. 2021;2(3):160. DOI: 10.1007/s42979-021-00592-x
5. Leonhardt C.S., Gustorff C., Klaiber U. [et al.] Prognostic Factors for Early Recurrence After Resection of Pancreatic Cancer: A Systematic Review and Meta-Analysis. Gastroenterology. 2024;167(5):977–992. DOI: 10.1053/j.gastro.2024.05.028
6. Zhao G., Chen X., Zhu M. [et al.] Exploring the application and future outlook of Artificial intelligence in pancreatic cancer. Front Oncol. 2024;14:1345810. DOI: 10.3389/fonc.2024.1345810
7. Si K., Xue Y., Yu X. [et al.] Fully end-to-end deep learning-based diagnosis of pancreatic tumors. Theranostics. 2021;11(4):1982–90. DOI: 10.7150/thno.52508
8. Ma H., Liu Z.X., Zhang J. [et al.] Construction of a convolutional neural network classifier developed by computed tomography images for pancreatic cancer diagnosis. World J Gastroenterol. 2020;26(34):5156–68. DOI: 10.3748/wjg.v26.i34.5156
9. Sharma A., Kandlakunta H., Nagpal S. [et al.] Model to determine risk of pancreatic cancer in patients with new-onset diabetes. Gastroenterology. 2018;155(3):730–9. DOI: 10.1053/j.gastro.2018.05.023
10. Blyuss O., Zaikin A., Cherepanova V. [et al.] Development of PancRISK, a urine biomarker-based risk score for stratified screening of pancreatic cancer patients. Br J Cancer. 2020;122(5):692–6. DOI: 10.1038/s41416-019-0694-0
11. Kuwahara T., Hara K., Mizuno N. [et al.] Usefulness of deep learning analysis for the diagnosis of Malignancy in intraductal papillary mucinous neoplasms of the pancreas. Clin Transl Gastroenterol. 2019;10(5):1–8. DOI: 10.14309/ctg.0000000000000045
12. Lee K.S., Jang J.Y., Yu Y.D. [et al.] Usefulness of AI for predicting recurrence following surgery for pancreatic cancer: Retrospective cohort study. Int J Surg. 2021;93:106050. DOI: 10.1016/j.ijsu.2021.106050
13. Tong Z., Liu Y., Ma H. [et al.] Development, validation and comparison of artificial neural network models and logistic regression models predicting survival of unresectable pancreatic cancer. Front Bioeng Biotechnol. 2020;8:196. DOI: 10.3389/fbioe.2020.00196
14. Han I.W., Cho K., Ryu Y. [et al.] Risk prediction platform for pancreatic fistula after pancreatoduodenectomy using AI. World J Gastroenterol. 2020;26(30):4453–64. DOI: 10.3748/wjg.v26.i30.4453
15. Skawran S.M., Kambakamba P., Baessler B. [et al.] Can magnetic resonance imaging radiomics of the pancreas predict postoperative pancreatic fistula? Eur J Radiol. 2021;140:109733. DOI: 10.1016/j.ejrad.2021.109733
16. Sinkala M., Mulder N., Martin D. Machine Learning and Network Analyses Reveal Disease Subtypes of Pancreatic Cancer and their Molecular Characteristics. Sci Rep. 2020;10:1212
17. Lin H.M., Xue X.F., Wang X.G. [et al.] Application of artificial intelligence for the diagnosis, treatment, and prognosis of pancreatic cancer. Artif Intell Gastroenterol. 2020;1(1):19-29. DOI: 10.35712/aig.v1.i1.19
18. Kaissis G., Ziegelmayer S., Lohöfer F. [et al.] A machine learning algorithm predicts molecular subtypes in pancreatic ductal adenocarcinoma with differential response to gemcitabine-based versus FOLFIRINOX chemotherapy. PLoS One. 2019;14:e0218642
19. Gabriel I., Precious A. Challenges of Implementing AI in Low-Resource Healthcare Settings. 2025
20. Knapen D.G., van Kruchten T., de Groot M. [et al.] Artificial intelligence for clinical trial design, conduct, and analysis: a narrative review. ESMO Real World Data Digit Oncol. 2026;11:100682. DOI: 10.1016/j.esmorw.2026.100682
21. Fertig E.J., Jaffee E.M., Macklin P. [et al.] Forecasting cancer: from precision to predictive medicine. Med. 2021;2(9):1004-1010. DOI: 10.1016/j.medj.2021.08.007
22. Oduduwa Adetunji. Title: Ethical Considerations of AI Application In Healthcare: Navigating the Intersection of Technology, Medicine, and Human Values. 2025. DOI: 10.5281/zenodo.18105824
23. Capobianco Enrico. High-dimensional role of AI and machine learning in cancer research. British Journal of Cancer. 2022;126. DOI: 10.1038/s41416-021-01689-z
24. Pham T. Ethical and legal considerations in healthcare AI: innovation and policy for safe and fair use. R Soc Open Sci. 2025;12(5):241873. DOI: 10.1098/rsos.241873
25. Akin-Odanye E.O., Husman A.J. Impact of stigma and stigma-focused interventions on screening and treatment outcomes in cancer patients. Ecancermedicalscience. 2021;15:1308. DOI: 10.3332/ecancer.2021.1308
26. Ob osnovah ohrany zdorov'ya grazhdan v Rossijskoj Federatsii: federal'nyj zakon ot 21.11.2011 № 323-FZ (poslednyaya redaktsiya) [On the basics of health protection of citizens in the Russian Federation: federal law dated 21.11.2011 No. 323-FZ (last edition)]. Sobranie zakonodatel'stva RF [Collection of Legislation of the Russian Federation]. 2011;48:St. 6724 (In Russian)
27. Alekseeva M.V. Pravovoe regulirovanie iskusstvennogo intellekta v gosudarstvennom upravlenii v Rossijskoj Federatsii: vyzovy i vozmozhnosti [Legal regulation of artificial intelligence in public administration in the Russian Federation: challenges and opportunities]. Pravovoj poryadok i pravovye tsennosti [Legal Order and Legal Values]. 2025;3(2):23-32. DOI: 10.23947/2949-1843-2025-3-2-23-32 (In Russian)
28. Patel H., Zanos T., Hewitt D.B. Deep Learning Applications in Pancreatic Cancer. Cancers (Basel). 2024;16(2):436. DOI: 10.3390/cancers16020436
29. Lu S.C., Swisher C.L., Chung C. [et al.] On the importance of interpretable machine learning predictions to inform clinical decision making in oncology. Front Oncol. 2023;13:1129380. DOI: 10.3389/fonc.2023.1129380
30. Molnar C. Interpretable machine learning: A guide for making black box models explainable. 2nd ed. Independently published; 2022. URL: https://christophm.github.io/interpretable-ml-book
31. Lundberg S.M., Lee S.I. A unified approach to interpreting model predictions. Advances in neural information processing systems. Long Beach, CA, USA; 2017:4766–75
32. Ribeiro M.T., Singh S., Guestrin C. Why should I trust you? Explaining the predictions of any classifier. Proceedings of the 22nd ACM SIGKDD International Conference on Knowledge Discovery and Data Mining. New York, NY, USA: Association for Computing Machinery (ACM); 2016:1135–44. DOI: 10.1145/2939672.2939778
33. Zhang Y., Lobo-Mueller E.M., Karanicolas P. [et al.] Improving prognostic performance in resectable pancreatic ductal adenocarcinoma using radiomics and deep learning features fusion in CT images. Sci. Rep. 2021;11:1378. DOI: 10.1038/s41598-021-80998-y
34. Ziegelmayer S., Kaissis G., Harder F. [et al.] Deep Convolutional Neural Network-Assisted Feature Extraction for Diagnostic Discrimination and Feature Visualization in Pancreatic Ductal Adenocarcinoma (PDAC) versus Autoimmune Pancreatitis (AIP). J. Clin. Med. 2020;9:4013. DOI: 10.3390/jcm9124013
35. Linardatos P., Papastefanopoulos V., Kotsiantis S. Explainable AI: A review of machine learning interpretability methods. Entropy. 2020;23:18. DOI: 10.3390/e23010018
36. Finlayson S.G., Subbaswamy A., Singh K. [et al.] The clinician and dataset shift in artificial intelligence. New Engl J Med. 2021;385:283–6. DOI: 10.1056/nejmc2104626
37. Sidey-Gibbons J.A.M., Sidey-Gibbons C.J. Machine learning in medicine: A practical introduction. BMC Med Res Methodol. 2019;19:1–18. DOI: 10.1186/s12874-019-0681-4
38. Carvalho D.V., Pereira E.M., Cardoso J.S. Machine learning interpretability: A survey on methods and metrics. Electron (Basel). 2019;8:832. DOI: 10.3390/electronics8080832
39. Rudin C. Stop explaining black box machine learning models for high stakes decisions and use interpretable models instead. Nat Mach Intell. 2019;1:206–15. DOI: 10.1038/s42256-019-0048-x
40. Suraeva NA, Shikina IB, Zakharchenko OO, Terenteva DS. Oncological caution of medical workers who take part in adult dispensary examinations. Profilakticheskaya medicina. [Russian Journal of Preventive Medicine]. 2026;29(1):7‑13. (In Russian) https://doi.org/10.17116/profmed2026290117
41. Kang J., Schwartz R., Flickinger J. [et al.] Machine learning approaches for predicting radiation therapy outcomes: A clinician's perspective. Int J Radiat Oncol Biol Phys. 2015;93:1127–35. DOI: 10.1016/j.ijrobp.2015.07.2286
42. U.S. department of health and human services food and drug administration. Clinical decision support software - guidance for industry and food and drug administration staff. 2022. URL: https://www.fda.gov/drugs/guidance-

Финансирование. Исследование не имело спонсорской поддержки.

Конфликт интересов. Авторы заявляют об отсутствии конфликта интересов.

Funding. The study had no sponsorship.

Conflict of interest. The authors declare that there is no conflict of interest.

Сведения об авторах

Плутницкий Андрей Николаевич – доктор медицинских наук, доцент, зав.кафедрой Общественное здоровье и здравоохранение Медико-биологического университета инноваций и непрерывного образования ФГБУ Государственный научный центр Российской Федерации «Федеральный медицинский биофизический центр им. А.И. Бурназяна» Федерального медико-биологического агентства России, 123098, г. Москва, ул. Маршала Новикова, 23. Е-mail: Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра., ORCID 0000-0001-5018-0423, SPIN: 4472-9228

Голышко Павел Викторович – кандидат медицинских наук, соискатель кафедры Общественное здоровье и здравоохранение Медико-биологического университета инноваций и непрерывного образования ФГБУ Государственный научный центр Российской Федерации «Федеральный медицинский биофизический центр им. А.И. Бурназяна» Федерального медико-биологического агентства России, 123098, г. Москва, ул. Маршала Новикова, 23. ЕЭтот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра., ORCID 0009-0004-3329-7119

Каримова Дания Юсуфовна – доктор медицинских наук, профессор; профессор кафедры Общественное здоровье и здравоохранение Медико-биологического университета инноваций и непрерывного образования ФГБУ Государственный научный центр Российской Федерации «Федеральный медицинский биофизический центр им. А.И. Бурназяна» Федерального медико-биологического агентства России, 123098, г. Москва, ул. Маршала Новикова, 23. Е-mail: Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра., ORCID 0000-0002-9971-8156, SPIN: 6518-0847

Information about the authors

Andrey Nikolaevich Plutnitsky - Doctor of Medical Sciences, Associate Professor, Head of the Department of Public Health and Public Health of the Medical and Biological University of Innovation and Continuing Education, Federal State Budgetary Institution State Scientific Center of the Russian Federation "Federal Medical Biophysical Center named after A.I. Burnazyan" of the Federal Medical and Biological Agency of Russia, 23 Marshala Novikova str., Moscow, 123098. E-mail: Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра.  ORCID 0000-0001-5018-0423, SPIN: 4472-9228

Pavel Viktorovich Golyshko - Candidate of Medical Sciences, Applicant at the Department of Public Health and Healthcare of the Medical and Biological University of Innovations and Continuing Education of the Federal State Budgetary Institution State Research Center of the Russian Federation Federal Medical Biophysical Center named after A.I. Burnazyan of the Federal Medical and Biological Agency of Russia, 23 Marshal Novikov Street, Moscow, 123098. Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра., ORCID 0009-0004-3329-7119

Daniia Yusufovna Karimova – Doctor of Medical Sciences, Professor; Professor of the Department of Public Health and Public Health of the Medical and Biological University of Innovation and Continuing Education, Federal State Budgetary Institution State Scientific Center of the Russian Federation "Federal Medical Biophysical Center named after A.I. Burnazyan" of the Federal Medical and Biological Agency of Russia, 23 Marshala Novikova str., Moscow, 123098.-mail: Этот адрес электронной почты защищен от спам-ботов. У вас должен быть включен JavaScript для просмотра., ORCID 0000-0002-9971-8156, SPIN: 6518-0847

Статья получена: 01.04.2026 г.

Принята к публикации: 25.09.2026 г.