Объяснительный искусственный интеллект в анализе цифровых изображений на основе нейронных сетей глубокого обучения

Обложка

Цитировать

Полный текст

Открытый доступ Открытый доступ
Доступ закрыт Доступ предоставлен
Доступ закрыт Только для подписчиков

Аннотация

Показаны возможности искусственного интеллекта в анализе цифровых изображений в области медицины с помощью сверхточных нейронных сетей глубокого обучения. Рассматривается новое поколение систем искусственного интеллекта с объяснением пользователю алгоритмов принятия решений — объяснительный искусственный интеллект. Приводится таксономия методов объяснения и описание самих методов. Дано обоснование необходимости применения объяснительного искусственного интеллекта в задачах классификации на примере офтальмологических заболеваний. Проведено исследование используемых в обозреваемых работах составляющих методов глубокого обучения (архитектуры нейронных сетей, точности, характеристики наборов данных) и объяснительного искусственного интеллекта (методы объяснения, критерии точности объяснения). В качестве примера рассматривается задача распознавания двух наиболее часто диагностируемых заболеваний глаза: диабетической ретинопатии и глаукомы искусственными нейронными сетями.

Полный текст

Доступ закрыт

Об авторах

А. Н. Аверкин

РЭУ им. Г.В. Плеханова

Автор, ответственный за переписку.
Email: averkin2003@inbox.ru
Россия, Москва

Е. Н. Волков

РЭУ им. Г.В. Плеханова

Email: envolkoff@gmail.com
Россия, Москва

С. А. Ярушев

РЭУ им. Г.В. Плеханова

Email: sergey.yarushev@icloud.com
Россия, Москва

Список литературы

  1. Fountaine T., McCarthy B., Saleh T. Building the AI-powered Organization // Harvard Business Review. 2019. V. 97. No. 4. P. 62—73.
  2. Shao Z. et al. Tracing the evolution of AI in the past decade and forecasting the emerging trends //Expert Systems with Applications. – 2022. – С. 118221. – doi: 10.1016/j.eswa.2022.118221
  3. Gunning D., Aha D. DARPA’s Explainable Artificial Intelligence (XAI) Program // AI Magazine. 2019. V. 40. No. 2. P. 44—58. doi: 10.1609/aimag.v40i2.2850.
  4. Fouse S., Cross S., Lapin Z. DARPA’s Impact on Artificial Intelligence // AI Magazine. 2020. V. 41. No. 2. P. 3—8. doi: 10.1609/aimag.v41i2.5294.
  5. Egger J. Gsaxner C., Pepeet A. et al. Medical Deep Learning — A Systematic Meta-Review // Computer Methods and Programs in Biomedicine. 2022. V. 221. P. 106874. doi: 10.1016/j.cmpb.2022.106874.
  6. Shen D., Wu G., Suk H. I. Deep Learning in Medical Image Analysis // Annual Review of Biomedical Engineering. 2017. V. 19. P. 221—248. doi: 10.1007/978-3-030-33128-3_1.
  7. Liu Z., Zhichao L., et al. A Survey on Applications of Deep Learning in Microscopy Image Analysis // omputers in Biology and Medicine. 2021. V. 134. P. 104523. doi: 10.1016/j.compbiomed.2021.104523.
  8. Xu J., Xi X., Chen J. et al. A Survey of Deep Learning for Electronic Health Records // Applied Sciences. 2022. V. 12. No. 22. P. 11709. doi: 10.3390/app122211709.
  9. Feng R., Badgeley M., Mocco J. et al. Deep Learning Guided Stroke Management: a Review of Clinical Applications // Journal of Neurointerventional Surgery. 2018. V. 10. No. 4. P. 358—362. doi: 10.1136/neurintsurg-2017-013355.
  10. Abdel-Jaber H., Devassy D., Salam A. et al. A Review of Deep Learning Algorithms and Their Applications in Healthcare // Algorithms. 2022. V. 15. No. 2. P. 71. doi: 10.3390/a15020071.
  11. Аверкин А. Н., Ярушев С. А. Обзор исследований в области разработки методов извлечения правил из искусственных нейронных сетей // Изв. РАН. ТиСУ. 2021. Т. 6. № 6. С. 106—121. doi: 10.31857/S0002338821060044.
  12. Аверкин А. Н. Объяснимый искусственный интеллект — итоги и перспективы // Авиационные системы в XXI веке: тез. докл. юбилейной Всероссийск. науч.-техн. конф. М.: Государственный научно-исследовательский ин-т авиационных систем, 2022. С. 235—236.
  13. Федунов Б. Е. Бортовые интеллектуальные системы тактического уровня для антропоцентрических объектов. М.: Де’Либри, 2018. 246 с.
  14. Борисов В. В. Систематизация нечетких и гибридных нечетких моделей // Мягкие измерения и вычисления. 2020. Т. 29. № 4. С. 98—120.
  15. Talpur N., Abdulkadir S. Alhussian H. et al. Deep Neuro-Fuzzy System Application Trends, Challenges, and Future Perspectives: A Systematic Survey // Artificial Intelligence Review. 2023. V. 56. No. 2. P. 865—913. doi: 10.1007/s10462-022-10188-3.
  16. Аверкин А. Н., Ярушев С. А. Объяснительный искусственный интеллект в моделях поддержки принятия решений для здравоохранения 5.0 // Компьютерные инструменты в образовании. 2023. № 2. С. 41—61/ doi: 10.32603/2071-2340-2023-2-41-61.
  17. Van der Velden B. H.M., Kuijf B. H., Gilhuijs H. J. et al. Explainable Artificial Intelligence (XAI) in Deep Learning-based Medical Image Analysis // Medical Image Analysis. 2022. P. 102470. doi: 10.1016/j.media.2022.102470.
  18. Anton N., Doroftei B., Curteanu S. et al. Comprehensive Review on the Use of Artificial Intelligence in Ophthalmology and Future Research Directions // Diagnostics. 2022. V. 13. No. 1. P. 100. doi: 10.3390/diagnostics13010100.
  19. Srivastava O., Tennant M., Grewal P. et al. Artificial Intelligence and Machine Learning in Ophthalmology: A Review // Indian J. Ophthalmology. 2023. V. 71. No. 1. P. 11—17. doi: 10.4103/ijo.ijo_1569_22.
  20. Hogarty D. T., Mackey D. A., Hewitt A. W. Current State and Future Prospects of Artificial Intelligence in Ophthalmology: A Review // Clinical & Experimental Ophthalmology. 2019. V. 47. No. 1. P. 128—139. doi: 10.1111/ceo.13381.
  21. Biousse V., Bruce B. B., Newman N. J. Ophthalmoscopy in the 21st Сentury: the 2017 H. Houston Merritt Lecture // Neurology. 2018. V. 90. No. 4. P. 167—175. doi: 10.1212/WNL.0000000000004868.
  22. Minakaran N., de Carvalho E. R., Petzold A. et al. Optical Coherence Tomography (OCT) in Neuro-ophthalmology // Eye. 2021. V. 35. No. 1. P. 17—32. doi: 10.1038/s41433-020-01288-x.
  23. Бакуткин В. В., Бакуткин И. В., Зеленов В. А. Специализированная система предрейсовых медицинских осмотров с применением цифровых технологий // Санитарный врач. 2021. № 5. С. 60—66. doi: 10.33920/med-08-2105-07.
  24. Кобринский Б. А. Автоматизированные регистры медицинского назначения: теория и практика применения. Изд. 2-е, стер. М.; Берлин: Директ-Медиа, 2016. 148 с.
  25. Еремеев А. П., Колосов О. С., Зуева М. В. и др. Интеграция методов системного анализа и когнитивной графики при ранней диагностике патологий зрения // 20-я Национальная конф. по искусственному интеллекту с международным участием (КИИ-2022). М., 2022. С. 313—329.
  26. Кобринский Б. А. Интегрированные и гибридные системы искусственного интеллекта: методологические проблемы и вопросы терминологии // Интегрированные модели и мягкие вычисления в искусственном интеллекте ИММВ-2022: Сб. науч. тр. XI Междунар. науч.-практической конф. В 2 т. Коломна: Общероссийская общественная организация “Российская ассоциация искусственного интеллекта”, 2022. С. 37—46.
  27. Arrieta A. B., Díaz-Rodríguez N., Del Ser J. et al. Explainable Artificial Intelligence (XAI): Concepts, Taxonomies, Opportunities and Challenges Toward Responsible AI // Information Fusion. 2020. V. 58. P. 82—115. doi: 10.1016/j.inffus.2019.12.012.
  28. Schwalbe G., Finzel B. A Comprehensive Taxonomy for Explainable Artificial Intelligence: A Systematic Survey of Surveys on Methods and Concepts // Data Mining and Knowledge Discovery. 2023. P. 1—59. doi: 10.1007/s10618-022-00867-8.
  29. Speith T. A Review of Taxonomies of Explainable Artificial Intelligence (XAI) Methods // ACM Conf. on Fairness, Accountability, and Transparency. Seoul, 2022. P. 2239—2250. doi: 10.1145/3531146.3534639.
  30. Saeed W., Omlin C. Explainable AI (XAI): A Systematic Meta-survey of Current Challenges and Future Opportunities // Knowledge-Based Systems. 2023. V. 263. P. 110273. doi: 10.1016/j.knosys.2023.110273.
  31. Clement T., Kemmerzell N., Abdelaal M. et al. XAIR: A Systematic Metareview of Explainable AI (XAI) Aligned to the Software Development Process // Machine Learning and Knowledge Extraction. 2023. V. 5. No. 1. P. 78—108. doi: 10.3390/make5010006.
  32. Zhou B., Khosla A., Lapedriza A. et al. Learning Deep Features for Discriminative Localization // Proc. IEEE Conf. on Computer Vision and Pattern Recognition (CVPR). Las Vegas, 2016. P. 2921—2929.
  33. Selvaraju R. R., Cogswell M., Das A. et al. Grad-cam: Visual Explanations from Deep Networks via Gradient-based Localization // Proc. IEEE Intern. Conf. on Computer Vision (ICCV). Venice, 2017. P. 618—626.
  34. Sample Code for the Class Activation Mapping // GitHub URL: https://github.com/zhoubolei/CAM (дата обращения: 13.04.2023).
  35. Advanced AI Explainability for PyTorch // GitHub URL: https://github.com/jacobgil/pytorch-grad-cam (дата обращения: 13.04.2023).
  36. Springenberg J. T. Striving for Simplicity: The all Convolutional Net // arXiv Preprint arXiv:1412.6806.014.
  37. Ribeiro M. T., Singh S., Guestrin C. Why Should I Trust You? Explaining the Predictions of any Classifier // Proc. 22nd ACM SIGKDD Intern. Conf. on Knowledge Discovery and Data Mining. San Francisco, 2016. P. 1135—1144. doi: 10.1145/2939672.2939778.
  38. Huang Q., Yamada M., Tian Y. et al. Graphlime: Local Interpretable Model Explanations for Graph Neural Networks // IEEE Transactions on Knowledge and Data Engineering. 2022. V. 35. No. 7. P. 6968—6972. doi: 10.1109/TKDE.2022.3187455.
  39. Gramegna A., Giudici P. SHAP and LIME: An Evaluation of Discriminative Power in Credit Risk // Frontiers in Artificial Intelligence. 2021. V. 4. P. 752558. doi: 10.3389/frai.2021.752558.
  40. Lime // GitHub URL: https://github.com/marcotcr/lime (дата обращения: 13.04.2023).
  41. Shapley L. S. A Value for N-Person Games. AW Kuhn, HW Tucker, ed., Contributions to the Theory of Games II. Santa-Monica, 1953.
  42. Lundberg S. M., Lee S. I. A Unified Approach to Interpreting Model Predictions // Advances in Neural Information Processing Systems. 2017. V. 30.
  43. SHAP // GitHub URL: https://github.com/slundberg/shap (дата обращения: 13.04.2023).
  44. Sundararajan M., Najmi A. The Many Shapley Values for Model Explanation // Intern. Conf. on Machine Learning. PMLR, Carnegie Mellon, 2020. P. 9269—9278.
  45. Frye C., Rowat C., Feige I. Asymmetric Shapley Values: Incorporating Causal Knowledge Into Model-agnostic Explainability // Advances in Neural Information Processing Systems. 2020. V. 33. P. 1229—1239.
  46. Janzing D., Minorics L., Blöbaum P. Feature Relevance Quantification in Explainable AI: A Causal Problem // Intern. Conf. on Artificial Intelligence and Statistics. PMLR, Sydney, 2020. P. 2907—2916.
  47. Cheplygina V., de Bruijne M., Pluim J. P.W. Not-so-supervised: A Survey of Semi-Supervised, Multi-instance, and Transfer Learning in Medical Image Analysis // Medical Image Analysis. 2019. V. 54. P. 280—296. doi: 10.1016/j.media.2019.03.009.
  48. Sundararajan M., Taly A., Yan Q. Axiomatic Attribution for Deep Networks // Intern. Conf. on Machine Learning. PMLR, Sydney, 2017. P. 3319—3328.
  49. Jetley S., Lord N. A., Lee N. et al. Learn to Pay Attention // arXiv preprint arXiv:1804.02391. 2018.
  50. Learn to Pay Attention (ICLR’18) // GitHub URL: https://github.com/saumya-jetley/cd_ICLR18_LearnToPayAttention (дата обращения: 13.04.2023).
  51. Демидова Т. Ю., Кожевников А. А. Диабетическая ретинопатия: история, современные подходы к ведению, перспективные взгляды на профилактику и лечение // Сахарный диабет. 2020. V. 23(1). P. 95—105. doi: 10.14341/DM10273.
  52. Дедов И. И., Шестакова М. В., Викулова О. К. Эпидемиология сахарного диабета в Российской Федерации: клинико-статистический отчет по данным федерального регистра сахарного диабета // Сахарный диабет. 2017. V. 20. No. 1. P. 13—41. doi: 10.14341/DM8664.
  53. Klein R., Klein B. E.K. Are Individuals with Diabetes Seeing Better? A Long-term Epidemiological Perspective // Diabetes. 2010. V. 59. No. 8. P. 1853—1860. doi: 10.2337/db09-1904.
  54. Porta M., Kohner E. Screening for Diabetic Retinopathy in Europe // Diabetic Medicine. 1991. V. 8. No. 3. P. 197—198. doi: 10.1111/j.1464-5491.1991.tb01571.x.
  55. Yasin S., Iqbal N., Ali T., et al. Severity Grading and Early Retinopathy Lesion Detection Through Hybrid Inception-ResNet Architecture // Sensors. 2021. V. 21. No. 20. P. 6933. doi: 10.3390/s21206933.
  56. Bidwai P., Gite S., Pahuja K. et al. A Systematic Literature Review on Diabetic Retinopathy Using an Artificial Intelligence Approach // Big Data and Cognitive Computing. MDPI AG, 2022. V. 6. No. 4. P. 152. doi: 10.3390/bdcc6040152.
  57. Филиппов В. М., Петрачков Д. В., Будзинская М. В., Сидамонидзе А. Л. Современные концепции патогенеза диабетической ретинопатии // Вестн. офтальмологии. 2021. V. 137. P. 306—313. doi: 10.17116/oftalma2021137052306.
  58. Sahiledengle B., Assefa T., Negash W. et al. Prevalence and Factors Associated with Diabetic Retinopathy among Adult Diabetes Patients in Southeast Ethiopia: A Hospital-Based Cross-Sectional Study // Clinical Ophthalmology. 2022. V. 16. P. 3527—3545. doi: 10.2147/OPTH.S385806.
  59. Barsegian A., Kotlyar B., Lee J. et al. Diabetic Retinopathy: Focus on Minority Populations // Intern. J. Clinical Endocrinology and Metabolism. 2017. V. 3. No. 1. P. 034. doi: 10.17352/ijcem.000027.
  60. Avidor D., Loewenstein A., Waisbourd M. et al. Cost-effectiveness of Diabetic Retinopathy Screening Programs Using Telemedicine: A Systematic Review // Cost Effectiveness and Resource Allocation. 2020. V. 18. P. 1—9. doi: 10.1186/s12962-020-00211-1.
  61. Борщук Е. Л., Чупров А. Д., Лосицкий А. О. и др. Организация скрининга диабетической ретинопатии с применением телемедицинских технологий // Практическая медицина. 2018. Т. 16. № 4. С. 68—70. DOI: 1032000/2072-1757-2018-16-4-68-70.
  62. Russo A., Morescalchi F., Costagliola C. et al. Comparison of Smartphone Ophthalmoscopy with Slit-lamp Biomicroscopy for Grading Diabetic Retinopathy // American J. Ophthalmology. 2015. V. 159. No. 2. P. 360—364. e1. doi: 10.1016/j.ajo.2014.11.008.
  63. Rajalakshmi R., Arulmalar S., Usha M. et al. Validation of Smartphone Based Retinal Photography for Diabetic Retinopathy Screening // PloS One. 2015. V. 10. No. 9. P. e0138285. doi: 10.1371/journal.pone.0138285.
  64. Shekar S., Satpute N., Gupta A. Review on Diabetic Retinopathy with Deep Learning Methods // J. of Medical Imaging. 2021. V. 8. No. 6. P. 060901—060901. doi: 10.1117/1.JMI.8.6.060901.
  65. Nadeem M. W., Goh H. G., Hussain M. et al. Deep Learning for Diabetic Retinopathy Analysis: A Review, Research Challenges, and Future Directions // Sensors. 2022. V. 22. No. 18. P. 6780. doi: 10.3390/s22186780.
  66. Alyoubi W. L., Shalash W. M., Abulkhair M. F. Diabetic Retinopathy Detection through Deep Learning Techniques: A Review //Informatics in Medicine Unlocked. 2020. V. 20. P. 100377. doi: 10.1016/j.imu.2020.100377.
  67. Vij R., Arora S. A Systematic Review on Diabetic Retinopathy Detection Using Deep Learning Techniques // Archives of Computational Methods in Engineering. 2023. V. 30. No. 3. Р. 2211—2256. doi: 10.1007/s11831-022-09862-0.
  68. Skouta A., Elmoufidi A., Jai-Andaloussi S. et al. Deep Learning for Diabetic Retinopathy Assessments: A Literature Review // Multimedia Tools and Applications. 2023. P. 1—66. doi: 10.1007/s11042-023-15110-9.
  69. Tajudin N. M.A., Kipli K., Mahmood M. H. et al. Deep Learning in the Grading of Diabetic Retinopathy: A Review // IET Computer Vision. 2022. V. 16. No. 8. P. 667—682. doi: 10.1049/cvi2.12116.
  70. Sowmiya R., Kalpana R. Survey or Review on the Deep Learning Techniques for Retinal Image Segmentation in Predicting/Diagnosing Diabetic Retinopathy // AI-Enabled Multiple-Criteria Decision-Making Approaches for Healthcare Management. IGI Global. 2022. P. 181—203. doi: 10.4018/978-1-6684-4405-4.ch010.
  71. Durga N. A Systematic Review on Diabetic Retinopathy and Common Eye Diseases Detection through Deep Learning Techniques // Journal of Positive School Psychology. 2022. V. 6. No. 4. P. 1905—1919.
  72. Alaeddini Z. A Review on Machine Learning Methods in Diabetic Retinopathy Detection //J. Ophthalmic and Optometric Sciences. 2021. V. 5. No. 1. doi: 10.22037/joos.v5i1.39216.
  73. Sayres R., Taly A., Rahimy E. et al. Using a Deep Learning Algorithm and Integrated Gradients Explanation to Assist Grading for Diabetic Retinopathy // Ophthalmology. 2019. V. 126. No. 4. P. 552—564. doi: 10.1016/j.ophtha.2018.11.016.
  74. Krause J., Gulshan V., Rahimy E. et al. Grader Variability and the Importance of Reference Standards for Evaluating Machine Learning Models for Diabetic Retinopathy // Ophthalmology. 2018. V. 125. No. 8. P. 1264—1272. doi: 10.1016/j.ophtha.2018.01.034.
  75. Ahmad M., Kasukurthi N., Pande H. Deep Learning for Weak Supervision of Diabetic Retinopathy Abnormalities // IEEE 16th Intern. Sympos. on Biomedical Imaging (ISBI 2019). Venice: IEEE, 2019. P. 573—577. doi: 10.1109/ISBI.2019.8759417.
  76. Messidor-2 // ADCIS URL: https://www.adcis.net/en/third-party/messidor2/ (дата обращения: 13.04.2023).
  77. Costa P., Araújo T., Aresta G. et al. EyeWes: Weakly Supervised Pre-trained Convolutional Neural Networks for Diabetic Retinopathy Detection // 16th Intern. Conf. on Machine Vision Applications (MVA). Tokyo: IEEE, 2019. P. 1—6. doi: 10.23919/MVA.2019.8757991.
  78. Decencière E., Zhang X., Cazuguel G. et al. Feedback on a Publicly Distributed Image Database: the Messidor database // Image Analysis & Stereology. 2014. V. 33. No. 3. P. 231—234. doi: 10.5566/ias.1155.
  79. Jiang H. et al. An Interpretable Ensemble Deep Learning Model for Diabetic Retinopathy Disease Classification // 41st Annual Intern. Conf. of the IEEE Engineering in Medicine and Biology Society (EMBC). Berlin: IEEE, 2019. P. 2045—2048. doi: 10.1109/EMBC.2019.8857160.
  80. Kumar D., Taylor G. W., Wong A. Discovery Radiomics with CLEAR-DR: Interpretable Computer Aided Diagnosis of Diabetic Retinopathy // IEEE Access. 2019. V. 7. P. 25891—25896. doi: 10.1109/ACCESS.2019.2893635.
  81. Diabetic Retinopathy Detection // Kaggle URL: https://www.kaggle.com/c/diabetic-retinopathy-detection (дата обращения: 13.04.2023).
  82. Perdomo O., Rios H., Rodríguez F. J. et al. Classification of Diabetes-related Retinal Diseases Using a Deep Learning Approach in Optical Coherence Tomography // Computer Methods and Programs in Biomedicine. 2019. V. 178. P. 181—189. DOI: j.cmpb.2019.06.016.
  83. Farsiu S., Chiu S. J., O’Connell R. V. et al. Quantitative Classification of Eyes With and Without Intermediate Age-related Macular Degeneration Using Optical Coherence Tomography // Ophthalmology. 2014. V. 121. No. 1. P. 162—172. doi: 10.1016/j.ophtha.2013.07.013.
  84. Araújo T., Aresta G., Mendonça L. et al. DR| GRADUATE: Uncertainty-aware Deep Learning-based Diabetic Retinopathy Grading in Eye Fundus Images // Medical Image Analysis. 2020. V. 63. P. 101715. doi: 10.1016/j.media.2020.101715.
  85. Porwal P., Pachade S., Kamble R. et al. Indian Diabetic Retinopathy Image Dataset (IDRiD): a Database for Diabetic Retinopathy Screening Research // Data. 2018. V. 3. No. 3. P. 25. doi: 10.3390/data3030025.
  86. Takahashi H., Tampo H., Arai Y. et al. Applying Artificial Intelligence to Disease Staging: Deep learning for Improved Staging of Diabetic Retinopathy // PloS One. 2017. V. 12. No. 6. P. e0179790. doi: 10.1371/journal.pone.0179790.
  87. Narayanan B. N., Hardie R. C., De Silva M. S. et al. Hybrid Machine Learning Architecture for Automated Detection and Grading of Retinal Images for Diabetic Retinopathy // J. Medical Imaging. 2020. V. 7. No. 3. P. 034501—034501. doi: 10.1117/1.JMI.7.3.034501.
  88. Tu Z., Gao S., Zhou K. et al. SUNet: A Lesion Regularized Model for Simultaneous Diabetic Retinopathy and Diabetic Macular Edema Grading // IEEE 17th Inter. Sympos. on Biomedical Imaging (ISBI). Iowa City: IEEE, 2020. P. 1378—1382. doi: 10.1109/ISBI45749.2020.9098673.
  89. Niu Y., Gu L., Zhao Y. et al. Explainable Diabetic Retinopathy Detection and Retinal Image Generation // IEEE J. Biomedical and Health Informatics. 2021. V. 26. No. 1. P. 44—55. doi: 10.1109/JBHI.2021.3110593.
  90. Wei Q., Li X., Yu W. et al. Learn to Segment Retinal Lesions and Beyond // 25th Intern. Conf. on Pattern Recognition (ICPR). Milano: IEEE, 2021. P. 7403—7410. doi: 10.1109/ICPR48806.2021.9412088.
  91. Zhou Y., Wang B., Huang L. et al. A Benchmark for Studying Diabetic Retinopathy: Segmentation, Grading, and Transferability // IEEE Transactions on Medical Imaging. 2020. V. 40. No. 3. P. 818—828. doi: 10.1109/TMI.2020.3037771.
  92. Alghamdi H. S. Towards Explainable Deep Neural Networks for the Automatic Detection of Diabetic Retinopathy // Applied Sciences. 2022. V. 12. No. 19. P. 9435. doi: 10.3390/app12199435.
  93. APTOS: Eye Preprocessing in Diabetic Retinopathy // Kaggle URL: https://www.kaggle.com/code/ratthachat/aptos-eye-preprocessing-in-diabetic-retinopathy/notebook (дата обращения: 13.04.2023).
  94. Jiang H., Yang K., Gao M. et al. An Interpretable Ensemble Deep Learning Model for Diabetic Retinopathy Disease Classification // 41st Annual Intern. Conf. of the IEEE Engineering in Medicine and Biology Society (EMBC). Berlin: IEEE, 2019. P. 2045—2048.
  95. Miró-Nicolau M., Moyà-Alcover G., Jaume-i-Capó A. Evaluating Explainable Artificial Intelligence for X-ray Image Analysis // Applied Sciences. 2022. V. 12. No. 9. P. 4459. doi: 10.3390/app12094459.
  96. Weinreb R. N., Aung T., Medeiros F. A. The Pathophysiology and Treatment of Glaucoma: A Review // Jama. 2014. V. 311. No. 18. P. 1901—1911. doi: 10.1001/jama.2014.3192.
  97. Клинические рекомендации. Глаукома первичная открытоугольная // Рубрикатор клинических рекомендаций URL: https://cr.minzdrav.gov.ru/recomend/96_1 (дата обращения: 06.04.2023).
  98. Малишевская Т. Н., Косакян С. М., Егоров Д. Б. и др. Региональный регистр пациентов с глаукомой. Методологические аспекты построения, возможности использования в клинической практике // Российский офтальмологический журнал. 2020. Т. 13. № 4. С. 7—35. DOI: doi.org/10.21516/2072-0076-2020-13-4-supplement-7-35.
  99. Мовсисян А. Б., Куроедов А. В., Архаров М. А. и др. Эпидемиологический анализ заболеваемости и распространенности первичной открытоугольной глаукомы в Российской Федерации // Клиническая офтальмология. 2022. T. 22(1). C. 3—10. doi: 10.32364/2311-7729-2022-22-1-3-10.
  100. Tham Y. C., Li X., Wong T. Y. et al. Global Prevalence of Glaucoma and Projections of Glaucoma Burden Through 2040: A Systematic Review and Meta-analysis // Ophthalmology. 2014. V. 121. No. 11. P. 2081—2090. doi: 10.1016/j.ophtha.2014.05.013.
  101. Gallo Afflitto G., Aiello F., Cesareo M. et al. Primary Open Angle Glaucoma Prevalence in Europe: A Systematic Review and Meta-Analysis // J. Glaucoma. 2022. V. 31. No. 10. P. 783—788. doi: 10.1111/j.1755-3768.2022.0718.
  102. Mahum R., Rehman S. U., Okon O. D. et al. A Novel Hybrid Approach Based on Deep CNN to Detect Glaucoma Using Fundus Imaging // Electronics. 2021. V. 11. No. 1. P. 26. doi: 10.3390/electronics11010026.
  103. Thompson A. C., Jammal A. A., Medeiros F. A. A Review of Deep Learning for Screening, Diagnosis, and Detection of Glaucoma Progression // Translational Vision Science & Technology. 2020. V. 9. No. 2. P. 42—42. doi: 10.1167/tvst.9.2.42.
  104. Barros D., Moura J. C.C., Freire C. R. et al. Machine Learning Applied to Retinal Image Processing for Glaucoma Detection: Review and Perspective // Biomedical Engineering Online. 2020. V. 19. No. 1. P. 1—21. doi: 10.1186/s12938-020-00767-2.
  105. Jin K., Ye J. Artificial Intelligence and Deep Learning in Ophthalmology: Current Status and Future Perspectives // Advances in Ophthalmology Practice and Research. 2022. P. 100078. doi: 10.1016/j.aopr.2022.100078.
  106. Guergueb T., Akhloufi M. A. A Review of Deep Learning Techniques for Glaucoma Detection // SN Computer Science. 2023. V. 4. No. 3. P. 274. doi: 10.1007/s42979-023-01734-z.
  107. Alawad M., Aljouie A., Alamri S. et al. Machine Learning and Deep Learning Techniques for optic Disc and Cup Segmentation — A Review // Clinical Ophthalmology. 2022. P. 747—764. doi: 10.2147/OPTH.S348479.
  108. Ran A. R., Tham C. C., Chan P. P. et al. Deep Learning in Glaucoma with Optical Coherence Tomography: A Review // Eye. 2021. V. 35. No. 1. P. 188—201. doi: 10.1038/s41433-020-01191-5.
  109. Raja H., Akram M. U., Hassan T. et al. Glaucoma Detection Using Optical Coherence Tomography Images: A Systematic Review of Clinical and Automated Studies // IETE J. Research. 2022. P. 1—21. doi: 10.1080/03772063.2022.2043783.
  110. Perdomo Charry O. J., González F. A. A Systematic Review of Deep Learning Methods Applied to Ocular Images // Ciencia e Ingenieria Neogranadina. 2020. V. 30. No. 1. P. 9—26. doi: 10.18359/rcin.4242.
  111. Li L., Xu M., Liu H. et al. A Large-scale Database and a CNN Model for Attention-based Glaucoma Detection // IEEE Transactions on Medical Imaging. 2019. V. 39. No. 2. P. 413—424. doi: 10.1109/TMI.2019.2927226.
  112. Li L., Mai X., Xiaofei W. et al. Attention Based Glaucoma Detection: a Large-Scale Database and CNN Model // Proc. IEEE/CVF Conference on Computer Vision and Pattern Recognition. Long Beach, 2019. P. 10571—10580 (LAG Dataset).
  113. Kim M., Han J. C., Hyun S. H. et al. Medinoid: Computer-aided Diagnosis and Localization of Glaucoma Using Deep Learning // Applied Sciences. 2019. V. 9. No. 15. P. 3064. doi: 10.3390/app9153064.
  114. Liao W. M., Zou B. J., Zhao R. C. et al. Clinical Interpretable Deep Learning Model for Glaucoma Diagnosis //IEEE J. Biomedical and Health Informatics. 2019. V. 24. No. 5. P. 1405—1412. doi: 10.1109/JBHI.2019.2949075.
  115. Glaucoma Fundus Imaging Datasets // Kaggle URL: https://www.kaggle.com/datasets/arnavjain1/glaucoma-datasets (дата обращения: 13.04.2023).
  116. Thakoor K. A., Li X., Tsamis E. et al. Enhancing the Accuracy of Glaucoma Detection from OCT Probability Maps Using Convolutional Neural Networks // 41st Annual Intern. Conf. of the IEEE Engineering in Medicine and Biology Society (EMBC). Berlin: IEEE, 2019. P. 2036—2040. doi: 10.1109/EMBC.2019.8856899.
  117. Wang X., Xu M., Li L. et al. Pathology-aware Deep Network Visualization and its Application in Glaucoma Image Synthesis // Medical Image Computing and Computer Assisted Intervention (MICCAI 2019): 22nd Intern. Conf., Proceedings. Shenzhen, I 22. China: Springer International Publishing, 2019. P. 423—431. doi: 10.1007/978-3-030-32239-7_47.
  118. Martins J., Cardoso J. S., Soares F. Offline Computer-aided Diagnosis for Glaucoma Detection Using Fundus Images Targeted at Mobile Devices // Computer Methods and Programs in Biomedicine. 2020. V. 192. P. 105341. DOI: j.cmpb.2020.105341.
  119. Wang X., Chen H., Ran A. R. et al. Towards Multi-center Glaucoma OCT Image Screening with Semi-Supervised Joint Structure and Function Multi-task Learning // Medical Image Analysis. 2020. V. 63. P. 101695. DOI: j.media.2020.101695.
  120. García G., del Amor R., Colomer A. et al. Glaucoma Detection from Raw Circumpapillary Oct Images Using Fully Convolutional Neural Networks // IEEE Intern. Conf. on Image Processing (ICIP). Abu Dhabi: IEEE, 2020. P. 2526—2530. doi: 10.1109/ICIP40778.2020.9190916.
  121. Zhao R., Li S. Multi-indices Quantification of Optic Nerve Head in Fundus Image via Multitask Collaborative Learning // Medical Image Analysis. 2020. V. 60. P. 101593. doi: 10.1016/j.media.2019.101593.
  122. Huazhu F., Fei L., Orlando J. I. et al. Refuge: Retinal Fundus Glaucoma Challenge. IEEE Dataport. 2019. doi: 10.21227/tz6e-r977.
  123. Apon T. S., Hasan M. M., Islam A. et al. Demystifying Deep Learning Models for Retinal OCT Disease Classification using Explainable AI // IEEE Asia-Pacific Conference on Computer Science and Data Engineering (CSDE). Brisbane: IEEE, 2021. P. 1—6. doi: 10.1109/CSDE53843.2021.9718400.
  124. Chayan T I., Islam A., Rahman E. et al. Explainable AI based Glaucoma Detection using Transfer Learning and LIME // arXiv preprint arXiv:2210.03332. 2022.
  125. Deperlioglu O., Kose U., Gupta D. et al. Explainable Framework for Glaucoma Diagnosis by Image Processing and Convolutional Neural Network Synergy: Analysis with Doctor Evaluation // Future Generation Computer Systems. 2022. V. 129. P. 152—169. doi: 10.1016/j.future.2021.11.018.
  126. Zhang Z., Yin F. S., Liu J. et al. Origa-light: An Online Retinal Fundus Image Database for Glaucoma Analysis and Research // Annual Intern. Conf. of the IEEE Engineering in Medicine and Biology. Buenos Aires: IEEE, 2010. P. 3065—3068. doi: 10.1109/IEMBS.2010.5626137.
  127. Kamal M. S., Dey N., Chowdhury L. et al. Explainable AI for Glaucoma Prediction Analysis to Understand Risk Factors in Treatment Planning // IEEE Transactions on Instrumentation and Measurement. 2022. V. 71. P. 1—9. doi: 10.1109/TIM.2022.3171613.
  128. Glaucoma Detection // Kaggle URL: https://www.kaggle.com/datasets/sshikamaru/glaucomadetection? select=Fundus_Train_Val_Data (дата обращения: 13.04.2023).
  129. Quellec G., Lamard M., Conze P. H. et al. Automatic Detection of Rare Pathologies in Fundus Photographs Using Few-shot Learning // Medical Image Analysis. 2020. V. 61. P. 101660. doi: 10.1016/j.media.2020.101660.
  130. Massin P., Chabouis A., Erginay A. et al. OPHDIAT©: A Telemedical Network Screening System for Diabetic Retinopathy in the Île-de-France // Diabetes & Metabolism. 2008. V. 34. No. 3. P. 227—234. doi: 10.1016/j.diabet.2007.12.006.
  131. Jang Y., Son J., Park K. H. et al. Laterality Classification of Fundus Images Using Interpretable Deep Neural Network // J. Digital Imaging. 2018. V. 31. P. 923—928. doi: 10.1007/s10278-018-0099-2.
  132. Shen Y., Sheng B., Fang R. et al. Domain-invariant Interpretable Fundus Image Quality Assessment // Medical Image Analysis. 2020. V. 61. P. 101654. doi: 10.1016/j.media.2020.101654.
  133. Wang R., Fan D., Lv B. et al. OCT Image Quality Evaluation Based on Deep and Shallow Features Fusion Network // IEEE 17th Intern. Sympos. on Biomedical Imaging (ISBI). Iowa City: IEEE, 2020. P. 1561—1564. doi: 10.1109/ISBI45749.2020.9098635.
  134. Zhou K., Gao S., Cheng J. et al. Sparse-gan Sparsity-constrained Generative Adversarial Network for Anomaly Detection in Retinal Oct Image // IEEE 17th Intern. Sympos. on Biomedical Imaging (ISBI). Iowa City: IEEE, 2020. P. 1227—1231. doi: 10.1109/ISBI45749.2020.9098374.
  135. Singh A., Jothi Balaji J., Rasheed M. A. et al. Evaluation of Explainable Deep Learning Methods for Ophthalmic Diagnosis // Clinical Ophthalmology. 2021. P. 2573—2581. doi: 10.2147/OPTH.S312236.
  136. Kermany D., Zhang K., Goldbaum M. et al. Labeled Optical Coherence Tomography (oct) and Chest X-ray Images for Classification // Mendeley Data. 2018. V. 2. No. 2. P. 651. doi: 10.17632/rscbjbr9sj.
  137. Montavon G., Lapuschkin S., Binder A. et al. Explaining Nonlinear Classification Decisions with Deep Taylor Decomposition // Pattern Recognition. 2017. V. 65. P. 211—222. doi: 10.1016/j.patcog.2016.11.008.
  138. Yang H. L., Kim J. J., Kim J. H. et al. Weakly Supervised Lesion Localization for Age-related Macular Degeneration Detection Using Optical Coherence Tomography Images // PloS One. 2019. V. 14. No. 4. P. e0215076. doi: 10.1371/journal.pone.0215076.
  139. Meng Q., Hashimoto Y., Satoh S. How to Extract More Information with Less Burden: Fundus Image Classification and Retinal Disease Localization with Ophthalmologist Intervention // IEEE J. Biomedical and Health Informatics. 2020. V. 24. No. 12. P. 3351—3361. doi: 10.1109/JBHI.2020.3011805.
  140. Tan T. F., Dai P., Zhang X. et al. Explainable artificial intelligence in ophthalmology // Current Opinion in Ophthalmology. 2023. V. 34. No. 5. P. 422—430. doi: 10.1097/ICU.0000000000000983.

Дополнительные файлы

Доп. файлы
Действие
1. JATS XML
Скачать
2. Рис. 1. Вклад DARPA в ИИ [4]

Скачать (333KB)
Метаданные
3. Рис. 2. Объяснение для инженеров

Скачать (148KB)
Метаданные
4. Рис. 3. Объяснение для клиницистов

Скачать (144KB)
Метаданные
5. Рис. 4. Количество публикаций по годам

Скачать (111KB)
Метаданные
6. Рис. 5. Количество публикаций по годам с разбиением на глазные заболевания

Скачать (117KB)
Метаданные
7. Рис. 6. Алгоритм работы метода CAM

Скачать (76KB)
Метаданные
8. Рис. 7. Получение визуального объяснения с помощью метода CAM

Скачать (229KB)
Метаданные
9. Рис. 8. Получение визуального объяснения с помощью метода Grad-CAM

Скачать (178KB)
Метаданные
10. Рис. 9. Алгоритм работы метода LIME

Скачать (64KB)
Метаданные
11. Рис. 10. Алгоритм работы метода Kernel SHAP

Скачать (96KB)
Метаданные
12. Рис. 11. Стадии диабетической ретинопатии (DR): a) Without DR, b) Early DR, c) Mild DR, d) Moderate NPDR, e) Severe NPDR, f) Proliferative DR [56]

Скачать (363KB)
Метаданные
13. Рис. 12. Результаты использования ОИИ в классификации диабетической ретинопатии [94]

Скачать (342KB)
Метаданные
14. Рис. 13. Поражение глаза глаукомой [102]

Скачать (58KB)
Метаданные

© Российская академия наук, 2024