Explainable artificial intelligent method GRAD-CAM in medical images processing

Abstract

The reliability of modern deep learning models in the medical domain is frequently questioned due to their black-box nature. Post-hoc explainability techniques from the field of explainable artificial intelligence (XAI) offer a means to improve transparency and assess the reliability of predictions produced by convolutional neural networks. The research aims to investigate how XAI methods, specifically Gradient-weighted Class Activation Mapping (Grad-CAM), can provide reliable explanations for medical image classification. For this purpose, MRI images of brain were used to train a convolutional neural network to categorize the four stages of dementia in Alzheimer's disease. To make each prediction transparent, the areas of the brain which the trained network used to make the categorization on were highlighted using Grad CAM. The resulting relevance maps, heatmaps, were evaluated using two approaches: spatial comparison with anatomically defined brain regions associated with Alzheimer’s disease using atlas overlay, and quantitative faithfulness assessment using a deletion-based metric, where highly influential regions identified by Grad-CAM were progressively removed and the impact on classification confidence was measured.Надійність сучасних моделей глибокого навчання в медичній галузі часто ставиться під сумнів через їхню "чорну скриньку". Методи постфактумної пояснювальності з галузі пояснювального штучного інтелекту (XAI) пропонують засоби для підвищення прозорості та оцінки надійності прогнозів, отриманих згортковими нейронними мережами. Метою дослідження є вивчення того, як методи XAI, зокрема градієнтно-зважене картування активації класів (Grad-CAM), можуть забезпечити надійні пояснення для класифікації медичних зображень. Для цього МРТ-зображення мозку були використані для навчання згорткової нейронної мережі для категоризації чотирьох стадій деменції при хворобі Альцгеймера. Щоб зробити кожне прогнозування прозорим, області мозку, які навчена мережа використовувала для категоризації, були виділені за допомогою Grad-CAM. Отримані карти релевантності, теплові карти, були оцінені за допомогою двох підходів: просторове порівняння з анатомічно визначеними областями мозку, пов'язаними з хворобою Альцгеймера, за допомогою накладання атласу та кількісна оцінка достовірності за допомогою метрики на основі видалення, де високо впливові області, визначені Grad-CAM, були поступово видалені, а вплив на достовірність класифікації вимірювався. .