System analysis of knowledge interpretation methods in modern clinical decision support systems for healthcare

Abstract

The article presents a systems-level analysis of knowledge interpretation methods in modern clinical decision support systems (CDSS), which are increasingly used to support diagnosis, risk stratification, patient monitoring, and treatment planning. The relevance of the study is determined by a persistent contradiction: the improvement in predictive performance of machine learning and deep learning models does not automatically translate into clinically meaningful interpretation, semantic validity, or trust among healthcare professionals. In safetycritical medical environments, clinicians need not only a system output but also a justification that can be connected with clinical concepts, professional reasoning, local protocols, temporal patient trajectories, and safety requirements. The study argues that knowledge interpretation in CDSS should be understood not as an isolated explainable AI technique, but as a complex system property. This property emerges at the intersection of knowledge representation, semantic grounding, reasoning and inference, explanation mode, and governance of the system lifecycle. A five-axis taxonomy of knowledge interpretation is proposed. It includes representation, semantic grounding, inference, explanation, and governance/reporting. The article also proposes an evaluation framework for interpretation quality based on predictive validity, calibration, semantic coherence, clinical NLP’s contextual correctness, workflow appropriateness, and trust/adoption among healthcare workers. Sepsisrelated early warning CDSS are used as an illustrative exemplar because this domaincombines high clinical urgency, risk prediction, workflow-sensitive alerts, and significant evidence on post-deployment limitations. The analysis demonstrates that model-centric explainability is insufficient when explanations are not semantically grounded, not validated across settings, or not aligned with the clinician’s workflow. The results support the development of hybrid and neuro-symbolic CDSS in which predictive components are constrained by clinical ontologies, transparent rules, and continuous post-deployment monitoring. The proposed framework may be useful to researchers, developers, clinicians, and healthcare organizations seeking to design safer, more interpretable AI-enabled decision-support systems.В статті здійснено системний аналіз методів інтерпретації знань у сучасних клінічних системах підтримки прийняття рішень, які дедалі частіше икористовуються для діагностичної підтримки, оцінювання ризиків, моніторингу стану пацієнтів і планування лікувальних дій. Актуальність дослідження зумовлена тим, що зростання прогностичної точності моделей машинного та глибинного навчання не завжди супроводжується підвищенням клінічної зрозумілості, семантичної коректності та практичної довіри до отриманих рекомендацій. В критично важливих медичних середовищах користувачеві потрібна не лише відповідь системи, а й обґрунтування, яке може бути співвіднесене з клінічними поняттями, професійним досвідом лікаря, локальними протоколами, часовою динамікою стану пацієнта та вимогами безпеки. В роботі обґрунтовано положення про те, що інтерпретація знань у CDSS має розглядатися не як окрема техніка пояснюваного штучного інтелекту, а як комплексна системна властивість. Вона формується на перетині способу репрезентації знань, семантичного заземлення даних, логіки міркування, форми пояснення та механізмів управління життєвим циклом системи. Запропоновано п’ятиосьову таксономію інтерпретації знань, що охоплює репрезентацію, семантичне обґрунтування, висновок, пояснення, а також управління, звітність і моніторинг. Окрему увагу приділено оцінюванню якості інтерпретації за критеріями прогностичної валідності, калібрування, семантичної узгодженості, контекстної коректності клінічної обробки тексту, відповідності робочому процесу та довіри медичних працівників. Як ілюстративний приклад використано досвід систем раннього попередження сепсису, що демонструє розрив між формальною пояснюваністю моделі та клінічно дієвою інтерпретацією. Запропонована структура може бути корисною для дослідників, розробників, клініцистів та організацій охорони здоров’я, які прагнуть розробити безпечніші та більш інтерпретовані системи підтримки рішень на основі штучного інтелекту.