Модель пояснення в інтелектуальній системі на локальному, груповому та глобальному рівнях деталізації
Вантажиться...
Дата
2022
DOI
doi.org/10.20998/2079-0023.2022.02.15
Науковий ступінь
Рівень дисертації
Шифр та назва спеціальності
Рада захисту
Установа захисту
Науковий керівник
Члени комітету
Видавець
Національний технічний університет "Харківський політехнічний інститут"
Анотація
Предметом дослідження є процеси формування пояснень в інтелектуальних інформаційних системах. В сучасних інтелектуальних системах використовуються методи машинного навчання. Процес отримання рішення, сформованих на основі таких методів, є зазвичай непрозорим для користувача. Внаслідок такої непрозорості користувач може не довіряти тим рішенням, які запропонувала інтелектуальна система. Це знижує ефективність її використання. Для підвищення прозорості рішень використовуються пояснення. Пояснення представляється знаннями щодо причин формування результату в інтелектуальній системі, а також щодо причин окремих дій у процесі формування результату. Також пояснення може містити знання щодо впливу окремих функцій на отриманих інтелектуальною системою результат. Тому пояснення доцільно формувати на різних рівнях деталізації з тим, щоб показати як узагальнені причини та впливи на отримане рішення, так і причини вибору окремих проміжних дій. Мета роботи полягає в розробці узагальненої моделі пояснення з урахуванням станів та рівнів деталізації процесу прийняття рішення в інтелектуальній системі для побудови пояснень на основі відомих даних щодо послідовності станів та властивостей цих станів. Для досягнення мети вирішуються такі задачі: структуризація властивостей пояснень; визначення можливостей підходів до побудови пояснень на основі станів та структури процесу формування рішення, а також на основі вхідних даних; побудова моделі пояснення. Висновки. Запропоновано узагальнену модель пояснення в інтелектуальній системі для локального, групового та глобального рівнів деталізації процесу прийняття рішення .Модель представляється упорядкованою послідовністю зважених залежностей між подіями або станами процесу прийняття рішення. Модель орієнтовано на представлення можливості в рамках глобального пояснення виділити локальне пояснення та представити ланцюжок групових пояснень між подіями отримання вхідних даних та результуючого рішення. У практичному плані запропонована модель призначена для побудови пояснень з використанням підходів на основі спрощення процесу функціонування інтелектуальної системи та на основі виділення впливу окремих функцій та дій на кінцевий результат. Додаткові можливості моделі пов’язані із деталізацією подій процесу прийняття рішення з виділення окремих змінних, які характеризують стан цього процесу, що дає можливість формувати пояснення на основі використання відомих концепцій та понять у предметній області.
The subject of research is the process of formation of explanations in intellectual information systems. Machine learning methods are used in modern intelligent systems. The process of obtaining the solution formed on the basis of such methods is usually opaque to the user. As a result of such opacity, the user may not trust the solutions proposed by the intelligent system. This reduces the efficiency of its use. Explanations are used to increase the transparency of decisions. The explanation is represented by knowledge about the reasons for the formation of the result in the intellectual system, as well as about the reasons for individual actions in the process of formation of the result. Also, the explanation may contain knowledge about the influence of individual functions on the results obtained by the intelligent system. Therefore, it is advisable to form an explanation at different levels of detail in order to show both the generalized reasons and effects on the obtained decision, as well as the reasons for choosing individual intermediate actions. The purpose of the work is to develop a generalized model of explanation considering the states of the decision-making process in an intelligent system to build explanations based on known data regarding the sequence of states and the properties of these states. To achieve the goal, the following tasks are solved: structuring the properties of explanations; determining the possibilities of approaches to building explanations based on the states and structure of the decision-making process, as well as on the basis of input data; construction of an explanatory model. Conclusions. A generalized model of explanation in an intelligent system for local, group and global levels of detail of the decision-making process is proposed. The model is represented by an ordered sequence of weighted dependencies between events or states of the decision-making process. The model is focused on presenting the possibility to highlight a local explanation within the framework of a global explanation and to present a chain of group explanations between the events of obtaining input data and the resulting decision. In practical terms, the proposed model is intended for the construction of explanations using approaches based on the simplification of the process of functioning of the intelligent system and on the basis of highlighting the influence of individual functions and actions on the final result. Additional capabilities of the model are related to the detailing of the events of the decision-making process from the selection of individual variables that characterize the state of this process, which makes it possible to form an explanation based on the use of known concepts and concepts in the subject area.
The subject of research is the process of formation of explanations in intellectual information systems. Machine learning methods are used in modern intelligent systems. The process of obtaining the solution formed on the basis of such methods is usually opaque to the user. As a result of such opacity, the user may not trust the solutions proposed by the intelligent system. This reduces the efficiency of its use. Explanations are used to increase the transparency of decisions. The explanation is represented by knowledge about the reasons for the formation of the result in the intellectual system, as well as about the reasons for individual actions in the process of formation of the result. Also, the explanation may contain knowledge about the influence of individual functions on the results obtained by the intelligent system. Therefore, it is advisable to form an explanation at different levels of detail in order to show both the generalized reasons and effects on the obtained decision, as well as the reasons for choosing individual intermediate actions. The purpose of the work is to develop a generalized model of explanation considering the states of the decision-making process in an intelligent system to build explanations based on known data regarding the sequence of states and the properties of these states. To achieve the goal, the following tasks are solved: structuring the properties of explanations; determining the possibilities of approaches to building explanations based on the states and structure of the decision-making process, as well as on the basis of input data; construction of an explanatory model. Conclusions. A generalized model of explanation in an intelligent system for local, group and global levels of detail of the decision-making process is proposed. The model is represented by an ordered sequence of weighted dependencies between events or states of the decision-making process. The model is focused on presenting the possibility to highlight a local explanation within the framework of a global explanation and to present a chain of group explanations between the events of obtaining input data and the resulting decision. In practical terms, the proposed model is intended for the construction of explanations using approaches based on the simplification of the process of functioning of the intelligent system and on the basis of highlighting the influence of individual functions and actions on the final result. Additional capabilities of the model are related to the detailing of the events of the decision-making process from the selection of individual variables that characterize the state of this process, which makes it possible to form an explanation based on the use of known concepts and concepts in the subject area.
Опис
Ключові слова
пояснення, інтелектуальна інформаційна система, залежності, рівні деталізації пояснень, причинно-наслідкові зв’язки, explanation, intelligent information system, dependencies, levels of explanation detail, causal relationships
Бібліографічний опис
Чалий С. Ф. Модель пояснення в інтелектуальній системі на локальному, груповому та глобальному рівнях деталізації / С. Ф. Чалий, В. О. Лещинський // Вісник Національного технічного університету "ХПІ". Сер. : Системний аналіз, управління та інформаційні технології = Bulletin of the National Technical University "KhPI". Ser. : System analysis, control and information technology : зб. наук. пр. – Харків : НТУ "ХПІ", 2022. – № 2 (8). – С. 100-105.