Побудова можливісних причинно-наслідкових залежностей між класами еквівалентності даних в інтелектуальній інформаційній системі

Abstract

Предметом дослідження є процеси формування пояснень щодо прийняття рішень в системі штучного інтелекту. Пояснення в таких системах дають можливість зробити прозорим та зрозумілим процес формування рішень для користувача і, як наслідок, підвищити довіру користувача до отриманих результатів. Мета роботи полягає у розробці підходу до побудови ймовірнісної каузальної моделі пояснення з урахуванням класів еквівалентності вхідних, проміжних і результуючих даних. Вирішення цієї задачі створює умови для побудови пояснень у формі причинно-наслідкових залежностей на основі доступної інформації про властивості вхідних даних, а також про властивості отриманих у системі штучного інтелекту результатів. Для досягнення мети вирішуються такі задачі: розробка моделі каузальної залежності між класами еквівалентності вхідних та вихідних даних; розробка методів побудови класів еквівалентності даних процесу прийняття рішень та методу побудови причинно-наслідкового представлення пояснення. Запропоновано ймовірнісну модель каузальної залежності, що містить причиннонаслідковий зв’язок між класами еквівалентності вхідних або проміжних та результуючих даних, отриманих у процесі прийняття рішень в системі штучного інтелекту. Цей зв’язок враховує оцінки можливості і необхідності такої залежності. Модель створює умови для пояснення можливих причин отриманого рішення. Запропоновано комплекс методів побудови класів еквівалентності даних процесу прийняття рішень та побудови причинно-наслідкового представлення пояснення, що встановлює каузальний зв’язок між класами еквівалентності. При побудові класів еквівалентності встановлюються відношення обов’язкового і необов’язкового уточнення даних, вимоги або виключення даних, а також кон’юнкції даних. При побудові причинно-наслідкового представлення пояснення розраховується можливість та обмеження необхідності такої залежності, що дає можливість побудувати пояснення на основі доступної інформації про отримані рішення та вхідні і проміжні дані, які були використані для формування цих рішень.The subject of this research is the processes involved in generating explanations for decision-making in artificial intelligence systems. Explanations in such systems enable the decision-making process to be transparent and comprehensible for the user, thereby increasing user trust in the obtained results. The aim of this work is to develop an approach for constructing a probabilistic causal explanation model that takes into account the equivalence classes of input, intermediate, and resulting data. Solving this problem creates conditions for building explanations in the form of causal relationships based on the available information about the properties of input data as well as the properties of the results obtained in the artificial intelligence system. To achieve this aim, the following tasks are addressed: developing a causal dependency model between the equivalence classes of input and output data; developing methods for constructing equivalence classes of data in the decision-making process and a method for constructing causal explanations. A probabilistic model of causal dependency is proposed, which includes a causal relationship between the equivalence classes of input or intermediate and resulting data obtained during the decision-making process in the artificial intelligence system. This relationship considers the estimates of the possibility and necessity of such a dependency. The model creates conditions for explaining the possible causes of the obtained decision. A set of methods for constructing equivalence classes of data in the decision-making process and for constructing causal explanations is proposed, establishing a causal relationship between the equivalence classes. When constructing equivalence classes, relations of mandatory and optional data refinement, requirements or exclusions of data, as well as data conjunctions, are established. When constructing causal explanations, the possibility and limitations of the necessity of such a dependency are calculated, allowing explanations to be built based on the available information about the obtained decisions and the input and intermediate data used to form these decisions.