Temporal representation of causality in the construction of explanations in intelligent systems

Abstract

The subject matter of the article are the processes of constructing explanations in intelligent systems. Objectives. The goal is to develop a temporal representation of causality in order to provide a description of the process of the intelligent system as part of the explanation, taking into account the temporal aspect. As a result, it providesan opportunity to increase user confidence in the results of the intelligent system. Tasks: structuring of causal dependences taking into account the decision-making process in the intellectual system and its state; development of a temporal model of causality for explanations in the intellectual system. The approaches usedare: approaches to the description of causality between the elements of the system on the basis of causal relationships, on the basis of probabilistic dependencies, as well as on the basis of the physical interaction of its elements. The following resultswere obtained. The structuring of causal dependences for construction of explanations with allocation of causal, probabilistic communications, and also dependences between acondition of intellectual system and the recommendations received in this system is executed. A model of causal dependences inan intelligent system is proposed to construct explanations for the recommendations of this system. Conclusions. The scientific novelty of the results is as follows. The model of causal dependences which are intended for construction of the explanation in intellectual system is offered. This explanation consists of a chain of causal relationships that reflect the sequence of decision-making over time. The model covers the limitations and conditions of the formation of the result of the intellig ent system. Constraints are represented by causal relationships between key performance actions. Restrictions must be true for all explanations where they are used. Conditions determine the probable relationships between such actions in the intellectual system. The model takes into account the influence of key parameters of the state of the intelligent system on the achievement ofthe result. The presented model provides an explanation with varying degrees of detail based on the definition of the temporalsequence of actions, as well as taking into account changes in the states of the intelligent system.Предметом вивчення в статті є процеси побудови пояснень в інтелектуальних системах. Метою є розробка темпорального представлення каузальності для того, щоб забезпечити побудову опису процесу роботи інтелектуальної системи у складі пояснення з урахуванням тем порального аспекту. Як наслідок, це дає можливість підвищити довіру користувачів до результатів роботи інтелектуальної системи. Завдання: структуризація каузальних залежностей з урахуванням відмінностей процесу прийняття рішень в інтелектуальній системі та її стану; розробка темпоральної моделі каузальності для пояснень в інтелектуальній системі. Використовуваними підходами є: підходи до опису каузальності між елементами системи на основі причинно-наслідкових зв'язків, на основі імовірнісних залежностей, а також на основі фізичної взаємодії її елементів. Отримані наступні результати. Виконано структуризацію каузальних залежностей для побудови пояснень з виділенням причинно-наслідкових, імовірнісних зв'язків, а також залежностей між станом інтелектуальної системи та отриманими в цій системі рекомендаціями. Запропоновано модель каузальних залежностей в інтелектуальній системі для побудови пояснень щодо пропозицій цієї системи. Висновки. Наукова новизна отриманих результатів полягає в наступному. Запропоновано модель каузальних залежностей, що призначені для побудови пояснення в інтелектуальній системі. Таке пояснення складається з ланцюжка каузальних залежностей, що відображають послідовність прийняття рішення у часі. Модель охоплює обмеження та умови формування результату інтелектуальної системи. Обмеження представлені причинно-наслідковими залежностями між ключовими діями з досягнення результату. Обмеження мають бути істинними для всіх пояснень, де вони використовуються. Умови визначають ймовірні залежності між такими діями в інтелектуальній системі. У моделі враховується вплив ключових параметрів стану інтелектуальної системи на досягнення результату. Представлена модель забезпечує побудову пояснення з різним ступенем деталізації на основі визначення темпоральної послідовності дій, а також з врахуванням зміни станів інтелектуальної системи.