Екстерналізація неявних знань в ментальній моделі користувача системи штучного інтелекту - Чалий, Сергій Федорович; Лещинська, Ірина Олександрівна (Національний технічний університет "Харківський політехнічний інститут", 2024)
Предметом дослідження є процеси формування ментальної моделі користувача в системах штучного інтелекту. Побудова такої моделі пов'язана з вирішенням проблеми непрозорості та незрозумілості процесу прийняття рішень в таких системах для кінцевих користувачів. Щоб вирішити цю проблему, користувач системи має отримати пояснення щодо отриманого рішення. Пояснення повинно враховувати сприйняття рішення та процесу його прийняття користувачем, що формалізується в рамках ментальної моделі користувача. Ментальна модель враховує використання користувачем явних та неявних знань, останні з яких зазвичай не мають формального представлення. Екстерналізація таких знань забезпечує їх перетворення у формальну форму. Метою роботи є розробка підходу до екстерналізації неявних знань на основі виділення патернів та каузальних залежностей для процесу прийняття рішень в інтелектуальній системі при побудові ментальної моделі користувача. Для досягнення мети вирішуються такі завдання: розробка ментальної моделі користувача системи штучного інтелекту, яка враховує як явні, так і неявні знання, та розробка підходу до екстерналізації неявних знань користувача системи штучного інтелекту. Запропоновано ментальну модель користувача системи штучного інтелекту, яка враховує як явні, так і неявні знання користувача. Модель враховує зв'язки між явними та неявними знаннями користувача щодо системи штучного інтелекту, процесу прийняття рішень, способу використання рішень та загальної концепції інтелектуальної системи. Це створює умови для екстерналізації неявних знань користувача та подальшого використання цих знань при формуванні пояснень щодо процесу прийняття рішень у системі штучного інтелекту. Запропоновано підхід до екстерналізації знань зі статистичного та семантичного шарів ментальної моделі користувача. У практичному плані підхід дозволяє перевести в явну форму умови та обмеження щодо формування та використання рішень у системі штучного інтелекту.

The subject of the study is the processes of forming the user's mental model in artificial intelligence systems. The construction of such a model is associated with solving the problem of opacity and incomprehensibility of the decision-making process in such systems for end users. To solve this problem, the system user needs to receive an explanation of the obtained decision. The explanation should take into account the user's perception of the decision and the decision-making process, which is formalized within the user's mental model. The mental model considers the user's use of explicit and implicit knowledge, the latter of which usually lacks formal representation. The externalization of such knowledge ensures its transformation into a formal form. The aim of the work is to develop an approach to the externalization of implicit knowledge based on identifying patterns and causal dependencies for the decision-making process in an intelligent system when constructing the user's mental model. To achieve this goal, the following tasks are solved: developing a user's mental model of an artificial intelligence system that takes into account both explicit and implicit knowledge and developing an approach to the externalization of implicit knowledge of the user of the artificial intelligence system. A user's mental model of an artificial intelligence system that accounts for both explicit and implicit knowledge of the user is proposed. The model considers the connections between the user's explicit and implicit knowledge regarding the artificial intelligence system, the decision-making process, the method of using the decisions, and the general concept of the intelligent system. This creates conditions for the externalization of the user's implicit knowledge and the subsequent use of this knowledge in forming explanations regarding the decision-making process in the artificial intelligence system. An approach to the externalization of knowledge from the statistical and semantic layers of the user's mental model is proposed. In practical terms, the approach makes it possible to translate into explicit form the conditions and constraints regarding the formation and use of decisions in the artificial intelligence system.
Externalization of tacit knowledge in the mental model of a user of an artificial intelligence system
Keywords: інформаційні технології; інтелектуальні системи; прийняття рішень; когнітивна психологія; каузальні залежності; information technologies; intelligent systems; decision making; user knowledge; mental models