Automated penetration testing method using deep machine learning technology

Abstract

The article developed a method for automated penetration testing using deep machine learning technology. The main purpose of the development is to improve the security of computer systems. To achieve this goal, the analysis of existing penetration testing methods was carried out and their main disadvantages were identified. They are mainly related to the subjectivity of assessments in the case of manual testing. In cases of automated testing, most authors confirm the fact that there is no unified effective solution for the procedures used. This contradiction is resolved using intelligent methods of analysis. It is proposed that the developed method be based on deep reinforcement learning technology. To achieve the main goal, a study was carried out of the Shadov system's ability to collect factual data for designing attack trees, as well as the Mulval platform for generating attack trees. A method for forming a matrix of cyber intrusions using the Mulval tool has been developed. The Deep Q - Lerning Network method has been improved for analyzing the cyber intrusion matrix and finding the optimal attack trajectory. In the study, according to the deep reinforcement learning method, the reward scores assigned to each node, according to the CVSS rating, were used. This made it possible to shrink the attack trees and identify an attack with a greater likelihood of occurring. A comparative study of the automated penetration testing method was carried out. The practical possibility of using the developed method to improve the security of a computer system has been revealed.У статті розроблено метод автоматизованого тестування на проникнення з використанням технології глибокого машинного навчання. Основна мета розробки - підвищення безпеки комп'ютерних систем. Для досягнення поставленої мети було проведено аналіз існуючих методів тестування на проникнення і виявлені їх основні недоліки. В основному вони пов'язані з суб'єктивністю оцінок в разі ручного тестування. У разі автоматизованого тестування більшість авторів підтверджують той факт, що не існує єдиного ефективного вирішення для використовуваних процедур. Це протиріччя вирішується за допомогою інтелектуальних методів аналізу. Пропонується, що розроблений метод був заснований на технології глибокого навчання з підкріпленням. Для досягнення основної мети було проведено дослідження здатності системи Shadov збирати фактичні дані для побудови дерев атак, а також платформи Mulval для генерації дерев атак. Розроблено метод формування матриці кібервторгнень за допомогою інструменту Mulval. Метод Deep Q - Lerning Network був поліпшений для аналізу матриці кібервторгнень і пошуку оптимальної траєкторії атаки. У дослідженні, відповідно до методу глибокого навчання з підкріпленням, використовувалися бали винагороди, дані кожному вузлу відповідно до рейтингу CVSS. Це дозволило зменшити дерева атак і ідентифікувати атаку з більшою ймовірністю. Проведено порівняльне дослідження автоматизованого методу тестування на проникнення. Виявлено практична можливість використання розробленого методу для підвищення безпеки комп'ютерної системи.