Efficiency substantiation for a synthetical method of constructing a multivariate polynomial regression given by a redundant representation
Вантажиться...
Дата
2023
DOI
https://doi.org/10.20998/2079-0023.2023.01.01
Науковий ступінь
Рівень дисертації
Шифр та назва спеціальності
Рада захисту
Установа захисту
Науковий керівник
Члени комітету
Видавець
Національний технічний університет "Харківський політехнічний інститут"
Анотація
In recent years, the authors in their publications have developed two different approaches to the construction of a multivariate polynomial (in particular, linear) regressions given by a redundant representation. The first approach allowed us to reduce estimation of coefficients for nonlinear terms of a multivariate polynomial regression to construction of a sequence of univariate polynomial regressions and solution of corresponding nondegenerate systems of linear equations. The second approach was implemented using an example of a multivariate linear regression given by a redundant representation and led to the creation of a method the authors called a modified group method of data handling (GMDH), as it is a modification of the well-known heuristic self-organization method of GMDH (the author of GMDH is an Academician of the National Academy of Sciences of Ukraine O. G. Ivakhnenko). The modification takes into account that giving a multivariate linear regression by redundant representation allows for construction of a set of partial representations, one of which has the structure of the desired regression, to use not a multilevel selection algorithm, but an efficient algorithm for splitting the coefficients of the multivariate linear regression into two classes. As in the classic GMDH, the solution is found using a test sequence of data. This method is easily extended to the case of a multivariate polynomial regression since the unknown coefficients appear in the multivariate polynomial regression in a linear way. Each of the two approaches has its advantages and disadvantages. The obvious next step is to combine both approaches into one. This has led to the creation of a synthetic method that implements the advantages of both approaches, partially compensating for their disadvantages. This paper presents the aggregated algorithmic structure of the synthetic method, the theoretical properties of partial cases and, as a result, the justification of its overall efficiency.
Протягом останніх років автори в своїх публікаціях паралельно розвивали два різних підходи до побудови багатовимірних поліноміальних, зокрема, лінійних регресій, заданих надлишковим описом. Перший підхід дозволяв знаходження оцінок коефіцієнтів при нелінійних членах багатовимірної поліноміальної регресії зводити до побудови послідовності одновимірних поліноміальних регресій та розв’язання відповідних невироджених систем лінійних рівнянь. Другий підхід був реалізований на прикладі багатовимірної лінійної регресії, заданої надлишковим описом, і привів до створення методу, названого авторами модифікованим методом групового урахування аргументів (МГУА), так як він є модифікацією широко відомого методу евристичної самоорганізації МГУА (автор МГУА – академік НАН України О. Г. Івахненко). Модифікація полягає в тому, що завдання багатовимірної лінійної регресії надлишковим описом дозволяє для побудови множини часткових описів, один з яких має структуру шуканої регресії, використовувати не багаторівневий селекційний алгоритм, а ефективний алгоритм розбиття коефіцієнтів багатовимірної лінійної регресії на два класи. Як і в класичному МГУА, розв’язок знаходиться за допомогою перевірочної послідовності даних. Цей метод легко поширюється на випадок багатовимірної поліноміальної регресії, так як невідомі коефіцієнти в багатовимірну поліноміальну регресію входять лінійно. Кожен з двох підходів має свої переваги і недоліки. Очевидним наступним кроком є поєднання обох підходів в один. Це призвело до створення синтетичного методу, який реалізує переваги обох підходів, частково компенсуючи їх недоліки. В цій роботі наведена агрегована алгоритмічна структура синтетичного методу, теоретичні властивості часткових випадків і, як наслідок, обґрунтування його ефективності в цілому.
Протягом останніх років автори в своїх публікаціях паралельно розвивали два різних підходи до побудови багатовимірних поліноміальних, зокрема, лінійних регресій, заданих надлишковим описом. Перший підхід дозволяв знаходження оцінок коефіцієнтів при нелінійних членах багатовимірної поліноміальної регресії зводити до побудови послідовності одновимірних поліноміальних регресій та розв’язання відповідних невироджених систем лінійних рівнянь. Другий підхід був реалізований на прикладі багатовимірної лінійної регресії, заданої надлишковим описом, і привів до створення методу, названого авторами модифікованим методом групового урахування аргументів (МГУА), так як він є модифікацією широко відомого методу евристичної самоорганізації МГУА (автор МГУА – академік НАН України О. Г. Івахненко). Модифікація полягає в тому, що завдання багатовимірної лінійної регресії надлишковим описом дозволяє для побудови множини часткових описів, один з яких має структуру шуканої регресії, використовувати не багаторівневий селекційний алгоритм, а ефективний алгоритм розбиття коефіцієнтів багатовимірної лінійної регресії на два класи. Як і в класичному МГУА, розв’язок знаходиться за допомогою перевірочної послідовності даних. Цей метод легко поширюється на випадок багатовимірної поліноміальної регресії, так як невідомі коефіцієнти в багатовимірну поліноміальну регресію входять лінійно. Кожен з двох підходів має свої переваги і недоліки. Очевидним наступним кроком є поєднання обох підходів в один. Це призвело до створення синтетичного методу, який реалізує переваги обох підходів, частково компенсуючи їх недоліки. В цій роботі наведена агрегована алгоритмічна структура синтетичного методу, теоретичні властивості часткових випадків і, як наслідок, обґрунтування його ефективності в цілому.
Опис
Ключові слова
univariate polynomial regression, multivariate polynomial regression, redundant representation, least squares method, test sequence, repeated experiment, одновимірна поліноміальна регресія, багатовимірна поліноміальна регресія, надлишковий опис, метод найменших квадратів, перевірочна послідовність, повторний експеримент
Бібліографічний опис
Pavlov A. A. Efficiency substantiation for a synthetical method of constructing a multivariate polynomial regression given by a redundant representation / A. A. Pavlov, M. N. Holovchenko, V. V. Drozd // Вісник Національного технічного університету "ХПІ". Сер. : Системний аналіз, управління та інформаційні технології = Bulletin of the National Technical University "KhPI". Ser. : System analysis, control and information technology : зб. наук. пр. – Харків : НТУ "ХПІ", 2023. – № 1 (9). – С. 3-9.