в общ вид и е напълно приложима и за многомерни системи с малък брой входове и изходи, каквито често се срещат в техниката. Акцент в труда е автоматиз

Препис

1

2 в общ вид и е напълно приложима и за многомерни системи с малък брой входове и изходи, каквито често се срещат в техниката. Акцент в труда е автоматизирането на процеса на идентификация. Дискутират се начини за изпълнение на дейностите и за взимане на решения по време на идентификацията без човешка намеса. При обекти с голяма размерност, при наличие на висока степен на неопределеност в структурата на модела, при голям брой наблюдения, както и в други случаи, уточняването на методологията за изграждане на модела и впоследствие автоматизираното й изпълнение е единственият път за формиране на модел в разумен период от време. Постановката, при която дадена методология се изпълнява многократно, като след всяко изпълнение, параметрите й (в смисъл на прагове на значимост, максимален брой параметри, максимален ред на полиноми, праг за сингулярните стойности на матрица, подлежаща на обръщане, и др.) се донастройват, е свързана с търсенето на отговори на различни въпроси, от тези, при които методологията се изпълнява еднократно, с активното участие на изследователя. При наличието на големи масиви от данни възниква въпросът за тяхната бърза обработка. Предложена е реализация на методи за оценяване на параметри, като в постановката на задачата и в крайното й решение участват тензори от трети ред. Това дава основание за използването на графичните процесори на видеокартите, които са оптимизирани (и хардуерно) за работа с тензори до трети ред. Така става възможно едновременно да се изпълняват хиляди паралелни процеси при изчисляването на оптималните оценки на параметрите на модела. Това води до значително намаляване на времето за избор на структурата на модела. Описаната, в монографията, идея за представяне на оценителите на параметри с помощта на тензори, както и въведеното повекторно свиващо умножение между тензор и матрица, може да се използва за реализация и на други методи за оценяване на параметри, с което да се постигне значително ускоряване на цялостния процес на идентификация. Резюмета на публикации, имащи отношение към монографичния труд Статии в рецензирани списания 2. Efremov, A. General form of a class of multivariable regression models. Information Technologies and Control, Sofia, Bulgaria, 2014, Accepted for publication В статията са разгледани възможните представяния на многомерните регресионни модели, които на определен етап в моделирането може да се приемат за линейни по параметри. Това са двете групи представяния в общ вид: с матрица и с вектор на параметрите. Описани са техните свойства и приложение, както по време на идентификацията, така и от гледна точка на допълнителни изисквания към моделите. 3. Efremov, A. Linear approach for parameters estimation of multivariable models in a parameter matrix form. Information Technologies and Control, Sofia, Bulgaria, 2014, Accepted for publication В статията е предложена реализация на методи за оценяване на параметри на многомерни регресионни модели с използване на тензори от трети ред. Тези реализации са подходящи за изпълнение от графични процесори (GPU Graphics

3 Processing Unit). С тяхна помощ е възможно едновременно да се изпълняват хиляди паралелни процеси, което води до значително повишаване на ефективността на методите за оценяване на параметри, а също и на методите за избор на структурата на модела. Подходът с използване на тензори може да се използва за реализация и на други методи за оценяване на параметри, като е удачен, особено когато източникът на информация са големи масиви от данни. Други публикации 4. Efremov, A. Least squares and weighted least squares for multivariable models represented in a parameter matrix form. International Conference of Automatics and Informatics, pp. I Sofia, Bulgaria, 3 7 October, 2013 Докладът предшества статията Linear approach for parameters estimation of multivariable models in a parameter matrix form. Акцентът в доклада са методът на най-малките квадрати и този на претеглените най-малки квадрати, като са засегнати въпросите за бързодействието на предложените реализации, без да се достига до обобщението в споменатата статия. 5. Efremov, A. Generalized representations multivariable linear parameterized models. International Conference of Automatics and Informatics, pp. I-233 I-236. Sofia, Bulgaria, 3 7 October, 2013 Докладът предшества статията General form of a class of multivariable regression models като основно се дискутират представянията на моделите, които са линейни по параметри. В този смисъл разглежданията в споменатата статия са разширени и за модели, които са нелинейни по параметри. 6. Ефремов, А., Атанасов, А., Томова, Ф., Михайлова, Д. Идентификация на пазарни системи с използване на стъпкова регресия. Национална научно-техническа конференция с международно участие Automation in Mining Industry and Metallurgy, БУЛКАМК, pp , ISSN , октомври 2011 В труда е описана автоматизирана методология за идентификация на обекти с много голям брой входове и изходи. Тази методология е реализирана програмно и е използвана за изграждане на модели на търсенето, използвани за прогнозиране на динамичното поведение на хипермаркети, при които потенциалните входовете са десетки милиони, и изходите често са около Построяването на модел на системи със споменатата размерност е практически невъзможно, ако в процеса на идентификация е застъпено активното участие на експерт, по начина, характерен за стандартното експериментално моделиране. 7. Efremov, A. System Identification Based on Stepwise Regression for Dynamic Market Representation. International Conference on Data Mining and Knowledge Engineering, Rome, Italy, Volume 64, 2, pp , April, 2010 Основен акцент в доклада е използването на метода на стъпковата регресия, както и числените аспекти при реализацията на оценителите на параметрите на многомерни модели. Представени са и резултати от изследвания с използване на реални данни,

4 които са достъпни и използвани от много автори, работещи в областта на пазарните системи. Важен извод от изследванията е, че отчитането на динамиката в поведението на пазарните обекти може значително да подобри достоверността на модела на търсенето. Статии в рецензирани списания Резюмета на научни трудове извън горните 8. Efremov, A. Recurrent Artificial Neural Networks in Market and Finance Sectors. Proceedings of Technical University of Sofia, pp , volume 63, book 3, ISSN , 2013 В труда е представен алгоритъм за обучение на невронни мрежи, с помощта на които е възможно да се опише динамиката в поведението на обектите. Разработката е насочена към пазарния сектор и по-конкретно към софтуерните продукти в компанията Експириън, които се използват за разработката на аналитични решения. В тази основна бизнес линия на компанията, а и въобще в пазарния сектор, в момента, има нужда от такава функционалност. Методът за обучение с обратно разпространение на грешката е реализиран така, че да е ефективен за неговото приложение за пазарни системи, което се характеризира с големи набори от данни (както като брой наблюдения, така и като брой фактори). 9. Efremov, A. A Large Scale Numerically Stable Algorithm for Training of Neural Networks. Proceedings of Technical University of Sofia, pp , volume 63, book 3, ISSN , 2013 В статията е описана разработената от автора високоефективна реализация на метода Гаус-Нютон за обучение на директни невронни мрежи за софтуерния продукт Model Development Studio (MDS) на компанията Експириън. Осигуряването на числена устойчивост на алгоритъма и намаляването на броя обхождания на набора от данни, се постига с декомпозицията по собствени стойности на апроксимацията на Хесиана. Вместо обхождане на данните спрямо индекса на наблюденията (по редове), наличните стойности се обхождат по фактори (по стълбове). Тъй като броят на редовете е значително по-голям от броя на стълбовете, алгоритъмът е подходящ при набори от данни с много голям брой наблюдения (понякога десетки милиони). В случая всеки фактор се съхранява в отделен файл, а стойностите му са записани последователно в паметта). Последното води до значително повишаване на ефективността на алгоритъма. Използването на тензори от трети ред допълнително ускорява на процеса на обучение, когато се използват графични процесори. 10. Efremov, A. An Application of Artificial Neural Networks in the Credit Risk Management Systems. Proceedings of Technical University of Sofia, volume 62, book 2, ISSN , International Conference Automatics 2012, Faculty of Automatics, Sozopol, 2012 В труда е представен методът за обучение с обратно разпространение на грешката за изграждане на директни невронни мрежи. За целта се използва реализация на метода за оптимизация Гаус-Нютон. Акцент е приложението на метода за разработване на

5 аналитични решения, които компанията Експириън предоставя на своите клиенти. По-конкретно се обсъжда приложението на невронните мрежи за оценяване на кредитния риск. 11. Efremov, A., Todorov, A. Logistic Regression and it s Application in the Credit Risk Assessment. Proceedings of Technical University of Sofia, volume 62, book 2, ISSN , International Conference Automatics 2012, Faculty of Automatics, Sozopol, 2012 Логистичните регресионни модели намират приложение при описанието на връзката между множество от фактори и изходни величини, имащи смисъл на вероятности. Разработката, описана в статията, е приложена в софтуера на Експириън MDS и се използва при изграждането на: модели на риска; модели описващи вероятността клиент да откликне на предложение; модели на вероятността клиент да промени текущия си статус (добър, лош, неопределен клиент) и др. За оценяване на параметрите на модела се прилага методът на максималното правдоподобие, като за неговото числено изпълнение се използва методът Нютон-Рафсън, както и неговите модификации с избор на стъпката с метод за линейно търсене и с полиномна интерполация. Анализирано е и приложението на методи от първи ред (като методът на най-стръмното спускане) в конкретната приложна област. 12. Ефремов, А., Атанасов, А., Томова, Ф., Ефремова, Д. Комбинирана групова стъпкова регресия и приложението й в пазарния сектор. Списание Автоматика и Информатика, книжка 1/2012, ISSN , София, 2012 В статията, която има обзорен характер, се дискутират особеностите на метода на комбинираната стъпкова регресия. За отчитане на изискванията към структурата на модела, наложени от търговски организации, е разработен т.нар. групов метод, при който факторите постъпват в модела (при уточняване на структурата му) не поотделно, а на групи. Такива изисквания възникват, когато се използват категоризирани величини, които са декомпозирани на набор от фиктивни променливи. Ако данните за такива величини се купуват, възможно е търговците да предпочетат, ако в модела участва една фиктивна променлива, то и останалите фиктивни променливи да бъдат добавени като фактори в модела. Така се използва по-пълноценно информацията във вече закупените характеристики. 13. Ефремов А., Атанасов А., Томова Ф., Ефремова Д., Групова стъпкова регресия за моделиране на пазарни системи, Известия на Съюза на учените Сливен, том 20/2012, ISSN , 2012 В статията са описани аспекти от методология за автоматизирано формиране на модел на пазарна система, в която се използва методът на груповата стъпкова регресия (по време на избора на структурата на модела факторите се включват/изключват на групи). Въпреки, че конкретното приложение е в пазарния сектор на индустрията, разработеният програмен модул може да се използва и в други области, където целта е да се извлече информация за динамиката в поведението на съответните обекти. Отчетени са числените аспекти при оценяването на параметри и са представени различни показатели на качеството на модела, които се използват при избора на структурата на модела или при неговата валидация.

6