Microsoft PowerPoint - T_Balabanov

Препис

1 ПРОГНОЗИРАНЕ НА ВРЕМЕВИ РЕДОВЕ С ИЗКУСТВЕНИ НЕВРОННИ МРЕЖИ И ДИФЕРЕНЦИАЛНА ЕВОЛЮЦИЯ В РАЗПРЕДЕЛЕНА СРЕДА ДОКТОРАНТСКИ СЕМИНАР Тодор Димитров Балабанов Системи подпомагащи вземането на решения Институт по информационни технологии Българска академия на науките София 2010

2 Тодор Балабанов Редовен докторант Българска академия на науките Институт по информационни технологии Системи подпомагащи вземането на решения Информатика За контакт Тодор Балабанов ИИТ-БАН / 18

3 Времеви редове Съдържание Изкуствени невронни мрежи Диференциална еволюция Разпределени изчисления За проекта и модела Цели на научното изследване Заключение Тодор Балабанов ИИТ-БАН / 18

4 Времеви редове Последователност от данни Стойност на величина измерена на равни интервали от време Пример Стойностите за време се нанасят по абцисата Стойностите на величината се нанася по ординатата Средни дневни температури в рамките на една година Цена на петрола в рамките на една година Тодор Балабанов ИИТ-БАН / 18

5 Изкуствени невронни мрежи Математически модел на невронна система Насочен тегловен граф Невронни възли Връзки между нервнните възли Обучение Определяне стойности на теглата С учител Самообучаващи се Тодор Балабанов ИИТ-БАН / 18

6 Диференциална еволюция Евристичен метод за с оптимизация с общо предназначение Популационен алгоритъм Класическо кръстосване Мутацията се осъществява с помощта на диференцииален вектор Промяна на всички компоненти съставящи хромозомите По-добра сходимост от класическата мутация при генетичните алгоритми Висока степен за паралелни изчисления Тодор Балабанов ИИТ-БАН / 18

7 Изчисления в разпределена среда Извършване на множество изчисления в един и същи момент от времето на различни изчислителни машини Паралелни алгоритми По-сложна синхронизация от многопроцесорните системи Латентност на компютърната мрежа Съмнение за надеждността на пресмятанията, извършени върху машини под чужд контрол Тодор Балабанов ИИТ-БАН / 18

8 Основна идея в проекта Да се прогнозира движението на цените при валутната търговията Прогнозиращ модул за MetaTrader4 Прогнозиращ модел на базата на ИНМ Обучение на ИНМ с помощта на ДЕ Обучение в разпределена среда Тодор Балабанов ИИТ-БАН / 18

9 Предимства на избрания модел ИНМ имат основно приложение при прогнозирането на времеви редове Обучение с ДЕ Избягва се опасността от катастрофално забравяне Редът за подаване на обучаващите примери не е от значение Може да се обучават ИНМ с обратни връзки Възможно за паралелен алгоритъм на ДЕ Изчисления в разпределена среда За цената на обикновен сървър се получава производителност на супер компютър от нисък клас Тодор Балабанов ИИТ-БАН / 18

10 Недостатъци на избрания модел ИНМ се обучават бавно, макар и да са много ефективни след като бъдат обучени ДЕ обучението е по-бързо от ГА, но значително по-бавно от обучение с обратно разпространение на грешката Разпределеният вариант на системата усложнява многократно реализацията Тодор Балабанов ИИТ-БАН / 18

11 Сложност при прогнозирането Глобални валутни пазари Голяма по размер система Изключително динамична Висока волатилност Много влияещи фактори Банки Брокери Огромен брой малки играчи Правителствени политики Много по-близо до хаос, отколкото до ред Тодор Балабанов ИИТ-БАН / 18

12 Проблем с изследване на топологии за ИНМ Съществен проблем за научно изследване е каква топология на ИНМ да бъде приложена Трислойна Многослойна с обратни връзки Пълно свързана Тодор Балабанов ИИТ-БАН / 18

13 Проблем с представяне на входните данни към ИНМ Основен проблем за научно изследване е какви данни да бъдат подадени на входа на ИНМ Време на входа - очаквана стойност на изхода Предходна стойност на входа - очаквана стойност в настоящия момент на изхода Множество предходни стойности на входа - очаквана в настоящия момент стойност на изхода Разлика от предходни стойности на входа - разлика на предстоящи стойности на изхода Тодор Балабанов ИИТ-БАН / 18

14 Цели на изследването Подобряване на алгоритмите за обучение По-бързо обучение на ИНМ По-ефективно използване на ДЕ оптимизация Постигане на по-добри прогнозни резултати, спрямо вече разработени прогнозиращи системи Тодор Балабанов ИИТ-БАН / 18

15 Технологични цели Създаване на софтуерна платформа за разпределени изчисления Програмиране на теоретичния модел за прогнозиране Извършване на експериментална работа, относно надеждността на прогнозите Тодор Балабанов ИИТ-БАН / 18

16 Заключение Сложна задача за решаване Актуален проблем за прилагане на теоретичния модел Област в която активно се работи Нужда от множество практически знания и умения при физическото създаване на системата Тодор Балабанов ИИТ-БАН / 18

17 Въпроси и отговори Благодаря за вниманието! Тодор Балабанов ИИТ-БАН / 18

18 Информационни източници Box, George; Jenkins, Gwilym (1976), Time series analysis: forecasting and control, rev. ed., Oakland, California: Holden-Day Gershenfeld, Neil (2000), The nature of mathematical modeling, Cambridge: Cambridge Univ. Press, ISBN , OCLC "The Machine Learning Dictionary". Roman M. Balabin, Ekaterina I. Lomakina (2009). "Neural network approach to quantum-chemistry data: Accurate prediction of density functional theory energies". J. Chem. Phys. 131 (7): doi: / Izhikevich EM (February 2006). "Polychronization: computation with spikes". Neural Comput 18 (2): doi: / PMID "IBM Research Press Resources IBM and EPFL Join Forces to Uncover the Secrets of Cognitive Intelligence". Retrieved B.B. Nasution, A.I. Khan, A Hierarchical Graph Neuron Scheme for Real-Time Pattern Recognition, IEEE Transactions on Neural Networks, vol 19(2), , Feb Siegelmann, H.T.; Sontag, E.D. (1991). "Turing computability with neural nets". Appl. Math. Lett. 4 (6): Price, Kenneth, Storn, Rainer M., Lampinen, Jouni A., Differential Evolution A Practical Approach to Global Optimization, 2005, XX, 538 p. 292 illus. With CD-ROM., Hardcover, ISBN: Feoktistov V., Differential Evolution In Search of Solutions, 2006, XII, 196 p. 73 illus., Hardcover, ISBN: DE Algorithms' Home Page, Bibliography on DE from 1995 to 2002, Tel, Gerard (1994). Introduction to Distributed Algorithms. Cambridge University Press. Attiya, Hagit and Welch, Jennifer (2004). Distributed Computing: Fundamentals, Simulations, and Advanced Topics. Wiley- Interscience. ISBN Garg, Vijay K. (2002). Elements of Distributed Computing. Wiley-IEEE Press. ISBN Тодор Балабанов ИИТ-БАН / 18