Optymalizacja optymalizacji
Transkrypt
Optymalizacja optymalizacji
Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja optymalizacji Anna Styrcz 7 maja 2008 Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Wstep ˛ Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Testowane algorytmy Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie Wyniki (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny Podsumowanie Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Optymalizacja lokalna - metody gradientowe ◮ bardzo szybkie ◮ deterministyczne ◮ efekt zależy od parametrów poczatkowych ˛ Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Algorytmy genetyczne Metody optymalizacji globalnej oparte na mechanizmach doboru naturalnego i dziedziczności. Podstawowe operacje genetyczne: ◮ kodowanie, ◮ selekcja, ◮ krzyżowanie, ◮ mutacja. Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Przeszukiwanie systematyczne Badanie energii wszystkich konformacji mogacych ˛ odpowiadać minimum globalnemu. ◮ jedyna metoda dajaca ˛ pewność znalezienia rozwiazania ˛ ◮ wydajna dla małych czasteczek ˛ ◮ nierealna dla dużych układów o wielu stopniach swobody Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Sieci neuronowe Sieć neuronowa (sztuczna sieć neuronowa) to ogólna nazwa struktur matematycznych i ich programowych lub sprz˛etowych modeli, realizujacych ˛ obliczenia lub przetwarzanie sygnałów poprzez rz˛edy elementów, zwanych neuronami, wykonujacych ˛ pewna˛ podstawowa˛ operacje˛ na swoim wejściu. Oryginalna˛ inspiracja˛ takiej struktury była budowa naturalnych układów nerwowych, w szczególności mózgu. Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Sieci neuronowe - zastosowania ◮ przetwarzanie informacji ◮ generalizacja problemów ◮ rozpoznawanie i klasyfikacja wzorców ◮ predykcja szeregów czasowych ◮ analiza danych statystycznych ◮ odszumianie i kompresja obrazu i dźwieku ˛ ◮ sterowanie i automatyzacja Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Budowa neuronu (a) układ nerwowy Anna Styrcz (b) sztuczna sieć neuronowa Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Budowa sieci neuronowej Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Uczenie sieci neuronowych Algorytm wstecznej propagacji błedu: ˛ ◮ zestaw danych uczacych; ˛ ◮ obliczanie wartości sygnałów; ◮ dla ostatniej warstwy bład ˛ to różnica pomiedzy ˛ wartościa˛ otrzymana˛ a docelowa; ˛ ◮ „rzutowanie” wartości błedu ˛ na wewnetrzne ˛ warstwy (mnożenie przez odpowiednie wagi); ◮ modyfikacja wag Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Optymalizacja lokalna Optymalizacja globalna Sieci neuronowe Sieci neuronowe-podsumowanie Sieci neuronowe: ◮ moga˛ być używane jako „czarna skrzynka”, ◮ ich efektywna wartość zależy od danych uczacych, ˛ ◮ przybliżaja˛ badana˛ zależność za pomoca pewnej funkcji. Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie Algorytmy genetyczne Dobór nastepuj ˛ acych ˛ parametrów: ◮ rozmiar populacji (10-2000), ◮ sposób selekcji (13 sposobów), ◮ sposób (3 sposoby) i prawdopodobieństwo (0-1) krzyżowania ◮ sposób (2*13 sposobów) i prawdopodobieństwo (0-1) mutacji, ◮ schemat ewolucji (Darwin, Baldwin, Lamarck). W sumie około 2433600 kombinacji, 278 lat testów. Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie (Algorytmy genetyczne)2 Optymalizacja genetyczna parametrów algorytmu genetycznego: ◮ możliwość szybkiego znalezienia dobrych parametrów, ◮ różne parametry sa˛ optymalne dla różnych procesów, ◮ nie ma idealnego zestawu dla wszystkich czasteczek. ˛ Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie Sieci neuronowe + algorytmy genetyczne Dobór parametrów algorytmu genetycznego przez sieć neuronowa˛ w oparciu o: ◮ różnorodność populacji (genotypy) ◮ różnorodność populacji (energie) ◮ skuteczność algorytmu Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie Badane czasteczki ˛ ◮ łańcuchy wodoroweglowe ˛ C10 H22 , C20 H42 ◮ ergotamina ◮ met-enkefalina (Tyr-Gly-Gly-Phe-Met) ◮ pochodne met-enkefaliny Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Algorytmy genetyczne Sieci neuronowe Badane czasteczki ˛ Wykorzystane oprogramowanie oprogramowanie, biblioteki ◮ AMMP (Another Molecular Mechanics Program) ◮ ◮ ◮ ◮ ◮ wiazania ˛ harmoniczne katy ˛ harmoniczne katy ˛ torsyjne elektrostatyczne oddziaływania punktoych atomów potencjały Van der Waalsa ◮ GAUL (Genetic Algorithm Utility Library) ◮ FANN (Fast Artifitial Neural Network Library) Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny (Algorytm genetyczny)2 met-enkefalina C20 H42 ◮ rozmiar populacji 50 ◮ krzyżowanie wielopunktowe ◮ mutacja wielopunktowa (losowych osobników) ◮ prawdopodobieństwo krzyżowania 0.6 selekcja „najlepszy z trzech” ◮ prawdopodobieństwo mutacji 0.3 prawdopodobieństwo krzyżowania 1 ◮ prawdopodobieństwo mutacji 0.3 ◮ rozmiar populacji 100 ◮ krzyżowanie jednopunktowe ◮ mutacja jednopunktowa (wszystkich osobników) ◮ selekcja ruletkowa ◮ ◮ Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny Porównanie wyników algorytm met1 met2 C20 najlepszy C10 -36.3783 -34.0050 -36.914 -36.914 C20 -33.5627 -30.2951 -33.8394 -34.157 Anna Styrcz Met 175.759 176.081 187.1587 172.41 Optymalizacja optymalizacji Erg 792.546 792.54 797.5103 791.99 Wstep ˛ Testowane algorytmy Wyniki Podsumowanie (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny Sieć neuronowa - porównanie wyników atgorytm ammp gen sieć C10 -22.0397 -36.914 -34597 C20 -18.6159 -33.8394 -34.153 Anna Styrcz Met 246.6875 175.759 176.3027 Optymalizacja optymalizacji Erg 804.2938 792.54 793.1846 Wstep ˛ Testowane algorytmy Wyniki Podsumowanie (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny Badane czasteczki ˛ ◮ met-Cl ◮ met-OH ◮ met-CH3 ◮ met-C3 H7 ◮ met-Ph ◮ met-Ph-CH3 Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie (Algorytm genetyczny)2 Sieć neuronowa Pochodne met-enkefaliny Pochodne met-enkefaliny - wyniki czasteczka ˛ met met-Cl met-OH met-CH3 met-C3 H7 met-Ph met-Ph-CH3 met1 175.759 198.625 176.004 219.3953 235.7780 312.3210 312.9470 met2 176.081 198.927 176.91 218.767 234.6990 312.7580 310.9040 Anna Styrcz lan2 187.1586 211.0004 185.2069 227.6896 246.7632 325.4413 321.8651 Optymalizacja optymalizacji sieć 176.3027 201.7230 175.8490 218.7623 237.9240 311.8489 310.2403 Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Wnioski ◮ Czasteczki ˛ o zbliżonej budowie potrzebuja˛ podobnych parametrów algorytmu genetycznego. ◮ Sterowanie algorytmu genetycznego siecia˛ neuronowa˛ poprawia zbieżność i zapobiega „utknieciu” ˛ w minimum lokalnym. Anna Styrcz Optymalizacja optymalizacji Wstep ˛ Testowane algorytmy Wyniki Podsumowanie Widoki na przyszłość ◮ Inteligentne rozpoznawanie podobieństwa struktur. ◮ Metody półempiryczne. ◮ Wieksze ˛ układy. ◮ Połaczenie ˛ metod półempirycznych z mechanika˛ molekularna. ˛ Anna Styrcz Optymalizacja optymalizacji