Optymalizacja optymalizacji

Transkrypt

Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja optymalizacji
Anna Styrcz
7 maja 2008
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Wstep
˛
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Testowane algorytmy
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
Wyniki
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
Podsumowanie
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Optymalizacja lokalna - metody gradientowe
◮
bardzo szybkie
◮
deterministyczne
◮
efekt zależy od parametrów poczatkowych
˛
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Algorytmy genetyczne
Metody optymalizacji globalnej oparte na mechanizmach
doboru naturalnego i dziedziczności.
Podstawowe operacje genetyczne:
◮
kodowanie,
◮
selekcja,
◮
krzyżowanie,
◮
mutacja.
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Przeszukiwanie systematyczne
Badanie energii wszystkich konformacji mogacych
˛
odpowiadać
minimum globalnemu.
◮
jedyna metoda dajaca
˛ pewność znalezienia rozwiazania
˛
◮
wydajna dla małych czasteczek
˛
◮
nierealna dla dużych układów o wielu stopniach swobody
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Sieci neuronowe
Sieć neuronowa (sztuczna sieć neuronowa) to ogólna nazwa
struktur matematycznych i ich programowych lub sprz˛etowych
modeli, realizujacych
˛
obliczenia lub przetwarzanie sygnałów
poprzez rz˛edy elementów, zwanych neuronami, wykonujacych
˛
pewna˛ podstawowa˛ operacje˛ na swoim wejściu. Oryginalna˛
inspiracja˛ takiej struktury była budowa naturalnych układów
nerwowych, w szczególności mózgu.
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Sieci neuronowe - zastosowania
◮
przetwarzanie informacji
◮
generalizacja problemów
◮
rozpoznawanie i klasyfikacja wzorców
◮
predykcja szeregów czasowych
◮
analiza danych statystycznych
◮
odszumianie i kompresja obrazu i dźwieku
˛
◮
sterowanie i automatyzacja
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Budowa neuronu
(a) układ nerwowy
Anna Styrcz
(b) sztuczna sieć neuronowa
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Budowa sieci neuronowej
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Uczenie sieci neuronowych
Algorytm wstecznej propagacji błedu:
˛
◮
zestaw danych uczacych;
˛
◮
obliczanie wartości sygnałów;
◮
dla ostatniej warstwy bład
˛ to różnica pomiedzy
˛
wartościa˛
otrzymana˛ a docelowa;
˛
◮
„rzutowanie” wartości błedu
˛ na wewnetrzne
˛
warstwy
(mnożenie przez odpowiednie wagi);
◮
modyfikacja wag
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Optymalizacja lokalna
Optymalizacja globalna
Sieci neuronowe
Sieci neuronowe-podsumowanie
Sieci neuronowe:
◮
moga˛ być używane jako „czarna skrzynka”,
◮
ich efektywna wartość zależy od danych uczacych,
˛
◮
przybliżaja˛ badana˛ zależność za pomoca pewnej funkcji.
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
Algorytmy genetyczne
Dobór nastepuj
˛ acych
˛
parametrów:
◮
rozmiar populacji (10-2000),
◮
sposób selekcji (13 sposobów),
◮
sposób (3 sposoby) i prawdopodobieństwo (0-1)
krzyżowania
◮
sposób (2*13 sposobów) i prawdopodobieństwo (0-1)
mutacji,
◮
schemat ewolucji (Darwin, Baldwin, Lamarck).
W sumie około 2433600 kombinacji, 278 lat testów.
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
(Algorytmy genetyczne)2
Optymalizacja genetyczna parametrów algorytmu
genetycznego:
◮
możliwość szybkiego znalezienia dobrych parametrów,
◮
różne parametry sa˛ optymalne dla różnych procesów,
◮
nie ma idealnego zestawu dla wszystkich czasteczek.
˛
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
Sieci neuronowe + algorytmy genetyczne
Dobór parametrów algorytmu genetycznego przez sieć
neuronowa˛ w oparciu o:
◮
różnorodność populacji (genotypy)
◮
różnorodność populacji (energie)
◮
skuteczność algorytmu
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
Badane czasteczki
˛
◮
łańcuchy
wodoroweglowe
˛
C10 H22 , C20 H42
◮
ergotamina
◮
met-enkefalina
(Tyr-Gly-Gly-Phe-Met)
◮
pochodne
met-enkefaliny
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Algorytmy genetyczne
Sieci neuronowe
Badane czasteczki
˛
Wykorzystane oprogramowanie
oprogramowanie, biblioteki
◮
AMMP (Another Molecular Mechanics Program)
◮
◮
◮
◮
◮
wiazania
˛
harmoniczne
katy
˛ harmoniczne
katy
˛ torsyjne
elektrostatyczne oddziaływania punktoych atomów
potencjały Van der Waalsa
◮
GAUL (Genetic Algorithm Utility Library)
◮
FANN (Fast Artifitial Neural Network Library)
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
(Algorytm genetyczny)2
met-enkefalina
C20 H42
◮
rozmiar populacji 50
◮
krzyżowanie
wielopunktowe
◮
mutacja wielopunktowa
(losowych osobników)
◮
prawdopodobieństwo
krzyżowania 0.6
selekcja „najlepszy z
trzech”
◮
prawdopodobieństwo
mutacji 0.3
prawdopodobieństwo
krzyżowania 1
◮
prawdopodobieństwo
mutacji 0.3
◮
rozmiar populacji 100
◮
krzyżowanie
jednopunktowe
◮
mutacja jednopunktowa
(wszystkich osobników)
◮
selekcja ruletkowa
◮
◮
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
Porównanie wyników
algorytm
met1
met2
C20
najlepszy
C10
-36.3783
-34.0050
-36.914
-36.914
C20
-33.5627
-30.2951
-33.8394
-34.157
Anna Styrcz
Met
175.759
176.081
187.1587
172.41
Optymalizacja optymalizacji
Erg
792.546
792.54
797.5103
791.99
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
Sieć neuronowa - porównanie wyników
atgorytm
ammp
gen
sieć
C10
-22.0397
-36.914
-34597
C20
-18.6159
-33.8394
-34.153
Anna Styrcz
Met
246.6875
175.759
176.3027
Optymalizacja optymalizacji
Erg
804.2938
792.54
793.1846
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
Badane czasteczki
˛
◮
met-Cl
◮
met-OH
◮
met-CH3
◮
met-C3 H7
◮
met-Ph
◮
met-Ph-CH3
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
(Algorytm genetyczny)2
Sieć neuronowa
Pochodne met-enkefaliny
Pochodne met-enkefaliny - wyniki
czasteczka
˛
met
met-Cl
met-OH
met-CH3
met-C3 H7
met-Ph
met-Ph-CH3
met1
175.759
198.625
176.004
219.3953
235.7780
312.3210
312.9470
met2
176.081
198.927
176.91
218.767
234.6990
312.7580
310.9040
Anna Styrcz
lan2
187.1586
211.0004
185.2069
227.6896
246.7632
325.4413
321.8651
Optymalizacja optymalizacji
sieć
176.3027
201.7230
175.8490
218.7623
237.9240
311.8489
310.2403
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Wnioski
◮
Czasteczki
˛
o zbliżonej budowie potrzebuja˛ podobnych
parametrów algorytmu genetycznego.
◮
Sterowanie algorytmu genetycznego siecia˛ neuronowa˛
poprawia zbieżność i zapobiega „utknieciu”
˛
w minimum
lokalnym.
Anna Styrcz
Optymalizacja optymalizacji
Wstep
˛
Testowane algorytmy
Wyniki
Podsumowanie
Widoki na przyszłość
◮
Inteligentne rozpoznawanie podobieństwa struktur.
◮
Metody półempiryczne.
◮
Wieksze
˛
układy.
◮
Połaczenie
˛
metod półempirycznych z mechanika˛
molekularna.
˛
Anna Styrcz
Optymalizacja optymalizacji