Systemy Wspomagania Decyzji - AI 1: Wprowadzenie do uczenia

Systemy Wspomagania Decyzji - AI 1: Wprowadzenie do uczenia

Systemy
Wspomagania
Decyzji
Marcin
Sydow
Systemy Wspomagania Decyzji
Wprowadzenie
do AI
AI 1: Wprowadzenie do uczenia maszynowego
Uczenie
Maszynowe
Podsumowanie
Marcin Sydow
Web Mining Lab, PJWSTK
Plan
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie do AI
silna AI/sªaba AI
test Turinga
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
aspekty inteligencji
zastosowania wspóªczesne AI
pozytywne i negatywne aspekty rozwoju AI dla czªowieka
Wprowadzenie do uczenia maszynowego
Eksploracja danych i uczenie maszynowe: motywacja
Na czym polega uczenie maszynowe
Tablice decyzyjne: atrybuty i obserwacje
Uczenie z nadzorem i bez nadzoru
Klasykacja i regresja
Sztuczna Inteligencja
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Gaª¡¹ nauki maj¡ca na celu stworzenie systemu (maszyny,
oprogramowania, etc.) posiadaj¡cego inteligencj¦ co najmniej
dorównuj¡c¡ ludzkiej
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Wizja obecna w kulturze od wieków:
mity i legendy (np. Golem)
literatura (np. Cyberiada Stanisªawa Lema)
nauka
Wspóªczesny rozdziaª tej historii to lata 60-te, kiedy powstaªy
odpowiednie komputery
Wiele w¡tków
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
lozoczny (Czy maszyna mo»e my±le¢? itp.)
teoretyczny (twierdzenie Godela)
naturalny (obserwacja natury)
praktyczny (rozwi¡zywanie problemów)
algorytmiczny i obliczeniowy
Test Turinga
Systemy
Wspomagania
Decyzji
Marcin
Sydow
A i B komunikuj¡ si¦ w j¦zyku naturalnym (tekst)
Wprowadzenie
do AI
jeden z nich to czªowiek
Uczenie
Maszynowe
drugi to maszyna udaj¡ca czªowieka
Podsumowanie
C obserwuje komunikacj¦
czy C potra rozró»ni¢ czªowieka od maszyny?
»aden system nie przeszedª testu Turinga (jak dot¡d)
Krótka subiektywna i uproszczona historia AI
Systemy
Wspomagania
Decyzji
Marcin
Sydow
pre-historia (przed 1960 - pierwsze nowoczesne
komputery)
romantyzm (60-65) - optymistyczna wiara, »e sztuczna
Wprowadzenie
do AI
inteligencja dorówna ludzkiej w 10 lat...
Uczenie
Maszynowe
ciemno±¢ (65-70) - pesymizm
Podsumowanie
renesans (70-75) - powstaj¡ pierwsze praktyczne systemy
eksperckie
wspóªpraca (75-80) - badania interdyscyplinarne: nauki
±cisªe, przyrodnicze, humanistyczne; ±rodowiska
akademickie i przemysªowe
komercjalizacja (80-)
Literatura (przykªady)
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Neural Networks (e.g.):
M. Negnevitsky Articial Intelligence
Machine Learning (e.g.):
P. Cichosz Systemy Ucz¡ce si¦
Witten et al. Data Mining
General AI (e.g.):
Uczenie
Maszynowe
G. Luger Articial Intelligence
Podsumowanie
NP-completess (e.g.):
Cormen et al. Introduction to algorithms
Optimisation (e.g.):
C.Papadimitriou Combinatorial Optimisation
Approximation algorithms:
V.Vasirani Approximation algorithms
Complexity:
C.Papadimitriou Complexity Theory
Silna i sªaba AI
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
sªaba AI (w¡skie aspekty, konkretne wybrane problemy
praktyczne)
zdolno±¢ do rozwi¡zywania zªo»onych problemów
adaptacyjno±¢
uczenie
silna AI (inteligencja uniwersalna)
powy»sze, oraz:
±wiadomo±¢
kreatywno±¢
auto-reeksja (nt. wªasnych ogranicze«, itp.)
ewolucja
Silna AI jest wci¡» tylko marzeniem...
Tutaj skupiamy si¦ na sªabej AI.
Aspekty AI
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
percepcja (sztuczne zmysªy: systemy widz¡ce,
rozpoznawanie mowy i pisma, etc.)
wiedza (reprezentacja wiedzy:
reguªy, tabele decyzyjne,
drzewa decyzyjne, ontologie)
rozumowanie (logika, automatyczne wyci¡ganie
wniosków, dowodzenie twierdze«)
Uczenie
Maszynowe
uczenie si¦ uczenie maszynowe:
Podsumowanie
(ML)): z nadzorem (klasykacja, regresja), bez nadzoru
(ang. machine learning
(np. grupowanie))
komunikacja przetwarzanie j¦zyka naturalnego (natural
language processing (NLP)): inteligentne wyszukiwanie
informacji tekstowej, text mining, odpowiadanie na
zapytania, tªumaczenie maszynowe, automatyczne
zdobywanie wiedzy
planowanie i rozwi¡zywanie zada« (przeszukiwanie,
heurystyki, systemy wielo-agentowe, ewolucyjne, etc.)
Wprowadzenie do uczenia maszynowego
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Zalew danych
Systemy
Wspomagania
Decyzji
Marcin
Sydow
W ka»dej sekundzie produkowane s¡ ogromne ilo±ci danych:
ceny papierów warto±ciowych
Wprowadzenie
do AI
ceny towarów na rynku
Uczenie
Maszynowe
warto±ci transakcji
Podsumowanie
klikni¦cia (logi serwerów WWW)
zamówienia towarów w sklepach internetowych
rachunki w elektronicznych kasach sklepowych
wyniki pomiarów astronomicznych, zycznych, etc...
Motywacja dla eksploracji danych
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Obserwacje:
1
te dane s¡ interesuj¡ce i warte bada«
2
s¡ zapisane w formie elektronicznej (ªatwe do
Podsumowanie
automatycznej analizy)
3
jest ich za du»o by mogªy by¢ zanalizowane bez pomocy
komputerów
Gªówne cele
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
rozpoznawanie istotnych
wzorców w danych
wykrywanie trendów w danych (np. wczesne wykrycie
kryzysów ekonomicznych, itp.)
przewidywanie przyszªo±ci na podstawie poprzednich
obserwacji
Podsumowanie
klasykacja nowo-obserwowanych przypadków
grupowanie obiektów podobnych
W uczeniu maszynowym powy»sze cele realizowane s¡
automatycznie lub przy niewielkim wsparciu czªowieka
Idea uczenia z nadzorem
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
1
nadzór polega na podawaniu prawidªowych rozwi¡za« dla
danych trenuj¡cych
2
system uczy si¦ uogólni¢ sposób rozwi¡zania zadania
poprzez automatyczne wykrycie zwi¡zków pomi¦dzy
Podsumowanie
danymi a prawidªowymi rozwi¡zaniami (automatyczne
budowanie modelu prawidªowego rozwi¡zania)
3
automatycznie wyuczony model jest stosowany do
nowych przypadków (nie trenuj¡cych)
Przykªad: pewna gra na powietrzu, mo»liwa tylko
przy pewnych specycznych warunkach
atmosferycznych (nie wiemy jakich):
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
pogoda
temperatura
wilgotno±¢
wiatr
GRA‚?
sªonecznie
ciepªo
wysoka
brak
nie
sªonecznie
ciepªo
wysoka
jest
nie
pochmurno
ciepªo
wysoka
brak
tak
deszczowo
normalnie
wysoka
brak
tak
deszczowo
chªodno
normalna
brak
tak
deszczowo
chªodno
normalna
jest
nie
pochmurno
chªodno
normalna
jest
tak
sªonecznie
normalnie
wysoka
brak
nie
sªonecznie
chªodno
normalna
brak
tak
deszczowo
normalnie
normalna
brak
tak
sªonecznie
normalnie
normalna
jest
tak
pochmurno
normalnie
wysoka
jest
tak
pochmurno
ciepªo
normalna
brak
tak
deszczowo
normalnie
wysoka
jest
nie
Przykªad, cd
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Podstawowe pytanie:
Przy jakich warunkach gra si¦ w t¦ gr¦ogólnie?
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Je±li odpowied¹ nie jest znana mo»na posªu»y¢ si¦ wieloma
zaobserwowanymi przypadkami i sprawi¢ aby system wychwyciª
ogóln¡ reguª¦.
Je±li uda si¦ w ten automatyczny sposób pozyska¢ wiedz¦ o
reguªach gry z obserwacji znanych przypadków mo»na j¡
nast¦pnie zastosowa¢ do przypadków nieznanych
Nowy przypadek
Systemy
Wspomagania
Decyzji
outlook
temperature
humidity
windy
sªonecznie
ciepªo
wysoka
brak
sªonecznie
wysoka
jest
nie
Marcin
Sydow
pochmurno
ciepªo
ciepªo
wysoka
brak
tak
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
PLAY?
nie
deszczowo
normalnie
wysoka
brak
tak
deszczowo
chªodno
normalna
brak
tak
deszczowo
chªodno
normalna
jest
nie
chªodno
normalna
jest
tak
normalnie
wysoka
brak
nie
pochmurno
sªonecznie
sªonecznie
chªodno
normalna
brak
tak
deszczowo
normalnie
normalna
brak
tak
sªonecznie
normalnie
normalna
jest
tak
normalnie
wysoka
jest
tak
ciepªo
normalna
brak
tak
normalnie
wysoka
jest
chªodno
wysoka
jest
pochmurno
pochmurno
deszczowo
pochmurno
nie
???
Tablica decyzyjna:
obserwacje i atrybuty
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wiedza mo»e by¢ budowana w oparciu o poprzednio
zaobserwowane dane:
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Ka»da obserwacja (przypadek) opisana za pomoc¡
atrybutów
okre±lonego typu (nominalnego albo numerycznego)
Tablica Decyzyjna:
wiersze = obserwacje (przypadki)
kolumny = atrybuty
Reprezentacja wiedzy: atrybuty nominalne
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
pogoda
temperatura
wilgotno±¢
wiatr
GRA‚?
sªonecznie
ciepªo
wysoka
brak
nie
sªonecznie
ciepªo
wysoka
jest
nie
pochmurno
ciepªo
wysoka
brak
tak
deszczowo
normalnie
wysoka
brak
tak
deszczowo
chªodno
normalna
brak
tak
deszczowo
chªodno
normalna
jest
nie
pochmurno
chªodno
normalna
jest
tak
sªonecznie
normalnie
wysoka
brak
nie
sªonecznie
chªodno
normalna
brak
tak
deszczowo
normalnie
normalna
brak
tak
sªonecznie
normalnie
normalna
jest
tak
pochmurno
normalnie
wysoka
jest
tak
pochmurno
ciepªo
normalna
brak
tak
deszczowo
normalnie
wysoka
jest
nie
Reprezentacja wiedzy: atrybuty numeryczne
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
pogoda
temperatura
wilgotno±¢
wiatr
GRA‚?
sªonecznie
85
85
brak
nie
sªonecznie
80
90
jest
nie
pochmurno
83
86
brak
tak
deszczowo
70
96
brak
tak
deszczowo
68
80
brak
tak
deszczowo
65
70
jest
nie
pochmurno
64
65
jest
tak
sªonecznie
72
95
brak
nie
sªonecznie
69
70
brak
tak
deszczowo
75
80
brak
tak
sªonecznie
75
70
jest
tak
pochmurno
72
90
jest
tak
pochmurno
81
75
brak
tak
deszczowo
71
91
jest
nie
(w powy»szej tabeli temperatura: Fahrenheit)
Uczenie Maszynowe
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Zadanie: nauczy¢ si¦ relacji pomi¦dzy warto±ciami atrybutów
Wprowadzenie
do AI
Uczenie
Maszynowe
Dwa gªówne podej±cia:
Podsumowanie
1
Uczenie z nadzorem
2
Uczenie bez nadzoru
Uczenie z nadzorem
Systemy
Wspomagania
Decyzji
Marcin
Sydow
1
atrybut decyzyjny:
wyszczególniony atrybut w tabeli
decyzyjnej (np. GRA‚?)
2
Zadanie: przewidzie¢ prawidªow¡ (nieznan¡) warto±¢
atrybutu decyzyjnego na podstawie (znanych) warto±ci
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
pozostaªych atrybutów
3
Wykorzysta¢ do tego
zbiór treningowy - tj taki zbiór
obserwacji (przypadków), dla których prawidªowa warto±¢
atrybutu decyzyjnego (oraz wszystkich pozostaªych
atrybutów) jest znana
Uczenie z nadzorem nazywane jest:
klasykacj¡, gdy przewidywany atrybut decyzyjny jest
nominalny
regresj¡, gdy przewidywany atrybut decyzyjny jest
numeryczny
Podsumowanie idei uczenia z nadzorem
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Cel:
input:
nowy przypadek (obserwacja) z nieznan¡ warto±ci¡
atrybutu decyzyjnego
Wprowadzenie
do AI
output:
Uczenie
Maszynowe
System mo»e uczy¢ si¦ tylko na ograniczonej liczbie znanych
Podsumowanie
przypadków (zbiór treningowy) dodstarczonych przez
prawidªowa warto±¢ atrybutu decyzyjnego
nadzoruj¡cego
W praktyce:
warto±ci niektórych atrybutów mog¡ by¢ nieznane, bª¦dne
albo znieksztaªcone
zbiór ucz¡cy mo»e by¢ cz¦±ciowo
sprzeczny
Klasykacja, przykªad 2
Botanika: rozpoznawanie gatunków ro±lin
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Rozpatrzmy 3 ró»ne podgatunki kwiatu o ªac. nazwie Iris:
Iris-setosa
Iris-versicolor
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Iris-virginica
Task: nauczy¢ si¦ rozpoznawa¢ gatunek ro±liny na podstawie
rozmiarów li±ci i pªatków (atrybuty):
dªugo±¢ listka (cm)
szeroko±¢ listka (cm)
dªugo±¢ pªatka (cm)
szeroko±¢ pªatka (cm)
Rozpoznawanie ro±lin, cont.
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Zbiór trenuj¡cy:
150 znanych przypadków (zmierzone cz¦±ci ro±lin i znana
prawidªowa klasykacja)
System uczy si¦ na zbiorze treningowym
Nast¦pnie, ka»dy nowy (nieznany) przypadek jest klasykowany
na podstawie pomiarów pªatków i listków
Automatycznie wyuczona wiedza jest stosowana do
klasykacji nowych przypadków (dla których prawidªowa
odpowied¹ nie musi by¢ znana przez nadzoruj¡cego proces)
Zbiór danych (fragment)
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
S - iris setosa, V - iris versicolor, VG - iris virginica
ll
lw
pl
pw
?
ll
lw
pl
pw
?
ll
lw
pl
pw
?
5.1
4.9
4.7
4.6
5.0
5.4
4.6
5.0
4.4
4.9
5.4
4.8
4.8
4.3
5.8
5.7
5.4
5.1
5.7
5.1
5.4
5.1
5.0
5.0
3.5
3.0
3.2
3.1
3.6
3.9
3.4
3.4
2.9
3.1
3.7
3.4
3.0
3.0
4.0
4.4
3.9
3.5
3.8
3.8
3.4
3.7
3.0
3.4
1.4
1.4
1.3
1.5
1.4
1.7
1.4
1.5
1.4
1.5
1.5
1.6
1.4
1.1
1.2
1.5
1.3
1.4
1.7
1.5
1.7
1.5
1.6
1.6
0.2
0.2
0.2
0.2
0.2
0.4
0.3
0.2
0.2
0.1
0.2
0.2
0.1
0.1
0.2
0.4
0.4
0.3
0.3
0.3
0.2
0.4
0.2
0.4
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
S
7.0
6.4
6.9
5.5
6.5
5.7
6.3
4.9
6.6
5.2
5.0
5.9
6.0
6.1
5.6
6.7
5.6
5.8
6.2
5.6
5.9
6.1
6.6
6.8
3.2
3.2
3.1
2.3
2.8
2.8
3.3
2.4
2.9
2.7
2.0
3.0
2.2
2.9
2.9
3.1
3.0
2.7
2.2
2.5
3.2
2.8
3.0
2.8
4.7
4.5
4.9
4.0
4.6
4.5
4.7
3.3
4.6
3.9
3.5
4.2
4.0
4.7
3.6
4.4
4.5
4.1
4.5
3.9
4.8
4.0
4.4
4.8
1.4
1.5
1.5
1.3
1.5
1.3
1.6
1.0
1.3
1.4
1.0
1.5
1.0
1.4
1.3
1.4
1.5
1.0
1.5
1.1
1.8
1.3
1.4
1.4
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
V
6.3
5.8
7.1
6.3
6.5
7.6
4.9
7.3
6.7
7.2
6.5
6.4
6.8
5.7
5.8
6.4
6.5
7.7
7.7
6.0
6.9
5.6
7.2
6.2
3.3
2.7
3.0
2.9
3.0
3.0
2.5
2.9
2.5
3.6
3.2
2.7
3.0
2.5
2.8
3.2
3.0
3.8
2.6
2.2
3.2
2.8
3.2
2.8
6.0
5.1
5.9
5.6
5.8
6.6
4.5
6.3
5.8
6.1
5.1
5.3
5.5
5.0
5.1
5.3
5.5
6.7
6.9
5.0
5.7
4.9
6.0
4.8
2.5
1.9
2.1
1.8
2.2
2.1
1.7
1.8
1.8
2.5
2.0
1.9
2.1
2.0
2.4
2.3
1.8
2.2
2.3
1.5
2.3
2.0
1.8
1.8
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
VG
Wizualizacja zbioru danych: rzut na pªaszczyzn¦
2-wym.
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
(zbiór jest 4-wymiarowy) np.: szeroko±¢/dªugo±¢ listka - nie jest
to wystarczaj¡ca informacja
Inna wizualizacja rzutu na pªaszczyzn¦ 2-wym.
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
szeroko±¢ listka/dªugo±¢ pªatka - niesie du»o wiedzy (tzw.
dobry dyskriminant)
W jaki sposób system sam uczy si¦ zale»no±ci?
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Istnieje wiele podej±¢/modeli, przykªady:
metoda k najbli»szych s¡siadów (kNN)
Oparte na reguªach decyzyjnych
Drzewa decyzyjne
Podej±cie Bayesowskie
Regresja liniowa
Sztuczne Sieci Neuronowe (Perceptron, sieci
wielo-wartswowe)
SVM (support vector machines)
wiele innych...
Inne przykªady problemu klasykacji
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Maszynowe rozpoznawanie r¦cznie pisanych cyfr na
formularzach
Klasykacja zdolno±ci kredytowej klienta banku
Identykacja chªamu pocztowego (ang. e-mail spam)
Automatyczne rozró»nianie wycieków oleju z tankowców od
ciepªych pr¡dów na podstawie zdj¦¢ satelitarnych
Maszynowa identykacja j¦zyka w dokumentach
tekstowych (np. portugalski czy hiszpa«ski, itp.)
Automatyczna klasykacja tematu dokumentu
elektronicznego (do jednej z kilku kategorii)
Identykacja tzw. chªamu wyszukiwarkowego (ang. Search
Engine Spam)
Zadanie Regresji
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
W zadaniu klasykacji system przewidywaª warto±¢ atrybutu
decyzyjnego typu nominalnego.
Je±li natomiast przewidujemy atrybut numerycznego mówimy o
regresji
Przykªady zadania regresji:
przewidzie¢ warto±¢ (cen¦) papieru warto±ciowego na
podstawie poprzednich notowa« i innych czynników
(ekonomicznych, politycznych, etc.)
oszacowa¢ ilo±ciowe zapotrzebowanie na dany towar (np.
woda mineralna) w przyszªym tygodniu w supermarkecie na
podstawie bie»¡cej sprzeda»y, pory roku, pogody, etc.
przewidzie¢ temperatur¦ powietrza w nast¦pnym dniu
Przykªad zadania regresji
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Przewidywana skuteczno±¢ procesora na podstawie jego
parametrów technicznych
Przykªadowe atrybuty:
MYCT cycle time (ns)
MMIN main memory min
MMAX main memory max
CACH cache
CHMIN channels min
CHMAX channels max
Example: regression
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
MYCT
125
29
29
26
23
23
23
23
400
400
60
50
167
143
143
110
143
143
143
MMIN
256
8000
8000
8000
16000
16000
16000
32000
1000
512
2000
4000
524
512
1000
5000
1500
3100
2300
MMAX
6000
32000
16000
32000
32000
32000
64000
64000
3000
3500
8000
16000
2000
5000
2000
5000
6300
6200
6200
CACH
256
32
32
64
64
64
64
128
0
4
65
65
8
0
0
142
0
0
0
CHMIN
16
8
8
8
16
16
16
32
1
1
1
1
4
7
5
8
5
5
6
CHMAX
128
32
16
32
32
32
32
64
2
6
8
8
15
32
16
64
32
20
64
performance
199
253
132
290
381
381
749
1238
23
24
70
117
23
29
22
124
35
39
40
Uczenie bez Nadzoru
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Nie dajemy systemowi przykªadów (nie dysponujemy). System
musi automatycznie odkry¢ zale»no±ci pomi¦dzy danymi.
Podstawowe zadania uczenia bez nadzoru:
grupowanie (ang. clustering)
wykrywanie przypadków nietypowych (ang. outliers)
odkrywanie reguª asocjacyjnych
Grupowanie (ang. clustering)
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Nale»y podzieli¢ wszystkie badane przypadki na grupy obiektów
podobnych do siebie (wewn¡trz ka»dej grupy), przy czym
obiekty z ró»nych grup powinny si¦ jak najbardziej ró»ni¢
mi¦dzy sob¡.
Nie wiemy jaka jest faktyczna kategoria odpowiadaj¡ca ka»dej
grupie - nie mamy przykªadów.
Jest to cz¦sto wst¦pny etap analizy danych.
Popularny algorytm grupowania:
K-means
Wykrywanie przypadków nietypowych (ang. outliers)
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Nale»y automatycznie wykry¢ obiekty, które z jakich± powodów
odstaj¡ od pozostaªych elementów.
Mamy tu tylko do
dyspozycji same warto±ci atrybutów. Obiekty wyra¹nie
odstaj¡ce od ogóªu s¡ w pewnym sensie podejrzane.
Zastosowania:
Uczenie
Maszynowe
automatyczne wykrywanie wªama« do systemów
Podsumowanie
komputerowych
wykrywanie nadu»y¢ (ang. fraud) w handlu elektronicznym
wykrywanie prania brudnych pieni¦dzy na podstawie
analizy transferów bankowych
wykrywanie bª¦dów w danych i bª¦dów urz¡dze«
pomiarowych
czyszczenie danych
Problemy kontrolne:
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie do AI
silna AI/sªaba AI
test Turinga
aspekty inteligencji
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
zastosowania wspóªczesne AI
pozytywne i negatywne aspekty rozwoju AI dla czªowieka
Wprowadzenie do uczenia maszynowego
Reprezentacja danych w Uczeniu Maszynowym
Schemat Uczenia Maszynowego (w krokach)
Na czym polega podziaª: z nadzorem i bez nadzoru
Co to jest klasykacja a co to jest regresja
Przykªady zada« klasykacji i regresji (po 3)
Przykªady zada« uczenia bez nadzoru
Na czym polega zadanie grupowania (ang. clustering)?
Przykªady technik uczenia z nadzorem
Dzi¦kuj¦ za uwag¦
Systemy
Wspomagania
Decyzji
Marcin
Sydow
Wprowadzenie
do AI
Uczenie
Maszynowe
Podsumowanie
Dzi¦kuj¦ za uwag¦.