Please enable JavaScript.
Coggle requires JavaScript to display documents.
COMPUTATIONAL LEARNING: BASI - Coggle Diagram
COMPUTATIONAL
LEARNING: BASI
Definizione e Componenti
A impara da D rispetto a T se L di A in T migliorano con D
A
imparare T usando D
H spazio ipotesi
learning procedure per trovare migliore soluzione h*
minimizzare errore di ciò
che non vediamo
T
task, permette di definire input e output
supervised learning
unsupervised learning
D
dataset
L
funzione per vedere quanto sbaglia h su s
h possibile soluzione
s esempio
misure errore vs misure bontà
Valutazione ipotesi
H={h:wx | w € R}
mean squared error
1/N sum(yi - h(xi))^2
si cerca h* arg min della funzione sopra
cerco dove la derivata di w si annulla:
w*= sum xiyi / sum xi^2
NON E' LA BEST
argmin dell'expected error non calcolabile
non conosciamo la true data
distribution
obiettivo principale
capcità di un modello di generalizzare partendo dai dati che abbiamo
Train e Test
per la generalizzazione
L'errore del test non è minimizzato durante il training
under-over
under fitting
sia il train che il test error alti
NO
over fitting
train error basso test error alto
Aumento di grado
trick di riscrivere w come vettore
[w1,...,wn]^T * [x^n-1,...,x,1]
più aumento digrado H più diminuisce train error
NON PER IL TEST
prima decresce poi esplode
OVERFITTING
SOLUZIONE MIGLIORE:
minimizzare il più possibile sia test che train
AIC BIC VC
per stimare test error
TrueE(h)<=TrE(h)+w(h)
w(h) stima ottimismo
AIC BIC VC
NON SI USA PIU' AL GIORNO D'OGGI