Please enable JavaScript.

Coggle requires JavaScript to display documents.

Machine Learning Basics, Regressione lineare, :warning: NOTA: per evitare…

- - - - L'ipotesi ha dei parametri che vengono modificati al fine di imparare
  - - - A tutti gli effetti stiamo creando un confine, nello spazio delle caratteristiche, che determina la classe d'appartenenza di un oggetto con quelle caratteristiche
        
        Decision boundary
    - - t è un parametro (theta)
      - g è la funzione sigmoidale (o equivalente)
        
        Sigmoid function
        
        Lo scopo di tale funzione è ridimensionare l'ouput in modo che sia compreso tra 0 e 1
      - L'interpretazione di questo modello è la probabilità che l'output sia 1 dati le caratteristiche x e il parametro theta P(y=1 | x, t)
  - - - aggiungere un termine di regolarizzazione alla funzione di costo
        
        Ad esempio che costringa i parametri ad avere un mse vicino a 0
        
        Viene aggiunto un iperparametro di regolarizzaizone
      - Fare allenamenti per epoche su dati sempre diversi
- - - - repeat until convergence:
        for each parameter Theta as t:
        T = T - a * dJ/dT
    - - I parametri Theta sono quelli che regolano l'output dell'ipotesi
        
        La funzione di costo rappresenta la distanza dai valori predetti da quelli reali e ha come argomenti i parametri Theta
        
        Ad ogni ciclo i parametri vengono aggiornati sottraendo il gradiente della funzione di costo dal parametro stesso
        
        In questo modo si "percorre" la montagna
        
        Il tasso d'apprendimento indica "quanto lungo dev'essere il passo verso il basso". Se è troppo grande la funzione rischia di non convergere o addirittura divergere. Se è troppo piccolo ci può voler troppo tempo per raggiungere la convergenza