Please enable JavaScript.

Coggle requires JavaScript to display documents.

Machine Learning A-Z (Metodi ensemble e riduzione della dimensionalità…

- - - - "Bootstrap Aggregation"
        
        Tecniche di Campionamento con Bootstrap
        
        Modello Predittivo
        
        Alberi di decisione
        
        Costruzione di alberi di decisione multipli
        
        classificatore Bagged assegna voti
    - - Computati su R con Mboost
      - Processo iterativo
        
        ADABoost
      - Processo
        
        Per ogni iterazione
        
        Algoritmo trova classificatore migliore
        
        Peso maggiore ai campioni non classificati correttamente nell'iterazione successiva
        
        Generazione Classificatori deboli
      - XGBoost
        
        gradient boosting
        
        gradient boosting stocastico
        
        regularized gradient boosting
    - - Combinazione di un gruppo di alberi di decisione
      - troppe dimensioni
      - Riduzione della dimensionalità
      - ALternativo alla PCA
  - - - riduzione di molte variabili alcune delle quali correlate in meno variabili non correlate
      - scomposizione di un fenomeno nelle sue dimensioni di fondo
      - applicazioni
        
        processamento di immagini
        
        raccomandazioni
        
        riconoscimento vocale
        
        analisi dei testi
    - - Standardizzazione dati di input
      - computazione di k vettori ortogonali detti componenti principali
      - le componenti principali si trovano in ordine di importanza o forza decrescente
    - - autovalore 1
      - variabilità spiegata
      - scree test
    - - TECNICHE DI ROTAZIONE
- - - - Esplosione combinatoria dei termini polinomiali
        
        O(n^2) dove n è il numero delle features
        
        overfitting training set
        
        computationally expensive
        
        inclusione dei termini cubici
        
        O(n^3)
        
        Un sacco di termini!
        
        Soluzioni
        
        inclusione di un sottoinsieme di termini
      - Problema della Computer Vision
        
        CLassificazione macchina/non macchina in base a due pixel
        
        Dimensioni dello spazio
- - - - All-in
        
        Tutte le variabili dentro
        
        Prior Knlowledge
        
        DObbiamo: qualcuno ci da le variabili e via
        
        Preparazione alla backward elimination
      - Stepwise regression
        
        Forward Selection
        
        molto più complesso
        
        procedura
        
        1) Select a significance level to enter the model (e.g. SL = 0.05
        )
        
        2) Fit all simple regression models y - xn, Select one with the lowest P-value
        
        3) Keep the variable and fit all possible models with one extra predictor added to the ones you already have
        
        4) Consider the predictor with the lowest P-value. If P<AL go to STEP 3, otherwise go to FIN
        
        Bidirectional Elimination
        
        1) Select a significance level to enter and to stay (e.g. SLENTER=0.05, SLSTAY=0.05
        )
        
        2) Perform the next step of forward selection
        
        Backward Elimination
        
        1) Selezione di un livello di significatività per stare nel modello (0.05
        )
        
        2) Fit the full model with all possible predictors
        
        3) Consider the predictor with the highest P-value
        
        if P>SL go to Step 4, else go to FIN
        
        4) Remove the Predictor
        
        5) Fit the model wothout htis variable
        
        torna allo step 3)
        
        FIN: THE MODEL IS READY
      - Score Comparison
- - - - Onedimension
        
        Separazione dei rossi con un singolo verde: :red_cross: impossibile
        
        dataset non linearmente separabile
        
        spostamento tramite funzione :check:
        
        Con suqared function
        
        ADESSO è LINEARMENTE SEPARABILE!