Please enable JavaScript.

Coggle requires JavaScript to display documents.

Dada, Visualització, Models supervisats, Preprocessat, Publicació, Segons…

- - - - Regressió lineal simple (1 variable explicativa)
      - Regressió lineal múltiple
- - - - Tipus de kernel:
        lineal, polinomial, radial i sigmoidal.
- - - - Funcions d'entrada:
        
        suma ponderada (habitual)
        
        màxim o mínim
        
        and/or (entrades binàries)
      - Funcions d'activació:
        
        esglaó (-1,1 o 0,1)
        
        lineal
        
        sigmoide
        
        tangent hiperbòlica
      - Perceptró: Suma ponderada + esglaó
      - Neurona sigmoide: Suma ponderada + sigmoide
    - - D'una neurona
        
        (Tantes com atributs d'entrada)
      - Monocapa amb una sortida
        
        Més neurones en la capa oculta significa més capacitat de processament, millor predicció, però risc de sobreentrenament
        
        Regla: Neurones en la capa oculta entre una i dos vegades el número de neurones d'entrada.
      - Monocapa amb múltiples sortides
        
        En classificacions binàries: una neurona de sortida.
        En classificacions en n grups, n neurones de sortida.
      - Multicapa amb múltiples sortides
        
        Més poder de predicció i qualitat, més capacitat de separació. Risc de sobreentrenament. Alt cost computacional i temporal.
    - - cross-entropy cost function
      - Nou tipus de neurona: softmax
        
        Els valors de sortida són sempre positius i el conjunt total suma sempre 1. Pot ser interpretada com una distribució de probabilitats.
      - Mètodes de regularització
        
        L1, L2. Eviten el sobreentrenament
      - Inicialitzar els pesos de forma no aleatòria
        
        seguint variables aleatòries gaussianes
      - Mètodes per elegir els paràmetres de configuració de la xarxa
- - - - Apte per conjunts de dades petits.
        
        Simple i eficient.
        
        Assumeix que els atributs són independents, i això no sempre és cert. Cal intentar transformar les dades per forçar-ho.
        
        Si el conjunt d'entrenament no està balancejat i una classe és molt majoritària, té tendència a assignar als nous registres aquesta classe.
- - - - SVD (Singular Value Decomposition)
      - PCA (Anàlisi de Components Principals)
      - Non-Negative Matrix Factorization (NMF o NNMF)
    - - Segons mesures d'importància
        
        Càlcul del guany d'informació
        
        En un arbre de decisió
      - Segons correlació. Si dues variables estan molt correlacionades aporten informació redundant. Seleccionem la que té més correlació amb la variable objectiu.
        !!! La correlació mesura només la relació lineal
        
        Selección de máxima relevancia (maximum relevance selection)
      - Segons variància estadística - Descartar variables amb variància pròxima a 0
      - Mètodes basats en tests estadístics (tests d'hipòtesis)
    - - Exhaustive search (per problemes de dimensió petita)
      - Stepwise selection
      - Branch and bound
  - - - Mostreig aleatori sense reemplaçament
      - Mostreig aleatori amb reemplaçament
- - - - Normalització min-max
        
        Rang entre 0 i 1
      - Normalització per la diferència
      - Normalització z-score
        
        Mitjana 0
        Desviació típica 1
- - - - Mitjana
        
        Provoca biaix en mesura de dispersió
      - Estimadors robustos de tendència central
      - Ratio imputation
  - - - Estimadors de tendència central i dispersió robustos front la presència d'outliers
        
        Robustos: Mediana, Mitjana retallada i Mitjana winsoritzada.
        Rang interquartílic (IQR) i Desviació absoluta respecte la mediana (MAD).
        
        No robustos: Mitjana aritmètica. Desviació estàndard.
- - - - Veure Diagrama Test d'hipòtesis i intervals de confiança
  - - - Arbres de decisió: 2, 3
      - k-NN: 2
- - - - Kappa
      - Classificació binària.
        Matriu de confusió.
        
        F1 score
      - Matriu de confusió per k classes.
        
        1-vs-1 (OvO)
        
        1-vs-all (OvA)
      - Corva ROC
  - - - Per cada partició
        
        Diàmetre/Separació/Aïllament
      - General del model
        
        C index
        
        Permet comparar resultats de diferents algoritmes en un mateix joc de dades
        
        Dunn index
    - - Rand index
  - - - LOO (Leave-one-out)
        Alt cost computacional. Per conjunts de dades reduïts
      - Bootstrap - remostreig amb reemplaçament
      - Validació creuada (k-fold cross validation) (k=3 (regla dels dos terços), 5, 10)
  - - - Distribució normal
        Dades independents
        entrenament - test
        (No validació creuada)
        
        Tests paramètrics
        
        Test t
        
        Test z
      - Tests no paramètrics
        
        Prova de Wilcoxon
        (Usar si es comparen dos models en múltiples conjunts de dades / diversos problemes)
        
        Test de signe
        
        Test de McNemar
        (Per remostreigs iteratius)
  - - - Distribució normal
        de les mostres.
        Homogeneïtat de variància
        
        Tests paramètrics
        
        ANOVA
        
        Si es rebutja H0 apliquem test post-hoc
        
        Comparar tots els models entre si
        
        ANOVA
        
        1 more item...
        
        Friedman
        
        1 more item...
        
        Comparar un model
        de referència
        amb els altres models
        
        ANOVA
        
        1 more item...
        
        Friedman
        
        1 more item...
      - Tests no paramètrics
        
        Prova de Friedman
- - - - Tipus de distància
      - Tipus d'enllaç
        
        simple (distància mínima) - sensible a soroll
        
        complet (distància màxima) - sensible a outliers
        
        average (distància mitjana)
        
        distància dels centroides - per bbdd de gran volum
    - - Criteris de parada
        
        Profunditat màxima
        
        Nombre màxim d'instàncies en una partició
        
        Valor màxim per a una mesura de similitud
      - Criteri de divisió
        
        P.ex. usar k-means
  - - - k-medians, amb distància de Manhattan normalment - més robust front outliers i distribucions assimètriques.
        
        k-medoids - com k-medians però els centroides seran segur punts del conjunt de dades
        
        fuzzy c-means - les instàncies tenen un valor de probabilitat de pertinença a cada clúster
  - - - Usant una "cheap metric" es distribueixen les dades en "canopies", de manera que en l'algoritme posterior ja no es calcularan les distàncies entre instàncies de diferents canopies.
- - - - Bagging
        
        Els diversos conjunts d'entrenament es formen a partir de l'original fent un mostreig amb reemplaçament.
        
        Si hi ha colinealitat entre variables també es pot fer variar les variables presents en cada conjunt, fent emergir algunes que quedarien d'altra manera descartades.
        
        La decisió final es pren per majoria, donant el mateix pes a totes les decisions parcials de cada classificador.
      - Boosting
        
        El primer classificador rep el conjunt d'entrenament sencer. Els registres mal classificats es sumen al conjunt de dades pel segon classificador, i a més ponderats per tal que tinguin més pes. I així repetidament.
        
        La seqüència s'atura quan un classificador ja no aporta res nou respecte l'anterior.
        
        Una vegada s'ha assolit el classificador combinat final, l'avaluació es realitza també en paral·lel, ja que en una primera etapa es genera la decisió parcial per a cada un dels classificadors base i en la segona s'obté la classificació final ponderant totes les decisions parcials.
        
        Problema: sobreentrenament. És necessari disposar d'un conjunt de test i avaluar en cada etapa el resultat obtingut, aturant el procés quan l'error en el conjunt de test comença a augmentar.
  - - - Stacking
        
        Construir diferents classificadors base de manera que cada un d'ells generi una decisió parcial per a cada element d'entrada del conjunt d'entrenament. Aleshores es construeix un nou classificador usant com a dades d'entrada totes les prediccions parcials, enlloc de les dades originals d'entrada. Aquest segon classificador sol ser un arbre de decisió, una xarxa neuronal senzilla o una regressió logística.
      - Cascading
        
        És semblant al stacking però utilitzant no només les prediccions parcials dels classificadors base, sinó també les dades originals i fins i tot altres dades que s'hagin pogut generar durant la presa de decisions. La idea bàsica és alimentar el classificador combinat amb decisions parcials, així com els motius que han portat a prendre aquestes decisions.