Please enable JavaScript.

Coggle requires JavaScript to display documents.

Rede Neural (Informações (Polarização (bias) é um neurônio especial que…

- - - - suavizar o valor de uma feature
  - - - L1
        
        soma de valores absolutos
        
        Útil para datasetsde alta dimensionalidade onde muitas featuressão irrelevantes
        
        Provoca maior esparsidade: maioria dos pesos terão valor 0 (zero).
      - L2
        
        soma dos quadrados
  - - - Começa com um conjunto de todos os atributos. Os piores
        atributos são determinados e removidos do conjunto inicial
    - - Começa vazio e vai adicionando
- - - - uma reta que minimiza o erro médio entre todos os valores considerados
  - - - intenção de diminuir o valor da função de erro
        
        Batch gradientdescent(BGD)
        
        utilizar todo o dataset para calcular um único passo de atualização
        
        a garantia de convergência para o mínimo
        global em superfícies convexas
        
        Stochastic gradient descent(SGD)
        
        atualização incremental de pesos
        
        Convergência mais rápida
        
        Uso em aprendizado online (novos dados estão sempre chegando)
        
        Menor eficiência computacional em virtude da necessidade de loops vs. operações vetorizadas
        
        a atualização dos parâmetros é feita para
        cada amostra do conjunto de treinamento
        
        Gradiente descendente em mini-lote
        
        combina o melhor das abordagens em lote e estocástica
        
        mini-batches, ou mini-lotes, compostos
        por n amostras
- - - - mede a diferença esperada entre a função estimada e o verdadeiro processo gerador de dados