Please enable JavaScript.

Coggle requires JavaScript to display documents.

第５章ディープラーニングの概要 - Coggle Diagram

- - - - 性能
      - 集積
  - - - NVIDIA社
    - - Tensor計算処理専門
      - TPU
        
        Tensor Process Unit
  - - - モデルパラメーター数×10倍
- - - - 実測値ー予測結果
        深くすると誤差が正しく伝わらない
        
        誤差逆伝播法
        
        シグモンド関数の特性
        
        微分最大値は0.25
        
        微分した導関数
        
        遡るごとに伝播する誤差が小さく
        
        勾配消失問題
- - - - 自己符号化器
      - オートエンコーダ
        autoencoder
        
        深層信念ネットワーク
        
        教師なし学習
        
        制限付きボルツマンマシン
        
        積層オートエンコーダー
        
        順番に学習する手順
        
        計算コストは高くつく
        
        事前学習
        
        ２層ニューラルネットワーク
        
        入力層に近い層から順番（逐次的）に学習
        
        ファインチューニング
        
        積み重ねただけではラベル出力できず
        
        積み重ねた最後の階層
        
        ロジスティック階層層
        
        シグモンド関数
        
        ソフトマックス関数
        
        重みの調整は必要
        
        ネットワーク全体の重み調整
        
        教師あり学習
        
        入力
        
        出力を用いた
        
        ①事前学習＞②ファインチューニング