Please enable JavaScript.

Coggle requires JavaScript to display documents.

ML訓練過程 (監督式學習) - Coggle Diagram

- - - - 損失函數(Loss Functions)：使用損失函數評估目前模型的好與壞。以MSE(Mean Squared Error), RMSE, 交叉熵(Cross Entropy)為例，前者用於迴歸問題，後者用於分類問題。
  - - - 以梯度下降法 (Gradient Descent)為例：決定模型中參數的修正「方向」與「步長(step size)」
  - - - 透過學習速率(learning rate)來調整ML模型訓練的步長(step size)，調整學習腳步。(此參數在訓練前設定，為hyper-parameter)。
  - - - 設定batch size，透過batch從訓練目標中取樣，來加快ML模型訓練的速度。(此參數在訓練前設定，為hyper-parameter)。與迭代(iteration),epoch介紹。
  - - - 調整「檢查loss的頻率」，依據時間(Time-based)與步驟(Step-based)。
  - - - 重覆過程(評估當前模型好壞 -> 修正模型參數)，直到能通過「驗證資料集(Validation)」的驗證即可結束訓練。
- - - - (訓練前) 依據上方「模型測試」的方法，決定資料分堆的方式：訓練用(Training)、驗證用(Validation)、測試用(Test)。
- - - - regression problem
        
        目標是使用數學函數去組合不同的features，
        這樣我們就能預測出一個連續值作為我們結果的label
        
        目標是最小化我們「預測的結果」與「實際的結果(label)」的誤差，我們常用的計算誤差的方法叫做均方差(mean squared error)
      - classification problems
        
        用features創造一個抉擇邊界，這個邊界幫助我們區分(分類)出結果label
        
        目標是最小化「誤分類」的數量，
        也就是我們「預測的分類」與「實際上的分類label」的誤差要為最小。我們常用的計算誤差的方法叫做交叉熵(cross-entropy)
  - - - 參數(parameters)
        
        隨著模型訓練的過程中不斷變化的(實數)變數
      - 超參數(hyper-parameters)
        
        開始訓練前就設定好的變數，之後開始訓練也不會變