模型複雜度

Underfitting Overfitting
說明 1. 訓練模型時,沒有體現特徵之間關聯,可能是Feature Selection過少,以至於模型設計過於簡略,沒有符合實際狀況
  1. 模型複雜度過低,在training data & testing data 表現皆差 | 1. 訓練模型時,過度緊密連結訓練資料的特徵關聯性, 可能是選擇過多特徵、維度過大,以至於難以符合實際真實情況

  2. 在 training data 中,模型會有極佳狀況 ( 因過度針對訓練資料製作模型 );然在測試資料中,表現不如預期 | | 解決辦法 | 1. 更換模型,挑選較複雜的模型,如Nonlinear Model

  3. 加入更多特徵,增加模型複雜度 | 1. 增加資料量 #困難→drop out

  4. 採用 Feature Selection,減少特徵數量,即資料維度降低,模型複雜度也降低

  5. 更換模型選擇:降維模型

  6. **正規化,保留特徵

  7. Dropout Layer** |

正規化 Regularization ( Weight Decay )

降維模型

Overfitting 其他 solutions

避免 Overfitting