2. 在建立迴歸或分類模型時,若希望避免模型過度擬合(Overfitting),可透過加入正則化項以限制模型的複雜度。其中,L1 正則化(Lasso)的主要效果為何?
(A)增加模型參數的數量,以提升表現靈活度;
(B)強化梯度穩定性,避免參數更新過度震盪;
(C)產生稀疏模型(Sparse Model),使部分參數權重收斂為零;
(D)提高學習率(Learning Rate),加速模型收斂速度
答案:登入後查看
統計: A(0), B(3), C(9), D(0), E(0) #3774676
統計: A(0), B(3), C(9), D(0), E(0) #3774676
詳解 (共 2 筆)
#7372176
- L1 正則化 (Lasso, Least Absolute Shrinkage and Selection Operator):在損失函數(Loss Function)中加入權重參數的絕對值之和(\(\sum |w_i|\))作為懲罰項。
- 稀疏性 (Sparsity):由於 L1 懲罰項的特性(在頂點處不可導),它傾向於將不重要的特徵的參數權重(Weight/Coefficient)直接縮減為精確的 \(0\)。
- 主要效果:這會導致模型變得「稀疏」(Sparse Model),即參數矩陣中包含大量的 \(0\)。這種特性使得 L1 正則化能夠自動進行特徵選擇(Feature Selection),從而避免過度擬合。
0
0