尹同學(xué)
2022-07-25 16:36老師想問一下,在解決overfitting的方法中,boosting與bagging有啥區(qū)別?
所屬:FRM Part II > Current Issues in Financial Markets 視頻位置 相關(guān)試題
來源: 視頻位置 相關(guān)試題
1個回答
姚奕助教
2022-07-29 15:26
該回答已被題主采納
Bagging和Boosting的區(qū)別:
1. 訓(xùn)練集
Bagging:每個訓(xùn)練集都是從原始訓(xùn)練集中有放回的選取出來的,每個訓(xùn)練集各不相同且相互獨?。
Boosting:每?輪的訓(xùn)練集都是原始選練集,只是每次訓(xùn)練后會根據(jù)本輪的訓(xùn)練結(jié)果調(diào)整訓(xùn)練集中的各個樣本的權(quán)重,調(diào)整完權(quán)重的訓(xùn)練集?于下?輪的訓(xùn)練。
2. 樣本權(quán)重
Bagging:使?Bootstraping的?式均勻抽樣
Boosting:根據(jù)每?輪的訓(xùn)練不斷調(diào)整權(quán)值,分類錯誤的樣本擁有更?的權(quán)值。
3)弱分類器權(quán)重
Bagging:所有弱分類器權(quán)重相同,使?voting的?式(或均值)決定最終結(jié)果
Boosting:每個弱分類器都有相應(yīng)的權(quán)重,對于分類誤差?的分類器會有更?的權(quán)重。
4)并?計算
Bagging:各個預(yù)測函數(shù)可以并??成,因為數(shù)據(jù)集相互獨?,每個模型之間也獨?,沒有序列關(guān)系。
Boosting:各個預(yù)測函數(shù)只能順序?成,因為下?個模型的產(chǎn)?依賴于之前模型的計算結(jié)果。
