姚奕2022-07-29 15:26:33

Bagging和Boosting的区别：
1. 训练集
Bagging：每个训练集都是从原始训练集中有放回的选取出来的，每个训练集各不相同且相互独⽴。
Boosting：每⼀轮的训练集都是原始选练集，只是每次训练后会根据本轮的训练结果调整训练集中的各个样本的权重，调整完权重的训练集⽤于下⼀轮的训练。
2. 样本权重
Bagging：使⽤Bootstraping的⽅式均匀抽样
Boosting：根据每⼀轮的训练不断调整权值，分类错误的样本拥有更⾼的权值。
3）弱分类器权重
Bagging：所有弱分类器权重相同，使⽤voting的⽅式（或均值）决定最终结果
Boosting：每个弱分类器都有相应的权重，对于分类误差⼩的分类器会有更⼤的权重。
4）并⾏计算
Bagging：各个预测函数可以并⾏⽣成，因为数据集相互独⽴，每个模型之间也独⽴，没有序列关系。
Boosting：各个预测函数只能顺序⽣成，因为下⼀个模型的产⽣依赖于之前模型的计算结果。