192****44722022-02-19 22:38:18
192****4472老师，1.我这里没太明白regularization和prune的区别，我感觉它们是一回事情。是不是应该这样理解它们的不同之处：regularization仅仅是在决策树构建初始时的操作（过了这个时间就不能做regularization了），prune仅仅是在树构建完之后进行的操作（其他时间不能做prune），还是这样的理解不对/它们有别的异同？2.这里的regularization和前面penalized regression下讲的regularization有什么异同吗？3.我们数量还有其他科目还有讲到/用到regularization的地方吗？想一起对照帮助理解。谢谢老师！！！
回答（1）
Essie2022-02-20 16:28:48
Essie你好，
1.regularization正则化是指通过对模型的预测能力不会产生实质性贡献的特征进行惩罚来降低模型的复杂性，就比如研究人员指定了决策树的最大深度，最大决策节点数等标准。prune剪枝是指为了避免过拟合，剪掉解释力最少的树的分支。它们本质上都是为了避免过拟合，只是正则化是确立了一个标准，每棵树每个节点都要遵守，而剪枝需要看具体其的解释力度，研究人员才能决定是否剪枝。
2.本质上没有不同，都是降低features的数量来降低模型的程度避免过拟合。只是在惩罚回归里，正则化指出了它的操作方式之一是使那些表现不佳(解释力度差)的特征的贝塔系数(斜率)趋近于零。
3.其他基本没有了，掌握正则化的核心思想应对考试就问题不大了。
- 评论（0）
- 追问（0）
评论
0/1000
追答
0/1000
+上传图片