Mark.Li2021-06-15 18:35:59
LASSO惩罚项为什么k个数越多系数和越大呀?个数变多但系数的绝对值应该都会有所变化吧。会不会多加的变量fit后其余的系数绝对值都变小导致求和比原来小?
回答(1)
Kevin2021-06-16 09:31:54
同学你好!
你可能对LASSO的关注点不对。LASSO的目的是使得损失函数(残差的平方和+lambda*bi绝对值)最小。
如果k个数很大,相当于加了很多features,为了使损失函数最小,对损失函数求最小值时,部分bi的值会接近于0,也就相当于抛弃了部分没什么用的features。因此k的个数对最终的结果影响不会很大,最终还是取决于features的解释力度。
回到你的问题:k个数很大时,惩罚项的确不一定会变大,但不是关注的重点;即使惩罚项比原来小也不影响,因为求最值时会自动过滤无用的features。
致正在努力的你,望能解答你的疑惑~
如此次答疑能更好地帮助你理解该知识点,烦请【点赞】。你的反馈是我们进步的动力,祝你顺利通过考试~
- 评论(0)
- 追问(0)
评论
0/1000
追答
0/1000
+上传图片
