孙同学2021-03-10 08:02:52
老师,对于回归检验部分,有几个问题: (1)tradeoff between bias and variance 怎么翻译?这里面bias 和 variance 分别是什么?没太理解有关bias 和 variance 的回归检验问题。 (2)异方差问题中,老师说异方差影响SE,进而影响t统计量的值,不过t统计量的公式中哪里和残差的SE有关呢?t不是=bi的估计量/bi的标准误吗?bi的标准误和残差标准误有什么关系呢?
回答(1)
Jenny2021-03-10 12:07:30
同学你好,
1. 这个是偏差与方差的权衡。我们将回归模型的平均预测值和预测正确值之间的差异定义为偏差。将模型之间的多个拟合预测之间的偏离程度定义为
方差。我们总是希望试图用有限训练样本去估计无限的真实数据。
当回归模型的自变量个数比较少而过于简单时,回归模型容易发生欠拟合,表现在解释力度低,方差小,但是偏差大;
当回归模型的自变量个数比较多而模型过于复杂时,回归模型容易发生过拟合,表现在解释力度高,偏差小,但是方差大。
2. 这个要回到OLS系数估计量best的性质上,best可以这么理解,在回归过程中,经过无数次模拟,找到所有线性无偏系数估计量中方差最小的那组系数估计量,这组估计量就符合best的性质。但是因为异方差的存在,残差项的方差是一直在变化的,所以总体方差也是在变动的,就很难确定最小方差,从而给得出系数估计量造成困难,所以系数的误差,也就是SE,是增加的,因为系数的估计量可能更不准了(误差扩大)。大致了解原理即可,原版书对此也没有更多的展开了。
- 评论(0)
- 追问(0)


评论
0/1000
追答
0/1000
+上传图片