吴珮瑶2021-11-22 11:30:25

你好同学，一元线性回归模型中Yi=b0+b1Xi+εi，X和Y分别代表了自变量和因变量。ε表残差，即第i次观察的残差。在这个回归方程中，斜率b1表示如果自变量X每增加一个单位，则因变量Y会相应上涨b1个单位，当自变量X等于0时，因变量Y就等于截距项b0。

多元线性回归与一元回归非常类似，不同之处在于多元回归模型多了几个自变量X，在多元线性回归模型中，被解释变量只有一个，但解释变量可能有多个，表达式是：Yi=b0+b1X1i+b2X2i+…+bnXni+εi；在多元线性回归模型中，所有的独立变量均不随机，且与残差项不相关，且任意俩个或多个独立变量之间都不存在明显的线性关系。

多元回归模型的解释也发生了变化，例如在Yi=b0+b1X1i+b2X2i+εi中，b0表示自变量X1与自变量X2都等于0时的Y值，而b1则不再无条件地表示自变量X1每增加一个单位，Y相应增加b1个单位了，这句话只有在保持bnXni（n不等于1）不变的情况下才成立，所以参数对模型的解释都增加了一个前提条件【在其他解释变量不变的情况下】

在多元回归模型中，只要有一个自变量Xi是随机的，那么因变量Y也就是随机的，既然自变量Xi不是随机的数，那么自变量Xi就不能与残差项相关，因为残差是随机的，所以所有的自变量Xi都不能与残差项存在相关性，即cov（Xi，εi）=0

根据经验法则，当任意俩个自变量之间的相关系数 r（Xi，Xj）<0.7时，这俩个自变量不存在高度相关性；

在模型Yi=b0+b1X1i+b2X2i+εi中，如果存在 r（Xi，Xj）>0.7，就可以认为自变量Xi与自变量X2之间是存在高度线性相关性的，在这种情况下，自变量X2就可以以很小的误差用X1来表示，即X2=C0+C1X1+ε，将这一表达式迭代回回归方程，就可以消去自变量X2。综上，如果俩个自变量之间存在高度相关性，那么我们只能保留其中一个自变量。