Jenny2020-10-20 10:21:10

同学你好，如果回归模型中含有截距项，若一个定型变量有m个类别，则引入m-1个虚拟变量。否则会产生虚拟变量陷阱。
另外，这里再对虚拟变量陷阱进行展开一下，这部分的解释会有些超纲，会涉及到矩阵和线性代数方面的内容，所以这部分会简单略过不展开。大概了解一下就可以了。
主要是记结论，即如果有截距项的情况下，只能引入m-1个虚拟变量，否则会导致虚拟变量陷阱。
假设y是因变量，自变量有C1、C2、C3。在有截距项b时，回归模型为：
y=a1×C1+a2×C2+a3×C3+b
按上图中的虚拟变量设置，用OLS（ordinary least squares）求解方程的时候，模型解为
[a1,a2,a3,b]’=invert((X’X))X’Y，
当有截距项b的并用时候，用上述公式求解模型就会遇到“虚拟变量陷阱”，也就是矩阵X’X是不可逆的（因为矩阵并不是满秩的）。简单来说就是完全多重共线性（即其中一个自变量可以完全由另外两个自变量决定）导致OLS算法中矩阵不可逆。从而无法计算回归模型的系数（“虚拟变量陷阱”是和回归模型的求解算法有关的，上述的OLS的闭式解会报错）。如果去掉截距项，这个矩阵是满秩的，也就是各列向量并不是线性相关。故此时，没有共线性的问题，那么就可以计算出回归模型的系数。


如果回归模型不含截距项，则m种特征需引入m个虚拟变量。但是在建立模型的时候，通常是建立含截距项的模型。虽然不含截距项的模型引进和类别相同数量的虚拟变量不存在完全共线性的问题，但要检验截距项的差值会更加困难，且不含截距项的回归在计算r方上没有一个一致的方法。所以一般都是采用含有截距项的模型进行研究。