Kevin2020-08-20 09:21:24

同学你好！

举个简单的例子，分类的问题，x=-1000，-10，-5，-4，-3，-2，-1，0，1，2，3，4，5，10，1000，其中-1000和1000都是异常值。训练出来的模型，会判定x在-3到3之间y为1，其余为0，也就是x=-3，-2，-1，0，1，2，3时，y=1。

而Normalization后，这个区间也会相应压缩，可能会变成x（normalized）在-0.3到+0.3之间y（new）为1，其余为0，但此时由于异常值的存在，分母特别大，原本不在-3到3的数据点，经过Normalization后，都在-0.3到0.3之间，即x=-10，-5，-4，-3，-2，-1，0，1，2，3，4，5，10时，y=1。因此该算法对异常值敏感。

而Standardization经过该变化，直观上理解，就是区间成比例缩放，因为是根据该组数据的均值和标准差调整的，异常值对均值和标准差的影响相对较小，因此较大程度保留了该组数据的性质。所以Standardization对异常值不太敏感。但要注意，这里并没有消除outlier，只是outlier的影响小而已。