黄石2023-10-30 09:28:06

同学你好。这道题涉及极值理论的估计方法，其中绝大部分在FRM此前的学习中是没有做过铺垫的。这些方法相对于线性回归来说难度较高，答疑平台上无法展开，建议同学稍微留个印象就可以了，考试不会考的太深。如果感兴趣的话可以看一下原版书第39-43页。其中，最大似然估计通过最大化样本的对数似然函数以找到参数估计，得到的参数估计可以最大化观测到现有样本的概率。

详细来说，最大似然估计需要首先对分布作出假设，然后根据样本数值和分布得到一个联合概率，再通过最大化这个联合概率（即似然函数）的对数（以求数学上的简化）来得到参数估计。比方说我们要估计广义极值理论，假设极值服从Gumbell分布。Gumbell分布的PDF见图一（课上是CDF，对其求一阶导即可得到PDF），记作f(x)。接下来，我们用每个样本的取值代入PDF，得到f(x1)，f(x2)，...，f(xn)。假设数据独立同分布，那么观测到整个样本的概率就应 = f(x1)*f(x2)*...*f(xn)，这就是一个联合概率（注：这是独立情况下P(AB) = P(A)P(B)的直接体现），在最大似然估计中被称作似然函数。接下来找到最大化似然函数的参数，但由于对连乘作微分较为复杂，我们一般对似然函数取一个对数，把multiplication转换为addition，再去求一阶导（针对Gumbell分布的对数似然函数见图二）。求出来的估计量就是最大化观测到现有样本的最大似然估计量。最大似然估计量有非常良好的性质，虽然大部分情况下其在有限样本中有偏，但在大样本中是渐近无偏且一致的（即随着样本增大，其期望值等于总体参数，且依概率收敛于总体参数）；更甚，若模型对于分布的假设是正确的，那么可证最大似然估计量在大样本中达到克拉玛-罗下界（Cramer-Rao Lower Bound），是最有效的估计量。