最小二乘法的介绍,可以参考 最小二乘法的多角度理解 这篇文章。

只有两个参数的情况下:

已知X=Y=两个向量数据。我们假设Y中的元素与X中的元素满足线性关系

中间的步骤可以参考文章              最小二乘法的多角度理解

最后,二乘法的解是:

                                                       \hat{a}_{0}=\frac{E(XY)-E(X)E(Y)}{E(X^2)-E^{2}(X)}=\frac{Cov(X,Y)}{D(X)}

                                                       \hat{a}_{1}=\frac{E(X^2)E(Y)-E(X)E(XY)}{E(X^2)-E^{2}(X)}

                                                            =\frac{E(X^2)E(Y)-E(X)E(XY)}{D(X)}=E(Y)-a_{0}E(X)

\hat{a}_{0}\hat{a}_{1}是获得的估计值,这两个估计值是无偏的。本文讨论这两个估计值的无偏性。

根据无偏定义,就是要求证明下面两个是成立的:

                                                         E(\hat{a_{0}})=a_{0}

                                                         E(\hat{a}_{1})=a_{1}

开始证明:

                                               E(\hat{a}_{0})=E(\frac{E(XY)-E(X)E(Y)}{E(X^2)-E^{2}(X)})=\frac{E(E(X(a_{0}X+a_{1}))-E(X)E(a_{0}X+a_{1}))}{D(X)}

                                                          =\frac{a_{0}E(X^2)+a_{1}E(X)-a_{0}E^2(X)-a_{1}E(X)}{D(X)}

                                                          =\frac{a_{0}D(X)}{D(X)}=a_{0}

这个公式证明中,我们用到的是:

结论E(D(X))=D(X),这个很容易证明,留给大家自己证明吧。这个结论的意思就是,方差的期望还是方差本身,没有变。

上面的证明当中,由于分子E(XY)-E(X)E(Y)=Cov(X,Y),所以你会发现另外一个结果:

E(Cov(X,Y))=a_{0}D(X)=\frac{1}{a_{0}}D(Y)

也就是说,当X与Y呈线性关系,那么,X,Y协方差的期望是其中一个方差乘以线性关系一次项系数。

现在证明了\hat{a_{0}}的无偏性,那么\hat{a}_{1}的无偏性就留待大家证明了。

Logo

有“AI”的1024 = 2048,欢迎大家加入2048 AI社区

更多推荐