统计概率数理统计抽样偏差MSE点估计若T是θ的一个估计.求证：MSE(T)=Var(T)+bias(T)^2MSE的定义是MSEθ(T)=E((T−θ)^2)biasT是T的抽样偏差,公式为bias(T)=E(T)−θ我不明白展开的时候那个MS

Question

统计 概率 数理统计 抽样偏差 MSE 点估计
若T是θ的一个估计.
求证：MSE(T)=Var(T)+bias(T)^2
MSE的定义是
MSEθ(T) = E((T − θ)^2)
biasT是T的抽样偏差,公式为 bias(T) = E(T)−θ
我不明白展开的时候那个MSE的E就从外面到里面了.

Answer 1

线性模型中,这个是最基本的定理了,
MSE(T)
=E((T − θ)^2)
=E((T − ET + ET - θ)^2)
=E((T − ET )^2) + E((ET - θ)^2) + 2E((T-ET)(ET-θ))
注意到ET-θ是一个数值,所以E((ET - θ)^2)=(ET - θ)^2,2E((T-ET)(ET-θ))=2(ET-θ)E(T-ET)=0,
代入得
MSE(T)=Var(T)+bias(T)^2.
你要注意到常数是可以从期望E里面拿出来的.
另外该结论可以推广到向量和均方误差矩阵.