千葉大学 融合理工学府 数学情報科学専攻 数学・情報数理学コース 2017年8月実施 専門 B9

标签：

• Conditional-Expectation-and-Rao-Blackwell-Theorem

Author

祭音Myyura (co-authored with GPT 6 Astra)

Description

(1) 連続型確率ベクトル $(X,Y)$ に対して $E[E[X\mid Y]]=E[X]$ を示せ。

(2) 連続型確率変数 $S,T$ に対し $U=E[T\mid S]$ とする。未知母数 $\theta\in\mathbb R$ について $\operatorname{MSE}(W)=E[(W-\theta)^2]$ と定める。(i) $\operatorname{MSE}(U)\le\operatorname{MSE}(T)$ を示せ。(ii) 任意の凸損失関数 $L$ に対して $E[L(U)]\le E[L(T)]$ を示せ。

题目描述

(1) 对连续型随机向量证明迭代期望公式。(2) 设 $U=E[T\mid S]$，$\theta$ 为未知参数。(i) 证明条件期望估计量的均方误差不超过原估计量。(ii) 将结论推广到任意凸损失函数。

Kai

(1) $E|X|<\infty$ とする。同時密度を $p(x,y)$、$Y$ の周辺密度を $p_Y(y)$ とすると、Fubini の定理により

$$E[E[X\mid Y]] =\int_{p_Y(y)>0}\left(\int x\frac{p(x,y)}{p_Y(y)}\,dx\right)p_Y(y)\,dy =\iint xp(x,y)\,dx\,dy=E[X].$$

(2)(i) $T\in L^2$ のとき、$E[T-U\mid S]=0$ なので

$$E[(T-U)(U-\theta)]=E[(U-\theta)E[T-U\mid S]]=0.$$

従って

$$\operatorname{MSE}(T)=E[(T-U)^2]+\operatorname{MSE}(U)\ge\operatorname{MSE}(U).$$

(ii) 条件付き Jensen の不等式により $L(E[T\mid S])\le E[L(T)\mid S]$。期待値をとり (1) を用いると

$$E[L(U)]\le E[E[L(T)\mid S]]=E[L(T)].$$

ここでは期待値が定義されることを仮定する。非負の損失なら右辺が無限大の場合も不等式は成立する。