千葉大学 理学研究科 基盤理学専攻 数学・情報数理学コース 2013年8月実施 専門 B9

标签：

• Sufficiency-and-Factorization-Theorem
• Fisher-Information-and-Cramer-Rao-Bound

Author

祭音Myyura (co-authored with GPT 6 Astra)

Description

独立な確率変数 $X_i\sim N(\mu,\sigma_i^2)$ ($1\le i\le n$) を考える。$\mu\in\mathbb R$ は未知、$\sigma_i>0$ は既知とする。

(1) $S=\sum_{i=1}^nX_i/\sigma_i^2$ が $\mu$ の十分統計量であることを示せ。

(2) $S$ を用いて $\mu$ の不偏推定量 $\widehat\mu$ を作れ。(3) その分布を求めよ。

(4) $\mu$ の不偏推定量の分散に関する Cramér–Rao 下限と $\widehat\mu$ の効率を求めよ。

(5) $\overline\mu=n^{-1}\sum_iX_i$ とする。相対効率 $r=\operatorname{Var}(\widehat\mu)/\operatorname{Var}(\overline\mu)$ を求め、$r\le1$ を示せ。

题目描述

独立变量 $X_i\sim N(\mu,\sigma_i^2)$ 具有共同未知均值和已知正标准差。(1) 证明 $S=\sum_iX_i/\sigma_i^2$ 是充分统计量。(2) 用它构造无偏估计 $\widehat\mu$。(3) 求估计量分布。(4) 求 Cramér–Rao 方差下界和该估计量效率。(5) 对算术平均 $\overline\mu$，求上述相对效率并证明不超过一。

Kai

$T=\sum_i\sigma_i^{-2}$ とおく。

(1)

同時密度は

$$p_\mu(x)=\left[\prod_i\frac1{\sqrt{2\pi}\sigma_i} \exp\left(-\frac12\sum_i\frac{x_i^2}{\sigma_i^2}\right)\right] \exp\left(\mu S-\frac{\mu^2T}{2}\right).$$

因子分解定理により $S$ は十分統計量である。

(2), (3)

$E[S]=\mu T$、$\operatorname{Var}(S)=T$ であり、独立正規変数の線形結合は正規分布に従う。よって

$$\boxed{\widehat\mu=\frac ST\sim N\left(\mu,\frac1T\right)}$$

は不偏推定量である。

(4)

スコアは $S-\mu T$、Fisher 情報量は $I(\mu)=T$ である。したがって下限は $1/T$ であり、$\widehat\mu$ はこれを達成するので効率は $1$ である。

(5)

$$\operatorname{Var}(\overline\mu)=\frac1{n^2}\sum_i\sigma_i^2, \qquad \boxed{r=\frac{n^2}{(\sum_i\sigma_i^2)(\sum_i\sigma_i^{-2})}}.$$

Cauchy–Schwarz の不等式から分母は $(\sum_i\sigma_i\sigma_i^{-1})^2=n^2$ 以上である。ゆえに $r\le1$。等号はすべての $\sigma_i$ が等しい場合に限る。