東京工業大学 情報理工学院 数理・計算科学系 2019年8月実施 概率统计

标签：

• TITech
• Independence-of-Random-Variables
• Expectation-and-Variance
• Exponential-Distribution
• Cumulative-Distribution-Function-and-Probability-Density-Function

Author

思齐塾, 祭音Myyura

Description

パラメータ $\mu \in \mathbb{R}, \sigma > 0$ をもつ確率密度関数 $p(x; \mu, \sigma), x \in \mathbb{R}$ を

$$p(x; \mu, \sigma) = \begin{cases} \frac{e^{-(x-\mu)/\sigma}}{\sigma}, & x \ge \mu, \\ 0, & x < \mu \end{cases}$$

とする． $n \ge 2$ として，確率変数 $X, X_1, X_2, \dots, X_n$ は独立に確率密度関数 $p(x; \mu, \sigma)$ の分布にしたがうとする．また $Y, Z$ を

$$Y = \min\{X_1, \dots, X_n\}, \quad Z = \frac{1}{n} \sum_{i=1}^n X_i$$

とする．なお，非負整数 $k$ と正実数 $c$ に対して $\lim_{x \to \infty} e^{-cx} x^k = 0$ が成り立つことを証明なしに用いてよい．

(1) 非負整数 $k$ に対し， $X^k$ の期待値を $a_k$ とする． $a_{k+1}$ と $a_k$ の間に成り立つ関係式を導き出せ．

(2) $Y$ の確率密度関数を求めよ．

(3) $\sigma$ は既知， $\mu$ は未知とする．このとき $Y - c_1$ と $Z - c_2$ がともに $\mu$ の不偏推定量になるように定数 $c_1, c_2$ を定めよ．またこれらの不偏推定量の分散を計算せよ．

(4) $\sigma$ と $\mu$ はともに未知とする． $Y, Z$ を用いて $\sigma$ と $\mu$ の不偏推定量を構成せよ．

题目描述

对参数 $\mu\in\mathbb R$、$\sigma>0$，定义 $\mathbb R$ 上的概率密度

$$p(x;\mu,\sigma)= \begin{cases} \dfrac1\sigma e^{-(x-\mu)/\sigma},&x\geq\mu,\\ 0,&x<\mu. \end{cases}$$

设 $n\geq2$，随机变量 $X,X_1,\ldots,X_n$ 相互独立且都服从该分布，并定义

$$Y=\min\{X_1,\ldots,X_n\}, \qquad Z=\frac1n\sum_{i=1}^nX_i.$$

可以不加证明地使用：对非负整数 $k$ 和正实数 $c$，

$$\lim_{x\to\infty}e^{-cx}x^k=0.$$

1. 对每个非负整数 $k$，令 $a_k=E[X^k]$，推导 $a_{k+1}$ 与 $a_k$ 之间的递推关系。
2. 求最小次序统计量 $Y$ 的概率密度函数。
3. 设 $\sigma$ 已知而 $\mu$ 未知。确定常数 $c_1,c_2$，使 $Y-c_1$ 与 $Z-c_2$ 都是 $\mu$ 的无偏估计量，并分别计算这两个估计量的方差。
4. 当 $\mu$、$\sigma$ 都未知时，只用 $Y,Z$ 构造它们各自的无偏估计量。

Kai

解答

(1)

$a_k=E[X^k]$ は

$$a_k=\int_\mu^\infty x^k\frac1\sigma e^{-(x-\mu)/\sigma}\,dx$$

である。 $-e^{-(x-\mu)/\sigma}$ を原始関数として部分積分すると、問題文の極限公式により無限遠の境界項は $0$ となり、

$$\begin{aligned} a_{k+1} &=\left[-x^{k+1}e^{-(x-\mu)/\sigma}\right]_{\mu}^{\infty} +(k+1)\int_\mu^\infty x^ke^{-(x-\mu)/\sigma}\,dx\\ &=\mu^{k+1}+(k+1)\sigma a_k. \end{aligned}$$

したがって

$$\boxed{a_{k+1}=\mu^{k+1}+(k+1)\sigma a_k\qquad(k=0,1,2,\ldots)}, \qquad a_0=1.$$

特に $E[X]=\mu+\sigma$ 、 $\operatorname{Var}(X)=\sigma^2$ である。

(2)

$y\ge\mu$ に対し、独立性より

$$P(Y>y)=\prod_{i=1}^nP(X_i>y) =\exp\left(-\frac{n(y-\mu)}{\sigma}\right).$$

これを微分して

$$\boxed{ p_Y(y)= \begin{cases} \dfrac n\sigma\exp\left(-\dfrac{n(y-\mu)}{\sigma}\right),&y\ge\mu,\\ 0,&y<\mu \end{cases}}$$

を得る。すなわち $Y-\mu$ は尺度母数 $\sigma/n$ の指数分布に従う。

(3)

(2) より

$$E[Y]=\mu+\frac\sigma n,\qquad \operatorname{Var}(Y)=\frac{\sigma^2}{n^2}.$$

また独立性と (1) より

$$E[Z]=\mu+\sigma,\qquad \operatorname{Var}(Z)=\frac1{n^2}\sum_{i=1}^n\operatorname{Var}(X_i)=\frac{\sigma^2}{n}.$$

したがって

$$\boxed{c_1=\frac\sigma n,\qquad c_2=\sigma}$$

とすれば $Y-c_1$ と $Z-c_2$ はともに $\mu$ の不偏推定量であり、その分散はそれぞれ

$$\boxed{\operatorname{Var}\left(Y-\frac\sigma n\right)=\frac{\sigma^2}{n^2},\qquad \operatorname{Var}(Z-\sigma)=\frac{\sigma^2}{n}}$$

である。

(4)

期待値の差は

$$E[Z-Y]=\left(1-\frac1n\right)\sigma$$

なので、

$$\boxed{\widehat\sigma=\frac{n}{n-1}(Z-Y)}$$

は $\sigma$ の不偏推定量である。さらに $E[Y]=\mu+\sigma/n$ を使って

$$\boxed{\widehat\mu=Y-\frac1n\widehat\sigma =\frac{nY-Z}{n-1}}$$

と置けば $E[\widehat\mu]=\mu$ となる。よってこれらが、 $Y,Z$ のみを用いた $\sigma,\mu$ の不偏推定量である。