京都大学情報学研究科システム科学専攻 2024年8月実施専門科目確率統計

标签：

Author

以下の問題において， $E(X)$ は確率変数 $X$ の期待値， $V(X)$ は分散を表す。 $N(\mu, \sigma^2)$ は期待値 $\mu$ ，分散 $\sigma^2$ の正規分布を表す。 $\log x$ は自然対数を表す。

既知の定数 $x_1, \ldots, x_n$ は区間 $I = \left[\frac{1}{2}, 2\right]$ に含まれるとし，既知の $g(x) > 0$ は $I$ 上の連続関数とする。確率変数 $Y_1, \ldots, Y_n$ は独立に正規分布にしたがい，

Y_i \sim N(\theta x_i, g(x_i)), \quad i = 1, \ldots, n

である。ただし，実数 $\theta$ は未知パラメータである。定数 $w_1, \ldots, w_n$ を用いて， $\theta$ の推定量

\hat{\theta} = \sum_{i=1}^n w_i Y_i

とする。以下の設問に答えよ。

(1) 推定量 $\hat{\theta}$ の期待値 $E(\hat{\theta})$ と分散 $V(\hat{\theta})$ を求めよ。

(2) $\hat{\theta}$ が不偏推定量となるための $w_1, \ldots, w_n$ についての必要十分条件を示せ。

(3) $\hat{\theta}$ が不偏推定量となる条件のもとで， $\hat{\theta}$ の分散を最小にする $w_1, \ldots, w_n$ を求めよ。

(4) $\theta$ の最尤推定量 $\hat{\theta}_{\mathrm{ML}}$ を求めよ。

(5) $g(x) = 1 + x^4$ とする。設問 (3) で求めた $w_1, \ldots, w_n$ を用いるとき， $\hat{\theta}$ の推定精度を最大とするように， $x_1, \ldots, x_n$ の値を設定せよ。

$X$ を実数値確率変数とする。 $f(x)$ を $X$ の確率分布の確率密度関数とし、 $f(x)$ は実数 $b$ および $\alpha$ を用いて次のように与えられるとする。

f(x) = \begin{cases} \alpha b^\alpha x^{-(1+\alpha)}, & x \geq b \\ 0, & x < b \end{cases}

ただし、 $b, \alpha$ はそれぞれ $b > 0$ , $\alpha > 1$ を満たす。以下の設問に答えよ。

(1) 確率変数 $X$ の期待値を求めよ。

(2) $Y = \log \frac{X}{b}$ とする。 $Y$ がしたがう確率分布の確率密度関数を求めよ。

(3) $f(x)$ に対し、次のような関係を満たす確率密度関数 $g(x)$ を考える。

f(x) = \frac{g(x)^\alpha}{\int_b^\infty g(s)^\alpha \, ds}

ただし、 $x < b$ のとき $g(x) = 0$ とする。 $x \geq b$ における $g(x)$ を求めよ。

(4) $f(x)$ と設問 (3) で与えた $g(x)$ に対して $D[f \| g]$ を次のように定義する。

D[f \| g] = \int_b^\infty f(x) \log \frac{f(x)}{g(x)} \, dx

このとき $D[f \| g]$ を次に定義される $H$ と $R$ ，および $\alpha$ を用いて表せ。

H = -\int_b^\infty f(x) \log f(x) \, dx

R = \frac{1}{1 - \alpha} \log \int_b^\infty g(x)^\alpha \, dx