東京大学 情報理工学研究科 数理情報学 2019年8月実施 第2問

标签：

• 东京大学
• 左删失指数模型
• 删失数据的矩估计与似然估计

Author

hari64boli64, Kurosu9991, 祭音Myyura

Description

ある生物の生存時間は平均 $\mu$ の指数分布に従う。 この生物 $n$ 匹の生存時間を観測することで $\mu$ を推定したい。 ただし実験上の制約により、生まれた直後の一定期間 $[0,a]$ は観測ができず、もしこの期間内に生物が死んだ場合には、死んだ事実だけが観測されるものとする。 $a$ は正の定数である。

$i = 1, \ldots, n$ に対し、第 $i$ 番目の個体の生存時間を $X_i$ とおく。 これらは平均 $\mu$ の指数分布に従い、互いに独立とする。 平均 $\mu$ の指数分布の確率密度関数は $f(x; \mu) = (1/\mu)e^{-x/\mu} \ (x > 0)$ である。 また観測値 $Y_i$ を

$$Y_i = \begin{cases} a & (X_i \leq a \text{ のとき}) \\ X_i & (X_i > a \text{ のとき}) \end{cases}$$

と定義する。

以下の問いに答えよ。

(1) $Y_1$ の期待値を $g(\mu)$ とおく。 $g(\mu)$ を求めよ。

(2) $\bar{Y} = n^{-1} \sum_{i=1}^n Y_i$ とおく。$\bar{Y} > a$ のとき、 $g(\hat{\mu}) = \bar{Y}$ を満たす $\hat{\mu}$ がただ一つ存在することを示せ。

(3) $Y_i = a$ を満たす $i$ の個数を $M$ とおく。$0 \leq m \leq n - 1$ および $b > a$ に対して

$$P(M = m, \bar{Y} \leq b) = \int_a^b h(m, y; \mu) \text{d}y,$$

を満たす関数 $h(m, y; \mu)$ を求めよ。

(4) $m < n$ かつ $y > a$ のとき、 $h(m, y; \mu)$ を最大にする $\mu$ がただ一つ存在することを示せ。

题目描述

某生物的寿命服从均值为 $\mu$ 的指数分布。独立观察 $n$ 个个体的寿命 $X_1,\ldots,X_n$，其密度为

$$f(x;\mu)=\frac1\mu e^{-x/\mu}\quad(x>0).$$

由于实验在出生后的固定区间 $[0,a]$ 内无法观测，若个体在此期间死亡，只能知道“已死亡”。其中 $a>0$。定义观测值

$$Y_i= \begin{cases} a,&X_i\le a,\\ X_i,&X_i>a. \end{cases}$$

1. 令 $g(\mu)=E[Y_1]$，求 $g(\mu)$。

2. 令

   $$\bar Y=\frac1n\sum_{i=1}^nY_i.$$

   当 $\bar Y>a$ 时，证明方程

   $$g(\hat\mu)=\bar Y$$

   存在唯一解 $\hat\mu$。

3. 令 $M$ 为满足 $Y_i=a$ 的个体数。对 $0\le m\le n-1$ 与 $b>a$，求函数 $h(m,y;\mu)$，使

   $$P(M=m,\bar Y\le b) =\int_a^b h(m,y;\mu)\,dy.$$

4. 当 $m<n$ 且 $y>a$ 时，证明使 $h(m,y;\mu)$ 最大的 $\mu$ 唯一存在。

Kai

(1)

$Y_1$ の期待値は

$$\begin{aligned} \int_0^a af(x;\mu)\text{d}x + \int_a^\infty xf(x;\mu)\text{d}x=a+\mu e^{-\frac{a}{\mu}} \end{aligned}$$

(2)

$g(\mu)-a=\mu e^{-a/\mu}$ を考える。この関数は $\mu\downarrow0$ で $0$、$\mu\to\infty$ で $+\infty$ となり、

$$\frac{\mathrm d}{\mathrm d\mu}\left(\mu e^{-a/\mu}\right) =e^{-a/\mu}\left(1+\frac a\mu\right)>0.$$

したがって $\bar Y-a>0$ に対する解はただ一つ存在する。

(3)

まず、$P(M=m)$ を求める。

$P(Y_1=a)=\int_0^a{f(x;\mu)}\text{d}x=1-e^{-\frac{a}{\mu}}$より、$P(M=m) = \binom{n}{m} (1-e^{-\frac{a}{\mu}})^m(e^{-\frac{a}{\mu}})^{n-m}$

次に、$P(\overline{Y}\leq b | M=m)$ を求める。

$$\begin{aligned} P(\overline{Y}\leq b | M=m) & = P\left( \sum_{i=1}^n Y_i \leq nb \middle| M=m \right) \\ & = P\left( am + \sum_{i=1}^{n-m} (X_i+a) \leq nb \right) \\ & = P\left( \sum_{i=1}^{n-m} X_i \leq n(b-a) \right) \\ & = \int_0^{n(b-a)} f_{n-m}(x) \text{d}x \\ & = \int_a^{b} nf_{n-m}(n(y-a)) \text{d}y \end{aligned}$$

ただし、一行目から二行目の変形で、指数分布の無記憶性を用いた。

また、$f_{n-m}$ で、指数分布を $n-m$ 個重ね合わせた分布を示している。

これは、ガンマ分布に従うことが一般に知られている。(後述)

以上より、

$$\begin{aligned} P(M=m,\overline{Y}\leq b) & = P(M=m)P(\overline{Y} \leq b|M=m) \\ & = \binom{n}{m} (1-e^{-\frac{a}{\mu}})^m(e^{-\frac{a}{\mu}})^{n-m} \int_a^{b} n f_{n-m}(n(y-a)) \text{d}y \\ & = \binom{n}{m} (1-e^{-\frac{a}{\mu}})^m(e^{-\frac{a}{\mu}})^{n-m} \int_a^{b} \frac{n}{(n-m-1)!\mu^{n-m}} (n(y-a))^{n-m-1} e^{-\frac{n(y-a)}{\mu}} \text{d}y \\ \end{aligned}$$

したがって、求める関数は

$$h(m,y;\mu)=\binom{n}{m}(1-e^{-a/\mu})^m e^{-a(n-m)/\mu} \frac{n\{n(y-a)\}^{n-m-1}}{(n-m-1)!\mu^{n-m}}e^{-n(y-a)/\mu}.$$

(4) - by hari64boli64

$\mu$ に関連する部分だけ取り出すと、

$$\begin{aligned} M(\mu) & = (1-e^{-\frac{a}{\mu}})^m(e^{-\frac{a}{\mu}})^{n-m} \frac{1}{\mu^{n-m}} e^{-\frac{n(y-a)}{\mu}} \end{aligned}$$

となる。$\lambda=1/\mu$ とおき、定数項を除いた対数を $l(\lambda)$ とすると

$$l'(\lambda)=\frac{n-m}{\lambda}+\frac{ma}{e^{\lambda a}-1}-(ny-ma),\qquad l''(\lambda)<0.$$

また $l'(0^+)=+\infty$、$l'(+\infty)=-(ny-ma)<0$ なので、極大点はただ一つである。

(4) - by Kurosu9991

$\mu$ に関連する部分だけ取り出すと、

$$M(\mu) = (1-e^{-\frac{a}{\mu}})^m(e^{-\frac{a}{\mu}})^{n-m} \frac{1}{\mu^{n-m}} e^{-\frac{n(y-a)}{\mu}}$$

$\lambda=\frac{1}{\mu}$ とおくと、

$$L(\lambda) = \lambda^{n-m} (1-e^{-\lambda a})^m e^{-\lambda (ny-ma)}$$

を得る。対数を取って微分すると

$$l(\lambda) = (n-m)\ln\lambda + m\ln(1-e^{-\lambda a}) - \lambda (ny-ma)$$

$$\begin{aligned} l'(\lambda) & = \frac{n-m}{\lambda} + m\frac{ae^{-\lambda a}}{1-e^{-\lambda a}} - (ny-ma) \\ & = \frac{n-m}{\lambda} + \frac{ma}{e^{\lambda a}-1} - (ny-ma) \end{aligned}$$

さらに

$$l''(\lambda)=-\frac{n-m}{\lambda^2} -\frac{ma^2e^{\lambda a}}{(e^{\lambda a}-1)^2}<0.$$

$l'(0^{+})=+\infty$、$l'(+\infty)=-(ny-ma)<0$ であるから、$l(\lambda)$、したがって $h(m,y;\mu)$ は唯一の極大点を持つ。

Knowledge

指数分布は再生性を持たない。つまり、$X_1,X_2,\cdots$ が独立に指数分布に従うとしても、$X_1+X_2+\cdots$ は指数分布に従わない。 同じ平均を持つ独立な指数分布の和はアーラン分布に従う。 特に、今回はガンマ分布に従う。これは以下の畳み込みの式と帰納法で示せる。

$$\begin{aligned} f_{Y(=X_1+X_2)}(y)=\int_0^{y}{f_{X_1}(x)f_{X_2}(y-x)\text{d}x} \end{aligned}$$

同じ指数分布の重ね合わせがガンマ分布になることを示す。

$$\begin{aligned} f_1(x;\mu) & =\frac{1}{\mu}e^{-\frac{x}{\mu}} \\ f_2(x;\mu) & =\int_0^x{f_1(y;\mu)f_1(x-y;\mu)\text{d}y} \\ & =\int_0^x{\frac{1}{\mu}e^{-\frac{y}{\mu}}\frac{1}{\mu}e^{-\frac{x-y}{\mu}}\text{d}y} \\ & =\frac{1}{\mu^2}\int_0^x{e^{-\frac{x}{\mu}}\text{d}y} \\ & =\frac{1}{\mu^2}xe^{-\frac{x}{\mu}} \\ f_3(x;\mu) & =\int_0^x{f_2(y;\mu)f_1(x-y;\mu)\text{d}y} \\ & =\int_0^x{\frac{1}{\mu^2}ye^{-\frac{y}{\mu}}\frac{1}{\mu}e^{-\frac{x-y}{\mu}}\text{d}y} \\ & =\frac{1}{\mu^3}\int_0^x{ye^{-\frac{x}{\mu}}\text{d}y} \\ & =\frac{1}{2\mu^3}x^2e^{-\frac{x}{\mu}} \\ f_n(x;\mu) & =\int_0^x{f_{n-1}(y;\mu)f_1(x-y;\mu)\text{d}y} \\ & =\frac{1}{(n-1)!\mu^n} x^{n-1} e^{-\frac{x}{\mu}} \\ \end{aligned}$$

頑張れば、ガンマ分布の形を覚えていなくても、畳み込み計算から示すことが出来る。

指数分布の無記憶性を示す。

$$\begin{aligned} P(X>s+t|X>s) & =\frac{P(X>s+t)}{P(X>s)} \\ & =\frac{\int_{s+t}^{\infty}\frac{1}{\mu}e^{-\frac{x}{\mu}}\text{d}x}{\int_{s}^{\infty}\frac{1}{\mu}e^{-\frac{x}{\mu}}\text{d}x} \\ & =\frac{e^{-\frac{s+t}{\mu}}}{e^{-\frac{s}{\mu}}} \\ & =e^{-\frac{t}{\mu}} \\ & =P(X>t) \\ \end{aligned}$$

---

指数分布の無記憶性とその証明

指数分布とは，「コールセンターに次に電話がかかってくるまでにかかる時間」や「電化製品が次に壊れるまでの時間」などに用いられます。「昨日コールセンターに電話がかかってきたから，今日はかかってこないだろう」とか「昨日電化製品が壊れなかったから，今日は壊れないだろう」とか，そういうことはないわけですから，この事象には，無記憶性があるといえるわけですね。

---

そして、最後の (4) などは、図1が念頭にあると、より分かりやすいと思われる。

図1 パラメータ毎の指数分布

図1は指数分布の密度がパラメータによって変化する様子を表す。本問の観測尤度 $h$ の最大点の一意性は、(4) の $l''(\lambda)<0$ と導関数の両端の符号から従う。