京都大学 情報学研究科 システム科学専攻 2019年8月実施 専門科目 確率統計
Author
Miyake , AKIRA
Description
問題1
確率変数 X X X の確率分布が以下の確率密度関数で与えられたとき、X X X の期待値と分散を求めなさい。μ \mu μ は実定数である。
f ( x ) = { 1 2 π x exp ( − 1 2 ( log x − μ ) 2 ) , x > 0 0 , x ≤ 0 f(x) = \left\{
\begin{aligned}
&\frac{1}{\sqrt{2\pi}x} \exp \big(-\frac{1}{2} (\log x - \mu)^2\big), &x > 0 \\
&0, &x \le 0
\end{aligned}
\right. f ( x ) = ⎩ ⎨ ⎧ 2 π x 1 exp ( − 2 1 ( log x − μ ) 2 ) , 0 , x > 0 x ≤ 0
問題2
確率密度 X X X は確率密度関数
f ( x ; μ ) = { 1 μ exp ( − x μ ) , x > 0 0 , x ≤ 0 f(x; \mu) = \left\{
\begin{aligned}
&\frac{1}{\mu} \exp \big(-\frac{x}{\mu} \big), &x > 0 \\
&0, &x \le 0
\end{aligned}
\right. f ( x ; μ ) = ⎩ ⎨ ⎧ μ 1 exp ( − μ x ) , 0 , x > 0 x ≤ 0
の指数分布にしたがう。ただし μ > 0 \mu > 0 μ > 0 はパラメータである。以下の設問に答えなさい。
(1) パラメータ μ \mu μ は未知とする。
(1-1) X X X に基づく μ \mu μ の最尤推定量 μ ^ \hat{\mu} μ ^ を求めよ。
(1-2) μ ^ \hat{\mu} μ ^ が μ \mu μ の不偏推定量であることを示せ。
(1-3) ある定数 μ 0 > 0 \mu_0 > 0 μ 0 > 0 に対して、帰無仮説 H 0 : μ = μ 0 H_0: \mu=\mu_0 H 0 : μ = μ 0 、対立仮説 H 1 : μ > μ 0 H_1: \mu > \mu_0 H 1 : μ > μ 0 の仮設検定を有意水準 α ( 0 < α < 1 ) \alpha (0 < \alpha < 1) α ( 0 < α < 1 ) で行いたい。そのための定数 c > 0 c>0 c > 0 を定めておき、 X > c X > c X > c のとき帰無仮説を棄却する。定数 c c c を求めよ。
(1-4) ある関数 L : ( 0 , ∞ ) → R L: (0, \infty) \rightarrow \mathbb{R} L : ( 0 , ∞ ) → R を用いた集合 S ( x ) = { z ∣ z ≥ L ( x ) } ⊊ R S(x) = \{z \mid z \ge L(x)\} \subsetneq \mathbb{R} S ( x ) = { z ∣ z ≥ L ( x )} ⊊ R を定義する。このとき P ( μ ∈ S ( X ) ) = 1 − α P(\mu \in S(X)) = 1 - \alpha P ( μ ∈ S ( X )) = 1 − α となるように関数 L ( x ) L(x) L ( x ) を定めよ。ただし P ( A ) P(A) P ( A ) は事象 A A A の確率を表し、0 < α < 1 0 < \alpha < 1 0 < α < 1 は定数である。
(2) 機械Mは 2 2 2 個の部品で構成されており、Mの運転開始から部品 i i i が故障するまでの経過時間を確率変数 X i X_i X i で表す ( i = 1 , 2 ) (i = 1,2) ( i = 1 , 2 ) 。 X 1 , X 2 X_1, X_2 X 1 , X 2 は独立に確率密度関数 f ( x ; μ ) f(x; \mu) f ( x ; μ ) の指数分布にしたがう。ただし μ = 1 \mu=1 μ = 1 とする。
(2-1) 2 2 2 個の部品のいずれか故障するとMは警告を発する。このとき、Mの運転開始からMが警告を発するまでの経過時間を確率変数 U U U で表す、U U U の確率密度関数を求めよ。
(2-2) 2 2 2 個の部品が共に故障したらMは停止する。このとき、Mの運転開始からMの停止するまでの経過時間を確率変数 V V V で表す。V V V の確率密度関数を求めよ。
(2-3) 上で定義した U , V U, V U , V の同時確率密度関数を求めよ。
Kai
問題1
y = log x y = \log x y = log x とおくと、
x = exp ( y ) , d x = exp ( y ) d y x = \exp(y), dx = \exp(y) dy x = exp ( y ) , d x = exp ( y ) d y である。
期待値を E E E , 分散を V V V で表して、次のように計算する:
E ( X ) = ∫ 0 ∞ x f ( x ) d x = 1 2 π ∫ 0 ∞ exp [ − 1 2 ( log x − μ ) 2 ] d x = 1 2 π ∫ − ∞ ∞ exp [ − 1 2 ( y − μ ) 2 ] exp ( y ) d y = exp ( μ + 1 2 ) 2 π ∫ − ∞ ∞ exp [ − 1 2 { y − ( μ + 1 ) } 2 ] d y = exp ( μ + 1 2 ) E ( X 2 ) = ∫ 0 ∞ x 2 f ( x ) d x = 1 2 π ∫ 0 ∞ x exp [ − 1 2 ( log x − μ ) 2 ] d x = 1 2 π ∫ − ∞ ∞ exp [ − 1 2 ( y − μ ) 2 ] exp ( 2 y ) d y = exp ( 2 μ + 2 ) 2 π ∫ − ∞ ∞ exp [ − 1 2 { y − ( μ + 2 ) } 2 ] d y = exp ( 2 μ + 2 ) V ( X ) = E ( X 2 ) − E ( X ) 2 = exp ( 2 μ + 2 ) − exp ( 2 μ + 1 ) = exp ( 2 μ + 1 ) ( e − 1 ) \begin{aligned}
E(X)
&=
\int_0^\infty x f(x) dx
\\
&=
\frac{1}{\sqrt{2 \pi}}
\int_0^\infty
\exp \left[ - \frac{1}{2} \left( \log x - \mu \right)^2 \right]
dx
\\
&=
\frac{1}{\sqrt{2 \pi}}
\int_{- \infty}^\infty
\exp \left[ - \frac{1}{2} \left( y - \mu \right)^2 \right]
\exp(y) dy
\\
&=
\frac{\exp \left( \mu + \frac{1}{2} \right) }{\sqrt{2 \pi}}
\int_{- \infty}^\infty
\exp \left[ - \frac{1}{2} \left\{ y - (\mu + 1) \right\}^2 \right]
dy
\\
&=
\exp \left( \mu + \frac{1}{2} \right)
\\
E \left( X^2 \right)
&=
\int_0^\infty x^2 f(x) dx
\\
&=
\frac{1}{\sqrt{2 \pi}}
\int_0^\infty
x
\exp \left[ - \frac{1}{2} \left( \log x - \mu \right)^2 \right]
dx
\\
&=
\frac{1}{\sqrt{2 \pi}}
\int_{- \infty}^\infty
\exp \left[ - \frac{1}{2} \left( y - \mu \right)^2 \right]
\exp(2y) dy
\\
&=
\frac{\exp \left( 2 \mu + 2 \right) }{\sqrt{2 \pi}}
\int_{- \infty}^\infty
\exp \left[ - \frac{1}{2} \left\{ y - (\mu + 2) \right\}^2 \right]
dy
\\
&=
\exp \left( 2 \mu + 2 \right)
\\
V(X)
&=
E \left( X^2 \right) - E(X)^2
\\
&=
\exp \left( 2 \mu + 2 \right)
- \exp \left( 2 \mu + 1 \right)
\\
&=
\exp \left( 2 \mu + 1 \right) (e-1)
\end{aligned} E ( X ) E ( X 2 ) V ( X ) = ∫ 0 ∞ x f ( x ) d x = 2 π 1 ∫ 0 ∞ exp [ − 2 1 ( log x − μ ) 2 ] d x = 2 π 1 ∫ − ∞ ∞ exp [ − 2 1 ( y − μ ) 2 ] exp ( y ) d y = 2 π exp ( μ + 2 1 ) ∫ − ∞ ∞ exp [ − 2 1 { y − ( μ + 1 ) } 2 ] d y = exp ( μ + 2 1 ) = ∫ 0 ∞ x 2 f ( x ) d x = 2 π 1 ∫ 0 ∞ x exp [ − 2 1 ( log x − μ ) 2 ] d x = 2 π 1 ∫ − ∞ ∞ exp [ − 2 1 ( y − μ ) 2 ] exp ( 2 y ) d y = 2 π exp ( 2 μ + 2 ) ∫ − ∞ ∞ exp [ − 2 1 { y − ( μ + 2 ) } 2 ] d y = exp ( 2 μ + 2 ) = E ( X 2 ) − E ( X ) 2 = exp ( 2 μ + 2 ) − exp ( 2 μ + 1 ) = exp ( 2 μ + 1 ) ( e − 1 )
問題2
(1)
(1-1)
d d μ log f ( x ; μ ) = d d μ log [ 1 μ exp ( − x μ ) ] = d d μ ( − log μ − x μ ) = − 1 μ + x μ 2 = μ − x μ 2 \begin{aligned}
\frac{d}{d \mu} \log f(x;\mu)
&=
\frac{d}{d \mu} \log
\left[ \frac{1}{\mu} \exp \left( - \frac{x}{\mu} \right) \right]
\\
&=
\frac{d}{d \mu} \left( - \log \mu - \frac{x}{\mu} \right)
\\
&=
- \frac{1}{\mu} + \frac{x}{\mu^2}
\\
&=
\frac{\mu - x}{\mu^2}
\end{aligned} d μ d log f ( x ; μ ) = d μ d log [ μ 1 exp ( − μ x ) ] = d μ d ( − log μ − μ x ) = − μ 1 + μ 2 x = μ 2 μ − x
であるから、
μ ^ = X \begin{aligned}
\hat{\mu} = X
\end{aligned} μ ^ = X
(1-2)
期待値を E E E を表すと、
E ( X ) = ∫ 0 ∞ x f ( x ; μ ) d x = 1 μ ∫ 0 ∞ x exp ( − x μ ) d x = − [ x exp ( − x μ ) ] 0 ∞ + ∫ 0 ∞ x exp ( − x μ ) d x = − μ [ exp ( − x μ ) ] 0 ∞ = μ \begin{aligned}
E(X)
&=
\int_0^\infty x f(x; \mu) dx
\\
&=
\frac{1}{\mu}
\int_0^\infty x \exp \left( - \frac{x}{\mu} \right) dx
\\
&=
- \left[ x \exp \left( - \frac{x}{\mu} \right) \right]_0^\infty
+ \int_0^\infty x \exp \left( - \frac{x}{\mu} \right) dx
\\
&=
- \mu \left[ \exp \left( - \frac{x}{\mu} \right) \right]_0^\infty
\\
&= \mu
\end{aligned} E ( X ) = ∫ 0 ∞ x f ( x ; μ ) d x = μ 1 ∫ 0 ∞ x exp ( − μ x ) d x = − [ x exp ( − μ x ) ] 0 ∞ + ∫ 0 ∞ x exp ( − μ x ) d x = − μ [ exp ( − μ x ) ] 0 ∞ = μ
であるから、
E ( μ ^ ) = μ E(\hat{\mu}) = \mu E ( μ ^ ) = μ であり、
μ ^ \hat{\mu} μ ^ は μ \mu μ の不偏推定量である。
(1-3)
α \alpha α と c c c は次のように関係付けられる:
α = ∫ c ∞ f ( x ; μ 0 ) d x = 1 μ 0 ∫ c ∞ exp ( − x μ 0 ) d x = − [ exp ( − x μ 0 ) ] c ∞ = exp ( − c μ 0 ) ∴ c = − μ 0 log α \begin{aligned}
\alpha
&=
\int_c^\infty f(x; \mu_0) dx
\\
&=
\frac{1}{\mu_0}
\int_c^\infty \exp \left( - \frac{x}{\mu_0} \right) dx
\\
&=
- \left[ \exp \left( - \frac{x}{\mu_0} \right) \right]_c^\infty
\\
&=
\exp \left( - \frac{c}{\mu_0} \right)
\\
\therefore \ \
c &= - \mu_0 \log \alpha
\end{aligned} α ∴ c = ∫ c ∞ f ( x ; μ 0 ) d x = μ 0 1 ∫ c ∞ exp ( − μ 0 x ) d x = − [ exp ( − μ 0 x ) ] c ∞ = exp ( − μ 0 c ) = − μ 0 log α
(1-4)
(1-3) より
P ( X ≤ c ∣ μ ) = 1 − α ⇒ c = − μ log α ⇒ P ( X ∣ X ≤ − μ log α ) = 1 − α ⇒ P ( μ ∣ μ ≥ − X log α ) = 1 − α ⇒ L ( X ) = − X log α \begin{aligned}
P(X \leq c \mid \mu) = 1 - \alpha &\Rightarrow c = -\mu \log \alpha \\
&\Rightarrow P(X \mid X \leq -\mu \log \alpha) = 1 - \alpha \\
&\Rightarrow P(\mu \mid \mu \geq \frac{-X}{\log \alpha}) = 1 - \alpha \\
&\Rightarrow L(X) = \frac{-X}{\log \alpha}
\end{aligned} P ( X ≤ c ∣ μ ) = 1 − α ⇒ c = − μ log α ⇒ P ( X ∣ X ≤ − μ log α ) = 1 − α ⇒ P ( μ ∣ μ ≥ log α − X ) = 1 − α ⇒ L ( X ) = log α − X
(2)
(2-1)
まず、確率を P P P で表すと、
P ( a ≤ X i ≤ b ) = ∫ a b f ( x ; 1 ) d x = ∫ a b exp ( − x ) d x = − [ exp ( − x ) ] a b = exp ( − a ) − exp ( − b ) \begin{aligned}
P (a \leq X_i \leq b)
&=
\int_a^b f(x; 1) dx
\\
&=
\int_a^b \exp (-x) dx
\\
&=
- \left[ \exp (-x) \right]_a^b
\\
&=
\exp (-a) - \exp (-b)
\end{aligned} P ( a ≤ X i ≤ b ) = ∫ a b f ( x ; 1 ) d x = ∫ a b exp ( − x ) d x = − [ exp ( − x ) ] a b = exp ( − a ) − exp ( − b )
である。
U U U の確率密度関数 f U ( u ) f_U(u) f U ( u ) を求めるために、次のように計算する:
P ( U ≤ u ) = P ( X 1 ≤ u and X 2 ≤ u ) + P ( X 1 ≤ u < X 2 ) + P ( X 2 ≤ u < X 1 ) = P ( X 1 ≤ u ) P ( X 2 ≤ u ) + P ( X 1 ≤ u ) P ( u < X 2 ) + P ( X 2 ≤ u ) P ( u < X 1 ) = ( 1 − exp ( − u ) ) ( 1 − exp ( − u ) ) + ( 1 − exp ( − u ) ) exp ( − u ) + ( 1 − exp ( − u ) ) exp ( − u ) = 1 − exp ( − 2 u ) ∴ f U ( u ) = d d u P ( U ≤ u ) = d d u ( 1 − exp ( − 2 u ) ) = 2 exp ( − 2 u ) \begin{aligned}
P (U \leq u)
&=
P(X_1 \leq u \text{ and } X_2 \leq u)
+ P(X_1 \leq u \lt X_2) + P(X_2 \leq u \lt X_1)
\\
&=
P(X_1 \leq u) P(X_2 \leq u)
+ P(X_1 \leq u) P(u \lt X_2) + P(X_2 \leq u) P(u \lt X_1)
\\
&=
\left( 1 - \exp (-u) \right) \left( 1 - \exp (-u) \right)
+ \left( 1 - \exp (-u) \right) \exp (-u)
+ \left( 1 - \exp (-u) \right) \exp (-u)
\\
&=
1 - \exp (-2u)
\\
\therefore \ \
f_U(u)
&=
\frac{d}{du} P (U \leq u)
\\
&=
\frac{d}{du} \left( 1 - \exp (-2u) \right)
\\
&=
2 \exp (-2u)
\end{aligned} P ( U ≤ u ) ∴ f U ( u ) = P ( X 1 ≤ u and X 2 ≤ u ) + P ( X 1 ≤ u < X 2 ) + P ( X 2 ≤ u < X 1 ) = P ( X 1 ≤ u ) P ( X 2 ≤ u ) + P ( X 1 ≤ u ) P ( u < X 2 ) + P ( X 2 ≤ u ) P ( u < X 1 ) = ( 1 − exp ( − u ) ) ( 1 − exp ( − u ) ) + ( 1 − exp ( − u ) ) exp ( − u ) + ( 1 − exp ( − u ) ) exp ( − u ) = 1 − exp ( − 2 u ) = d u d P ( U ≤ u ) = d u d ( 1 − exp ( − 2 u ) ) = 2 exp ( − 2 u )
(2-2)
V V V の確率密度関数 f V ( v ) f_V(v) f V ( v ) を求めるために、次のように計算する:
P ( V ≤ v ) = P ( X 1 ≤ v and X 2 ≤ v ) = P ( X 1 ≤ v ) P ( X 2 ≤ v ) = ( 1 − exp ( − v ) ) 2 ∴ f V ( v ) = d d v P ( V ≤ v ) = d d v ( 1 − exp ( − v ) ) 2 = 2 exp ( − v ) ( 1 − exp ( − v ) ) \begin{aligned}
P (V \leq v)
&=
P(X_1 \leq v \text{ and } X_2 \leq v)
\\
&=
P(X_1 \leq v) P(X_2 \leq v)
\\
&=
\left( 1 - \exp (-v) \right)^2
\\
\therefore \ \
f_V(v)
&=
\frac{d}{dv} P (V \leq v)
\\
&=
\frac{d}{dv} \left( 1 - \exp (-v) \right)^2
\\
&=
2 \exp (-v) \left( 1 - \exp (-v) \right)
\end{aligned} P ( V ≤ v ) ∴ f V ( v ) = P ( X 1 ≤ v and X 2 ≤ v ) = P ( X 1 ≤ v ) P ( X 2 ≤ v ) = ( 1 − exp ( − v ) ) 2 = d v d P ( V ≤ v ) = d v d ( 1 − exp ( − v ) ) 2 = 2 exp ( − v ) ( 1 − exp ( − v ) )
(2-3)
U , V U,V U , V の同時確率密度関数 f ( u , v ) f(u,v) f ( u , v ) を求めるために、次の2通りを考える。
(i) v < u v \lt u v < u のとき、
P ( U ≤ u and V ≤ v ) = P ( V ≤ v ) = ( 1 − exp ( − v ) ) 2 ∴ f ( u , v ) = ∂ ∂ u ∂ ∂ v P ( U ≤ u and V ≤ v ) = 0. \begin{aligned}
P (U \leq u \text{ and } V \leq v)
&=
P (V \leq v)
\\
&=
\left( 1 - \exp (-v) \right)^2
\\
\therefore \ \
f(u,v)
&=
\frac{\partial}{\partial u}
\frac{\partial}{\partial v}
P (U \leq u \text{ and } V \leq v)
\\
&= 0
.
\end{aligned} P ( U ≤ u and V ≤ v ) ∴ f ( u , v ) = P ( V ≤ v ) = ( 1 − exp ( − v ) ) 2 = ∂ u ∂ ∂ v ∂ P ( U ≤ u and V ≤ v ) = 0.
(ii) u ≤ v u \leq v u ≤ v のとき、
P ( U ≤ u and V ≤ v ) = P ( X 1 ≤ u and X 2 ≤ u ) + P ( X 1 ≤ u < X 2 ≤ v ) + P ( X 2 ≤ u < X 1 ≤ v ) = P ( X 1 ≤ u ) P ( X 2 ≤ u ) + P ( X 1 ≤ u ) P ( u < X 2 ≤ v ) + P ( X 2 ≤ u ) P ( u < X 1 ≤ v ) = ( 1 − exp ( − u ) ) ( 1 − exp ( − u ) ) + ( 1 − exp ( − u ) ) ( exp ( − u ) − exp ( − v ) ) + ( 1 − exp ( − u ) ) ( exp ( − u ) − exp ( − v ) ) = ( 1 − exp ( − u ) ) ( 1 + exp ( − u ) − 2 exp ( − v ) ) \begin{aligned}
P (U \leq u \text{ and } V \leq v)
&=
P(X_1 \leq u \text{ and } X_2 \leq u)
+ P(X_1 \leq u \lt X_2 \leq v) + P(X_2 \leq u \lt X_1 \leq v)
\\
&=
P(X_1 \leq u) P(X_2 \leq u)
+ P(X_1 \leq u) P(u \lt X_2 \leq v) + P(X_2 \leq u) P(u \lt X_1 \leq v)
\\
&=
\left( 1 - \exp (-u) \right) \left( 1 - \exp (-u) \right)
+ \left( 1 - \exp (-u) \right) \left( \exp (-u) - \exp (-v) \right)
+ \left( 1 - \exp (-u) \right) \left( \exp (-u) - \exp (-v) \right)
\\
&=
\left( 1 - \exp (-u) \right)
\left( 1 + \exp (-u) - 2 \exp (-v) \right)
\end{aligned} P ( U ≤ u and V ≤ v ) = P ( X 1 ≤ u and X 2 ≤ u ) + P ( X 1 ≤ u < X 2 ≤ v ) + P ( X 2 ≤ u < X 1 ≤ v ) = P ( X 1 ≤ u ) P ( X 2 ≤ u ) + P ( X 1 ≤ u ) P ( u < X 2 ≤ v ) + P ( X 2 ≤ u ) P ( u < X 1 ≤ v ) = ( 1 − exp ( − u ) ) ( 1 − exp ( − u ) ) + ( 1 − exp ( − u ) ) ( exp ( − u ) − exp ( − v ) ) + ( 1 − exp ( − u ) ) ( exp ( − u ) − exp ( − v ) ) = ( 1 − exp ( − u ) ) ( 1 + exp ( − u ) − 2 exp ( − v ) )
∴ f ( u , v ) = ∂ ∂ u ∂ ∂ v P ( U ≤ u and V ≤ v ) = 2 exp ( − ( u + v ) ) . \begin{aligned}
\therefore \ \
f(u,v)
&=
\frac{\partial}{\partial u}
\frac{\partial}{\partial v}
P (U \leq u \text{ and } V \leq v)
\\
&=
2 \exp(-(u+v))
.
\end{aligned} ∴ f ( u , v ) = ∂ u ∂ ∂ v ∂ P ( U ≤ u and V ≤ v ) = 2 exp ( − ( u + v )) .