京都大学 情報学研究科 システム科学専攻 2018年8月実施 専門科目 確率統計 Author uogxtc , 祭音Myyura
Description 問題1
確率変数 Z i = ( X i , Y i ) , i = 1 , … , n Z_i = (X_i, Y_i), i = 1, \ldots, n Z i = ( X i , Y i ) , i = 1 , … , n X i , Y i X_i, Y_i X i , Y i 0 0 0 1 1 1 P ( X i = 1 ) = α P(X_i = 1) = \alpha P ( X i = 1 ) = α P ( Y i = 1 ∣ X i ) = β X i P(Y_i = 1 | X_i) = \beta X_i P ( Y i = 1∣ X i ) = β X i X i X_i X i Y i Y_i Y i n n n 0 < α < 1 0 < \alpha < 1 0 < α < 1 0 < β < 1 0 < \beta < 1 0 < β < 1
(1) 同時確率 P ( X i = x , Y i = y ) P(X_i = x, Y_i = y) P ( X i = x , Y i = y ) ( x , y ) (x, y) ( x , y ) α , β \alpha, \beta α , β
(2) Z i , i = 1 , … , n Z_i, i = 1, \ldots, n Z i , i = 1 , … , n α , β \alpha, \beta α , β α ^ n , β ^ n \hat{\alpha}_n, \hat{\beta}_n α ^ n , β ^ n
(3) 制約条件 α + β = 1 \alpha + \beta = 1 α + β = 1 Z i , i = 1 , … , n Z_i, i = 1, \ldots, n Z i , i = 1 , … , n α \alpha α α ^ n \hat{\alpha}_n α ^ n
(4) 設問 (3) の α ^ n \hat{\alpha}_n α ^ n n → ∞ n \to \infty n → ∞
問題2
袋の中に N N N N = 1 , 2 , … N = 1, 2, \ldots N = 1 , 2 , … m m m m ∈ { 0 , 1 , … , N } m \in \{0, 1, \ldots, N\} m ∈ { 0 , 1 , … , N } n n n n ∈ { 1 , … , N } n \in \{1, \ldots, N\} n ∈ { 1 , … , N } X X X X ∈ { 0 , 1 , … , n } X \in \{0, 1, \ldots, n\} X ∈ { 0 , 1 , … , n }
(1) X = k X = k X = k k = 0 , 1 , … , n k = 0, 1, \ldots, n k = 0 , 1 , … , n P ( X = k ) P(X = k) P ( X = k )
(2) 確率変数 X X X
袋の中に白いボールが多数入っている。
その個数が分からないので未知パラメータ N N N m m m n n n k k k k ∈ { 0 , 1 , … , n } k \in \{0, 1, \ldots, n\} k ∈ { 0 , 1 , … , n } N , m , n N, m, n N , m , n
(3) N N N L ( N ) L(N) L ( N )
(4) 設問 (3) の L ( N ) L(N) L ( N ) L ( N ) / L ( N − 1 ) L(N)/L(N-1) L ( N ) / L ( N − 1 ) N = 2 , 3 , … N = 2, 3, \ldots N = 2 , 3 , …
(5) N N N k ≥ 1 k \geq 1 k ≥ 1
题目描述
随机向量 Z i = ( X i , Y i ) Z_i=(X_i,Y_i) Z i = ( X i , Y i ) i = 1 , … , n i=1,\ldots,n i = 1 , … , n X i , Y i X_i,Y_i X i , Y i
P ( X i = 1 ) = α , P ( Y i = 1 ∣ X i ) = β X i , P(X_i=1)=\alpha,\qquad
P(Y_i=1\mid X_i)=\beta X_i, P ( X i = 1 ) = α , P ( Y i = 1 ∣ X i ) = β X i , 因而一般而言 X i , Y i X_i,Y_i X i , Y i n n n 0 < α < 1 0<\alpha<1 0 < α < 1 0 < β < 1 0<\beta<1 0 < β < 1
（1）对 ( x , y ) (x,y) ( x , y ) α , β \alpha,\beta α , β P ( X i = x , Y i = y ) P(X_i=x,Y_i=y) P ( X i = x , Y i = y )
（2）使用全部 Z 1 , … , Z n Z_1,\ldots,Z_n Z 1 , … , Z n α , β \alpha,\beta α , β α ^ n , β ^ n \hat\alpha_n,\hat\beta_n α ^ n , β ^ n
（3）加入约束 α + β = 1 \alpha+\beta=1 α + β = 1 Z 1 , … , Z n Z_1,\ldots,Z_n Z 1 , … , Z n α \alpha α α ^ n \hat\alpha_n α ^ n
（4）第（3）问的 α ^ n \hat\alpha_n α ^ n n → ∞ n\to\infty n → ∞
一个袋中共有 N N N m m m N = 1 , 2 , … N=1,2,\ldots N = 1 , 2 , … m ∈ { 0 , 1 , … , N } m\in\{0,1,\ldots,N\} m ∈ { 0 , 1 , … , N } n n n n ∈ { 1 , … , N } n\in\{1,\ldots,N\} n ∈ { 1 , … , N } X ∈ { 0 , 1 , … , n } X\in\{0,1,\ldots,n\} X ∈ { 0 , 1 , … , n }
（1）对 k = 0 , 1 , … , n k=0,1,\ldots,n k = 0 , 1 , … , n P ( X = k ) P(X=k) P ( X = k )
（2）求 E [ X ] E[X] E [ X ]
现有一个装有许多白球的袋子，球的总数未知，记为参数 N N N m m m n n n k k k k ∈ { 0 , 1 , … , n } k\in\{0,1,\ldots,n\} k ∈ { 0 , 1 , … , n } N , m , n N,m,n N , m , n
（3）求关于 N N N L ( N ) L(N) L ( N )
（4）对 N = 2 , 3 , … N=2,3,\ldots N = 2 , 3 , … L ( N ) / L ( N − 1 ) L(N)/L(N-1) L ( N ) / L ( N − 1 )
（5）在 k ≥ 1 k\geq1 k ≥ 1 N N N
Kai 問題1
(1) 条件付き確率の積より
P ( X i = x , Y i = y ) = y = 0 y = 1 x = 0 1 − α 0 x = 1 α ( 1 − β ) α β . P(X_i=x,Y_i=y)=\begin{array}{c|cc}
&y=0&y=1\\\hline
x=0&1-\alpha&0\\
x=1&\alpha(1-\beta)&\alpha\beta
\end{array}. P ( X i = x , Y i = y ) = x = 0 x = 1 y = 0 1 − α α ( 1 − β ) y = 1 0 α β . (2) S X = ∑ i X i , S Y = ∑ i Y i S_X=\sum_iX_i,S_Y=\sum_iY_i S X = ∑ i X i , S Y = ∑ i Y i
L ( α , β ) = α S X ( 1 − α ) n − S X β S Y ( 1 − β ) S X − S Y . L(\alpha,\beta)=\alpha^{S_X}(1-\alpha)^{n-S_X}
\beta^{S_Y}(1-\beta)^{S_X-S_Y}. L ( α , β ) = α S X ( 1 − α ) n − S X β S Y ( 1 − β ) S X − S Y . 対数尤度の微分から、内部解は
α ^ n = S X n , β ^ n = S Y S X . \boxed{\widehat\alpha_n=\frac{S_X}{n},\qquad \widehat\beta_n=\frac{S_Y}{S_X}}. α n = n S X , β n = S X S Y . S X = 0 S_X=0 S X = 0 β \beta β 0 0 0 1 1 1
(3) β = 1 − α \beta=1-\alpha β = 1 − α
log L = ( 2 S X − S Y ) log α + ( n − S X + S Y ) log ( 1 − α ) , \log L=(2S_X-S_Y)\log\alpha+(n-S_X+S_Y)\log(1-\alpha), log L = ( 2 S X − S Y ) log α + ( n − S X + S Y ) log ( 1 − α ) , したがって内部解は
α ^ n = 2 S X − S Y n + S X . \boxed{\widehat\alpha_n=\frac{2S_X-S_Y}{n+S_X}}. α n = n + S X 2 S X − S Y . この値が端点なら (2) と同様に開区間内で最大値は存在しない。
(4) 大数の法則により S X / n → p α S_X/n\xrightarrow{p}\alpha S X / n p α S Y / n → p α ( 1 − α ) S_Y/n\xrightarrow{p}\alpha(1-\alpha) S Y / n p α ( 1 − α )
α ^ n → p 2 α − α ( 1 − α ) 1 + α = α . \widehat\alpha_n\xrightarrow{p}\frac{2\alpha-\alpha(1-\alpha)}{1+\alpha}=\boxed\alpha. α n p 1 + α 2 α − α ( 1 − α ) = α . 問題2
(1) 組合せの数を数えると
P ( X = k ) = ( m k ) ( N − m n − k ) ( N n ) . \boxed{P(X=k)=\frac{\binom mk\binom{N-m}{n-k}}{\binom Nn}}. P ( X = k ) = ( n N ) ( k m ) ( n − k N − m ) . 範囲外の二項係数は 0 0 0
(2) 取り出した各球が赤い確率は m / N m/N m / N E [ X ] = n m / N \boxed{E[X]=nm/N} E [ X ] = nm / N
(3)
L ( N ) = ( m k ) ( N − m n − k ) ( N n ) , N ≥ N min = m + n − k . \boxed{L(N)=\frac{\binom mk\binom{N-m}{n-k}}{\binom Nn}},\qquad N\ge N_{\min}=m+n-k. L ( N ) = ( n N ) ( k m ) ( n − k N − m ) , N ≥ N m i n = m + n − k . (4) N > N min N>N_{\min} N > N m i n
L ( N ) L ( N − 1 ) = ( N − m ) ( N − n ) N ( N − m − n + k ) . \boxed{\frac{L(N)}{L(N-1)}=\frac{(N-m)(N-n)}{N(N-m-n+k)}}. L ( N − 1 ) L ( N ) = N ( N − m − n + k ) ( N − m ) ( N − n ) . (5) この比と 1 1 1 m n − k N mn-kN mn − k N c = m n / k c=mn/k c = mn / k N < c N<c N < c N > c N>c N > c
N ^ = ⌊ m n / k ⌋ . \boxed{\widehat N=\lfloor mn/k\rfloor}. N = ⌊ mn / k ⌋ . ただし c c c c − 1 ≥ N min c-1\ge N_{\min} c − 1 ≥ N m i n c − 1 c-1 c − 1 c c c c = N min c=N_{\min} c = N m i n c c c