京都大学 情報学研究科 システム科学専攻 2023年8月実施 専門科目 確率統計
Author
AKIRA (小红书:94184092292)
Description
以下の問題において,P ( A ) P(A) P ( A ) は事象 A A A の確率を表し,E ( X ) E(X) E ( X ) と V ( X ) V(X) V ( X ) は確率変数 X X X の期待値と分散を表す.また,e e e はネイピア数(自然対数の底)を表す.
問題1
ある日の,店 i ( i = 1 , … , n ) i\ (i=1,\ldots,n) i ( i = 1 , … , n ) の来客数 Y i Y_i Y i は,独立にポアソン分布 P o ( λ i ) Po(\lambda_i) P o ( λ i ) にしたがう確率変数とする.ただし,λ i > 0 \lambda_i>0 λ i > 0 は未知パラメータである.なお,パラメータ λ > 0 \lambda>0 λ > 0 のポアソン分布 P o ( λ ) Po(\lambda) P o ( λ ) の確率関数は
f ( y ; λ ) = λ y e − λ y ! , y = 0 , 1 , … f(y;\lambda)=\frac{\lambda^{y} e^{-\lambda}}{y!},\quad y=0,1,\ldots f ( y ; λ ) = y ! λ y e − λ , y = 0 , 1 , …
である.以下の設問に答えなさい.
(1) Y 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n を用いて,λ 1 , … , λ n \lambda_1,\ldots,\lambda_n λ 1 , … , λ n の最尤推定量 λ ^ 1 , … , λ ^ n \hat\lambda_1,\ldots,\hat\lambda_n λ ^ 1 , … , λ ^ n を求めよ.
(2) ポアソン分布 P o ( λ ) Po(\lambda) P o ( λ ) にしたがう確率変数 Y Y Y の期待値 E ( Y ) E(Y) E ( Y ) と分散 V ( Y ) V(Y) V ( Y ) を求めよ.
広い店ほど来客数が多い傾向があり,店 i i i の広さを定数 x i > 0 x_i>0 x i > 0 で表すと λ i = θ x i ( i = 1 , … , n ) \lambda_i=\theta x_i\ (i=1,\ldots,n) λ i = θ x i ( i = 1 , … , n ) となることがわかった.ただし,θ > 0 \theta>0 θ > 0 は未知パラメータである.
(3) 最尤法で θ \theta θ を推定したい.Y 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n を用いて,θ \theta θ の最尤推定量 θ ^ \hat\theta θ ^ を求めよ.
(4) 設問 (3) の θ ^ \hat\theta θ ^ の期待値 E ( θ ^ ) E(\hat\theta) E ( θ ^ ) と分散 V ( θ ^ ) V(\hat\theta) V ( θ ^ ) を求めよ.
(5) 重み付き最小二乗法で θ \theta θ を推定したい
∑ i = 1 n w i ( Y i − θ x i ) 2 \sum_{i=1}^n w_i\,(Y_i-\theta x_i)^2 i = 1 ∑ n w i ( Y i − θ x i ) 2
を最小にする θ \theta θ の値を θ ^ w \hat\theta_w θ ^ w とする.ただし,w 1 , … , w n w_1,\ldots,w_n w 1 , … , w n は正の定数である.θ ^ w \hat\theta_w θ ^ w を求めよ.
(6) 設問 (5) の θ ^ w \hat\theta_w θ ^ w の期待値 E ( θ ^ w ) E(\hat\theta_w) E ( θ ^ w ) と分散 V ( θ ^ w ) V(\hat\theta_w) V ( θ ^ w ) を求めよ.
(7) 設問 (5) の θ ^ w \hat\theta_w θ ^ w に対して,E ( ( θ ^ w − θ ) 2 ) E\!\left((\hat\theta_w-\theta)^2\right) E ( ( θ ^ w − θ ) 2 ) を最小にする w 1 , … , w n w_1,\ldots,w_n w 1 , … , w n の値を求めよ.また,そのときの θ ^ w \hat\theta_w θ ^ w を求めよ.
問題2
X , Y X,Y X , Y を実数値確率変数とし,その累積分布関数をそれぞれ F X ( x ) = P ( X ≤ x ) F_X(x)=P(X\le x) F X ( x ) = P ( X ≤ x ) ,F Y ( y ) = P ( Y ≤ y ) F_Y(y)=P(Y\le y) F Y ( y ) = P ( Y ≤ y ) ,確率密度関数を f X ( x ) , f Y ( y ) f_X(x), f_Y(y) f X ( x ) , f Y ( y ) とする.ただし実数 a < b a<b a < b に対して F X ( a ) < F X ( b ) F_X(a)<F_X(b) F X ( a ) < F X ( b ) および F Y ( a ) < F Y ( b ) F_Y(a)<F_Y(b) F Y ( a ) < F Y ( b ) とする.また,X X X と Y Y Y の同時累積分布関数を F ( x , y ) = P ( X ≤ x , Y ≤ y ) F(x,y)=P(X\le x,\ Y\le y) F ( x , y ) = P ( X ≤ x , Y ≤ y ) ,同時確率密度関数を f ( x , y ) f(x,y) f ( x , y ) とする.以下の設問に答えなさい.
(1) X X X をそれ自身の累積分布関数に代入して得られる U = F X ( X ) U=F_X(X) U = F X ( X ) を考える.U U U は [ 0 , 1 ] [0,1] [ 0 , 1 ] の範囲で定められる一様分布にしたがう確率変数であることを示せ.
(2) U U U および V V V を [ 0 , 1 ] [0,1] [ 0 , 1 ] の範囲の一様分布にしたがう確率変数とする.確率変数 U , V U,V U , V の同時累積分布関数を C ( u , v ) ( 0 ≤ u ≤ 1 , 0 ≤ v ≤ 1 ) C(u,v)\ (0\le u\le 1,\ 0\le v\le 1) C ( u , v ) ( 0 ≤ u ≤ 1 , 0 ≤ v ≤ 1 ) とする.対応する同時密度関数を
c ( u , v ) = ∂ 2 C ( u , v ) ∂ u ∂ v c(u,v)=\frac{\partial^2 C(u,v)}{\partial u\,\partial v} c ( u , v ) = ∂ u ∂ v ∂ 2 C ( u , v )
とする.確率変数 X X X と Y Y Y に対して,ある C C C が存在して
F ( x , y ) = C ( F X ( x ) , F Y ( y ) ) F(x,y)=C\!\big(F_X(x),\,F_Y(y)\big) F ( x , y ) = C ( F X ( x ) , F Y ( y ) )
と表せることが知られている.このとき C C C を ( X , Y ) (X,Y) ( X , Y ) のコピュラ と呼び,対応する同時密度関数 c c c をコピュラ密度関数と呼ぶ.
上式を用いて X X X と Y Y Y の同時確率密度関数 f ( x , y ) f(x,y) f ( x , y ) を,( X , Y ) (X,Y) ( X , Y ) のコピュラ C C C に対応するコピュラ密度関数 c c c ,および F X ( x ) , F Y ( y ) , f X ( x ) , f Y ( y ) F_X(x),F_Y(y),f_X(x),f_Y(y) F X ( x ) , F Y ( y ) , f X ( x ) , f Y ( y ) を用いて表せ.
(3) X X X と Y Y Y の同時累積分布関数が
F ( x , y ) = 1 1 + e − x + e − y F(x,y)=\frac{1}{1+e^{-x}+e^{-y}} F ( x , y ) = 1 + e − x + e − y 1
で与えられるとする.( X , Y ) (X,Y) ( X , Y ) のコピュラ C C C に対応するコピュラ密度関数 c ( u , v ) c(u,v) c ( u , v ) を求めよ.
题目描述
以下 P ( A ) P(A) P ( A ) 表示事件 A A A 的概率,E ( X ) , V ( X ) E(X),V(X) E ( X ) , V ( X ) 分别表示随机变量 X X X 的期望与方差,e e e 表示自然对数的底。
某一天第 i i i 家商店的顾客数 Y i Y_i Y i (i = 1 , … , n i=1,\ldots,n i = 1 , … , n )相互独立,且服从 Poisson 分布 Po ( λ i ) \operatorname{Po}(\lambda_i) Po ( λ i ) ,其中 λ i > 0 \lambda_i>0 λ i > 0 为未知参数。参数为 λ > 0 \lambda>0 λ > 0 的 Poisson 分布概率质量函数为
f ( y ; λ ) = λ y e − λ y ! , y = 0 , 1 , … . f(y;\lambda)=\frac{\lambda^ye^{-\lambda}}{y!},
\qquad y=0,1,\ldots. f ( y ; λ ) = y ! λ y e − λ , y = 0 , 1 , … .
(1)使用 Y 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n ,求 λ 1 , … , λ n \lambda_1,\ldots,\lambda_n λ 1 , … , λ n 的最大似然估计量 λ ^ 1 , … , λ ^ n \hat\lambda_1,\ldots,\hat\lambda_n λ ^ 1 , … , λ ^ n 。
(2)若 Y ∼ Po ( λ ) Y\sim\operatorname{Po}(\lambda) Y ∼ Po ( λ ) ,求 E ( Y ) E(Y) E ( Y ) 与 V ( Y ) V(Y) V ( Y ) 。
观察到商店越大,顾客越多。用正常数 x i x_i x i 表示第 i i i 家商店的面积,并假设
λ i = θ x i , i = 1 , … , n , \lambda_i=\theta x_i,\qquad i=1,\ldots,n, λ i = θ x i , i = 1 , … , n ,
其中 θ > 0 \theta>0 θ > 0 未知。
(3)使用 Y 1 , … , Y n Y_1,\ldots,Y_n Y 1 , … , Y n ,求 θ \theta θ 的最大似然估计量 θ ^ \hat\theta θ ^ 。
(4)求第(3)问 θ ^ \hat\theta θ ^ 的期望与方差。
(5)希望用加权最小二乘法估计 θ \theta θ 。对正常数 w 1 , … , w n w_1,\ldots,w_n w 1 , … , w n ,令 θ ^ w \hat\theta_w θ ^ w 为使
∑ i = 1 n w i ( Y i − θ x i ) 2 \sum_{i=1}^nw_i(Y_i-\theta x_i)^2 i = 1 ∑ n w i ( Y i − θ x i ) 2
最小的 θ \theta θ ,求 θ ^ w \hat\theta_w θ ^ w 。
(6)求 θ ^ w \hat\theta_w θ ^ w 的期望与方差。
(7)求使
E [ ( θ ^ w − θ ) 2 ] E\!\left[(\hat\theta_w-\theta)^2\right] E [ ( θ ^ w − θ ) 2 ]
最小的权重 w 1 , … , w n w_1,\ldots,w_n w 1 , … , w n ,并求此时的 θ ^ w \hat\theta_w θ ^ w 。
设 X , Y X,Y X , Y 为实随机变量,边缘分布函数分别为
F X ( x ) = P ( X ≤ x ) , F Y ( y ) = P ( Y ≤ y ) , F_X(x)=P(X\leq x),\qquad
F_Y(y)=P(Y\leq y), F X ( x ) = P ( X ≤ x ) , F Y ( y ) = P ( Y ≤ y ) ,
边缘密度分别为 f X ( x ) , f Y ( y ) f_X(x),f_Y(y) f X ( x ) , f Y ( y ) 。假设对任意实数 a < b a<b a < b 都有
F X ( a ) < F X ( b ) , F Y ( a ) < F Y ( b ) . F_X(a)<F_X(b),\qquad F_Y(a)<F_Y(b). F X ( a ) < F X ( b ) , F Y ( a ) < F Y ( b ) .
记联合分布函数与联合密度为
F ( x , y ) = P ( X ≤ x , Y ≤ y ) , f ( x , y ) . F(x,y)=P(X\leq x,Y\leq y),\qquad f(x,y). F ( x , y ) = P ( X ≤ x , Y ≤ y ) , f ( x , y ) .
(1)令 U = F X ( X ) U=F_X(X) U = F X ( X ) 。证明 U U U 服从区间 [ 0 , 1 ] [0,1] [ 0 , 1 ] 上的均匀分布。
(2)设 U , V U,V U , V 均服从 [ 0 , 1 ] [0,1] [ 0 , 1 ] 上的均匀分布,其联合分布函数为
C ( u , v ) , 0 ≤ u , v ≤ 1 , C(u,v),\qquad0\leq u,v\leq1, C ( u , v ) , 0 ≤ u , v ≤ 1 ,
相应联合密度为
c ( u , v ) = ∂ 2 C ( u , v ) ∂ u ∂ v . c(u,v)=
\frac{\partial^2C(u,v)}{\partial u\,\partial v}. c ( u , v ) = ∂ u ∂ v ∂ 2 C ( u , v ) .
已知对 X , Y X,Y X , Y 存在某个 C C C ,使
F ( x , y ) = C ( F X ( x ) , F Y ( y ) ) . F(x,y)=C\!\bigl(F_X(x),F_Y(y)\bigr). F ( x , y ) = C ( F X ( x ) , F Y ( y ) ) .
此时称 C C C 为 ( X , Y ) (X,Y) ( X , Y ) 的 Copula,c c c 为 Copula 密度。利用上式,用 c , F X , F Y , f X , f Y c,F_X,F_Y,f_X,f_Y c , F X , F Y , f X , f Y 表示联合密度 f ( x , y ) f(x,y) f ( x , y ) 。
(3)若 X , Y X,Y X , Y 的联合分布函数为
F ( x , y ) = 1 1 + e − x + e − y , F(x,y)=\frac1{1+e^{-x}+e^{-y}}, F ( x , y ) = 1 + e − x + e − y 1 ,
求其 Copula C C C 对应的 Copula 密度 c ( u , v ) c(u,v) c ( u , v ) 。
Poisson 分布与最大似然 :估计独立强度参数及带曝光量 x i x_i x i 的共同发生率。
加权最小二乘与最优权重 :推导线性估计量的偏差、方差,并依据异方差结构最小化均方误差。
概率积分变换 :证明连续分布函数作用于自身随机变量后服从均匀分布。
Copula 密度分解 :使用链式法则把联合密度分解为 Copula 密度与边缘密度之积。
边缘反函数与参数化 Copula :从给定联合分布求边缘分布、反函数及显式 Copula 密度。
Kai
問題1
問題2