跳到主要内容

京都大学 情報学研究科 システム科学専攻 2020年8月実施 専門科目 確率統計

Author​

AKIRA (小红书:94184092292), 祭音Myyura

Description​

問題1​

確率変数 Xij, i=1,…,m, j=1,…,nX_{ij}, \ i = 1, \ldots, m, \ j = 1, \ldots, n は独立に正規分布に従い、Xij∼N(μi,1)X_{ij} \sim N(\mu_i, 1) とする。 ただし、N(μ,σ2)N(\mu, \sigma^2) は平均 μ\mu、分散 σ2\sigma^2 の正規分布を表す。 ここで n,mn, m は正の整数、μi\mu_i は未知パラメータである。 また、X∼N(0,1)X \sim N(0, 1) の分布関数 P(X≤x)=Φ(x)P(X \le x) = \Phi(x) で表す。 以下の設問に答えなさい。その導出過程も示すこと。

(1) Xi1,…,XinX_{i1}, \ldots, X_{in} をすべて用いて μi\mu_i の最尤推定量 μ^i\hat{\mu}_i を求めよ。

(2) μ^i\hat{\mu}_i が μi\mu_i の不偏推定量であることを示せ。

(3) 各 i=1,…,mi = 1, \ldots, m において、帰無仮説 H0:μi=0H_0: \mu_i = 0、 対立仮説 H1:μi>0H_1: \mu_i > 0 の仮説検定を有意水準 α (0<α<1)\alpha\ (0 < \alpha < 1) で行いたい。 そのために定数 di>0d_i > 0 を定めておき、μ^i>di\hat{\mu}_i > d_i のとき帰無仮説を棄却する。定数 did_i を求めよ。

(4) 各 i=1,…,mi = 1, \ldots, m において、ある定数 ci>0c_i > 0 を用いて μi\mu_i の信頼区間

Si=[μ^i−ci,μ^i+ci]S_i = [\hat{\mu}_i - c_i, \hat{\mu}_i + c_i]

を定める。これが P(μi∈Si)=1−α (0<α<1)P(\mu_i \in S_i) = 1 - \alpha \ (0 < \alpha < 1) を満たすようにしたい。定数 cic_i を求めよ。

(5) 上記の SiS_i が

P(μi∈Si, i=1,…,m)=1−αP(\mu_i \in S_i, \ i = 1, \ldots, m) = 1 - \alpha

を満たすようにしたい。 ci=c, i=1,…,mc_i = c,\ i = 1, \ldots, m として、定数 c>0c > 0 を求めよ。

問題2​

X1,X2,…,XnX_1, X_2, \ldots, X_n を互いに独立で、同一の確率密度関数に従う実数値確率変数とし、対応する確率密度関数・確率分布関数をそれぞれ fX(x),FX(x)f_X(x), F_X(x) とする。 また、

Y=max⁡X1,X2,…,XnY = \max { X_1, X_2, \ldots, X_n }

とする。以下の設問に答えなさい。

(1) YY の確率分布関数 FY(y)F_Y(y) および確率密度関数 fY(y)f_Y(y) を fX,FX,nf_X, F_X, n を用いて表せ。

以下の設問では、XiX_i は区間 [0,θ],θ>0[0, \theta], \theta > 0 上の一様分布に従うものとする。

(2) θ^=aY\hat{\theta} = aY が θ\theta の不偏推定量となるように、aa を nn を用いて表せ。

(3) θ\theta の最尤推定量 θ^ML\hat{\theta}^{ML} を求めよ。

(4) θ^\hat{\theta} および θ^ML\hat{\theta}^{ML} の平均二乗誤差を求め、 どちらの推定量のほうが小さい平均二乗誤差を与えるか答えよ。 ただし、θ^\hat{\theta} は (2) で求めた不偏推定量である。

(5) θ\theta の信頼区間として

S=[Y,bY],b>1S = [Y, bY], \quad b > 1

の形を考える。0<α<10 < \alpha < 1 に対して、P(θ∈S)=1−αP(\theta \in S) = 1 - \alpha となるように bb を設定せよ。

题目描述​

  1. 随机变量
Xij,i=1,…,m,j=1,…,nX_{ij},\qquad i=1,\ldots,m,\quad j=1,\ldots,n

相互独立且满足 Xij∼N(μi,1)X_{ij}\sim N(\mu_i,1),其中 N(μ,σ2)N(\mu,\sigma^2) 表示均值为 μ\mu、方差为 σ2\sigma^2 的正态分布;n,mn,m 为正整数,μi\mu_i 为未知参数。标准正态分布函数记为

Φ(x)=P(X≤x),X∼N(0,1).\Phi(x)=P(X\leq x),\qquad X\sim N(0,1).

回答下列问题并写出推导过程。

(1)使用 Xi1,…,XinX_{i1},\ldots,X_{in} 的全部观测,求 μi\mu_i 的最大似然估计量 μ^i\hat\mu_i。

(2)证明 μ^i\hat\mu_i 是 μi\mu_i 的无偏估计量。

(3)对每个 i=1,…,mi=1,\ldots,m,希望在显著性水平 α\alpha(0<α<10<\alpha<1)下检验

H0:μi=0,H1:μi>0.H_0:\mu_i=0,\qquad H_1:\mu_i>0.

预先取常数 di>0d_i>0,当 μ^i>di\hat\mu_i>d_i 时拒绝原假设。求 did_i。

(4)对每个 i=1,…,mi=1,\ldots,m,用常数 ci>0c_i>0 定义 μi\mu_i 的置信区间

Si=[μ^i−ci,μ^i+ci].S_i=[\hat\mu_i-c_i,\hat\mu_i+c_i].

求使 P(μi∈Si)=1−αP(\mu_i\in S_i)=1-\alpha 的 cic_i。

(5)现要求上述区间同时满足

P(μi∈Si, i=1,…,m)=1−α.P(\mu_i\in S_i,\ i=1,\ldots,m)=1-\alpha.

令所有 ci=cc_i=c,求常数 c>0c>0。

  1. 设实值随机变量 X1,…,XnX_1,\ldots,X_n 相互独立同分布,其密度函数与分布函数分别为 fX(x),FX(x)f_X(x),F_X(x),并令
Y=max⁡{X1,X2,…,Xn}.Y=\max\{X_1,X_2,\ldots,X_n\}.

(1)用 fX,FX,nf_X,F_X,n 表示 YY 的分布函数 FY(y)F_Y(y) 和密度函数 fY(y)f_Y(y)。

以下各问进一步假设 XiX_i 服从区间 [0,θ][0,\theta] 上的均匀分布,其中 θ>0\theta>0。

(2)若 θ^=aY\hat\theta=aY,求使其成为 θ\theta 的无偏估计量时由 nn 表示的 aa。

(3)求 θ\theta 的最大似然估计量 θ^ML\hat\theta^{ML}。

(4)分别求第(2)问无偏估计量 θ^\hat\theta 与 θ^ML\hat\theta^{ML} 的均方误差,并判断哪一个较小。

(5)考虑形如

S=[Y,bY],b>1S=[Y,bY],\qquad b>1

的 θ\theta 的置信区间。对 0<α<10<\alpha<1,求使 P(θ∈S)=1−αP(\theta\in S)=1-\alpha 的 bb。

Kai​

問題1​

(1) 対数尤度は定数を除いて −12∑j(Xij−μi)2-\frac12\sum_j(X_{ij}-\mu_i)^2。微分して μ^i=Xˉi=n−1∑jXij\boxed{\hat\mu_i=\bar X_i=n^{-1}\sum_jX_{ij}} を得る。

(2) E[Xˉi]=n−1∑jμi=μiE[\bar X_i]=n^{-1}\sum_j\mu_i=\mu_i より不偏である。また n(μ^i−μi)∼N(0,1)\sqrt n(\hat\mu_i-\mu_i)\sim N(0,1)。

(3) 帰無仮説の下で P(μ^i>di)=1−Φ(ndi)P(\hat\mu_i>d_i)=1-\Phi(\sqrt n d_i) なので

di=Φ−1(1−α)n.d_i=\frac{\Phi^{-1}(1-\alpha)}{\sqrt n}.

di>0d_i>0 を満たす解が存在するのは 0<α<1/20<\alpha<1/2 のときに限る。

(4) P(μi∈Si)=2Φ(nci)−1P(\mu_i\in S_i)=2\Phi(\sqrt n c_i)-1 より

ci=Φ−1(1−α/2)n.c_i=\frac{\Phi^{-1}(1-\alpha/2)}{\sqrt n}.

(5) 各標本平均は独立なので、同時被覆確率は [2Φ(nc)−1]m[2\Phi(\sqrt n c)-1]^m。これを 1−α1-\alpha とおけば

c=1nΦ−1(1+(1−α)1/m2).\boxed{c=\frac1{\sqrt n}\Phi^{-1}\left(\frac{1+(1-\alpha)^{1/m}}2\right)}.

問題2​

(1) 独立性より FY(y)=FX(y)nF_Y(y)=F_X(y)^n、微分して fY(y)=nFX(y)n−1fX(y)f_Y(y)=nF_X(y)^{n-1}f_X(y)。

(2) 一様分布の場合、fY(y)=nyn−1/θnf_Y(y)=ny^{n-1}/\theta^n (0<y<θ0<y<\theta)。従って

E[Y]=nn+1θ,a=n+1n.E[Y]=\frac n{n+1}\theta,\qquad a=\frac{n+1}{n}.

(3) 尤度は θ≥Y\theta\geq Y で θ−n\theta^{-n}、それ以外で 00。従って θ^ML=Y\boxed{\hat\theta^{ML}=Y}。

(4) E[Y2]=nθ2/(n+2)E[Y^2]=n\theta^2/(n+2) より

MSE⁡(θ^)=Var⁡(n+1nY)=θ2n(n+2),\operatorname{MSE}(\hat\theta)=\operatorname{Var}\left(\frac{n+1}nY\right)=\frac{\theta^2}{n(n+2)},
MSE⁡(θ^ML)=E[(Y−θ)2]=2θ2(n+1)(n+2).\operatorname{MSE}(\hat\theta^{ML})=E[(Y-\theta)^2]=\frac{2\theta^2}{(n+1)(n+2)}.

両者の差(後者から前者を引いた値)は θ2(n−1)/[n(n+1)(n+2)]\theta^2(n-1)/[n(n+1)(n+2)]。従って n>1n>1 では不偏推定量のほうが小さく、n=1n=1 では等しい。

(5) Y≤θY\leq\theta は確率 11 で成り立ち、

P(Y≤θ≤bY)=P(Y≥θ/b)=1−b−n.P(Y\leq\theta\leq bY)=P(Y\geq\theta/b)=1-b^{-n}.

従って b=α−1/n\boxed{b=\alpha^{-1/n}}。