跳到主要内容

早稲田大学 創造理工学研究科 経営システム工学専攻 2016年7月実施 統計科学 問題4

标签：

Author​

祭音Myyura

Description​

[小問 1]​

独立な確率変数 x1,…,xnx_1,\ldots,x_n が、密度

f(x;μ,θ)=12πθexp⁡{−(x−μ)22θ}f(x;\mu,\theta) =\frac1{\sqrt{2\pi\theta}} \exp\left\{-\frac{(x-\mu)^2}{2\theta}\right\}

を持つ正規分布 N(μ,θ)N(\mu,\theta) に従う。μ,θ\mu,\theta の最尤推定量とモーメント法による推定量を、それぞれ導出せよ。

[小問 2]​

同時確率密度関数

f(x,y)={2(x2y+y2)(0<x<1, 0<y<1),0otherwisef(x,y)= \begin{cases} 2(x^2y+y^2)&(0<x<1,\ 0<y<1),\\ 0&\text{otherwise} \end{cases}

について、E(X)E(X)、f(x∣y)f(x\mid y)、E(X∣Y=y)E(X\mid Y=y) を求めよ。

[小問 3]​

大数の法則について説明せよ。

题目描述​

回答以下三个小题：

  1. 独立随机变量 x1,…,xnx_1,\ldots,x_n 均服从正态分布 N(μ,θ)N(\mu,\theta)，其密度为

    f(x;μ,θ)=12πθexp⁡{−(x−μ)22θ}.f(x;\mu,\theta) =\frac1{\sqrt{2\pi\theta}} \exp\left\{-\frac{(x-\mu)^2}{2\theta}\right\}.

    分别推导参数 μ\mu、θ\theta 的最大似然估计量和矩估计量。

  2. 对联合概率密度函数

    f(x,y)={2(x2y+y2)(0<x<1, 0<y<1),0其他情形,f(x,y)= \begin{cases} 2(x^2y+y^2)&(0<x<1,\ 0<y<1),\\ 0&\text{其他情形}, \end{cases}

    求 E(X)E(X)、条件密度 f(x∣y)f(x\mid y) 以及条件期望 E(X∣Y=y)E(X\mid Y=y)。

  3. 说明大数定律。

Kai​

[小問 1]​

対数尤度は

ℓ(μ,θ)=−n2log⁡(2πθ)−12θ∑i=1n(xi−μ)2.\ell(\mu,\theta) =-\frac n2\log(2\pi\theta) -\frac1{2\theta}\sum_{i=1}^n(x_i-\mu)^2.

まず

∂ℓ∂μ=1θ∑i=1n(xi−μ)=0\frac{\partial\ell}{\partial\mu} =\frac1\theta\sum_{i=1}^n(x_i-\mu)=0

から μ^=xˉ\hat\mu=\bar x を得る。次に

∂ℓ∂θ=−n2θ+12θ2∑i=1n(xi−μ)2=0\frac{\partial\ell}{\partial\theta} =-\frac n{2\theta} +\frac1{2\theta^2}\sum_{i=1}^n(x_i-\mu)^2=0

より

μ^ML=xˉ,θ^ML=1n∑i=1n(xi−xˉ)2.\boxed{ \hat\mu_{\mathrm{ML}}=\bar x,\qquad \hat\theta_{\mathrm{ML}} =\frac1n\sum_{i=1}^n(x_i-\bar x)^2 }.

ただし、標本分散が0ならば、μ=xˉ\mu=\bar x として θ↓0\theta\downarrow0 のとき尤度が発散するため、θ>0\theta>0 の範囲に最尤推定量は存在しない。

モーメント法では

E(X)=μ,E(X2)=μ2+θE(X)=\mu,\qquad E(X^2)=\mu^2+\theta

を標本モーメントと等置する。したがって

μ^MM=xˉ,θ^MM=1n∑i=1nxi2−xˉ2=1n∑i=1n(xi−xˉ)2.\boxed{ \hat\mu_{\mathrm{MM}}=\bar x,\qquad \hat\theta_{\mathrm{MM}} =\frac1n\sum_{i=1}^nx_i^2-\bar x^2 =\frac1n\sum_{i=1}^n(x_i-\bar x)^2 }.

標本分散が0ならば、θ^MM=0\hat\theta_{\mathrm{MM}}=0 はパラメータ空間 θ>0\theta>0 の閉包上の値である。

[小問 2]​

まず

E(X)=∫01∫012x(x2y+y2) dxdy=2(1412+1213)=712.\begin{aligned} E(X) &=\int_0^1\int_0^1 2x(x^2y+y^2)\,dxdy\\ &=2\left(\frac14\frac12+\frac12\frac13\right) =\boxed{\frac7{12}}. \end{aligned}

YY の周辺密度は

fY(y)=∫012(x2y+y2) dx=2(y3+y2)f_Y(y)=\int_0^1 2(x^2y+y^2)\,dx =2\left(\frac y3+y^2\right)

である。よって 0<x<1,0<y<10<x<1, 0<y<1 で

f(x∣y)=x2+y13+y\boxed{ f(x\mid y) =\frac{x^2+y}{\frac13+y} }

であり、固定した 0<y<10<y<1 に対して xx が (0,1)(0,1) の外なら0である。YY の台の外での条件密度はこの比では定義できない。さらに

E(X∣Y=y)=∫01xx2+y13+y dx=14+y213+y=3(1+2y)4(1+3y).\begin{aligned} E(X\mid Y=y) &=\int_0^1x\frac{x^2+y}{\frac13+y}\,dx\\ &=\frac{\frac14+\frac y2}{\frac13+y}\\ &=\boxed{\frac{3(1+2y)}{4(1+3y)}}. \end{aligned}

[小問 3]​

X1,X2,…X_1,X_2,\ldots が独立同分布で E(Xi)=μE(X_i)=\mu、Var⁡(Xi)=σ2<∞\operatorname{Var}(X_i)=\sigma^2<\infty を満たすとする。標本平均

Xˉn=1n∑i=1nXi\bar X_n=\frac1n\sum_{i=1}^nX_i

は、任意の ε>0\varepsilon>0 に対して

P(∣Xˉn−μ∣≥ε)≤σ2nε2→0P\left(|\bar X_n-\mu|\geq\varepsilon\right) \leq\frac{\sigma^2}{n\varepsilon^2} \to0

となる。したがって

Xˉn→Pμ\boxed{\bar X_n\xrightarrow{P}\mu}

である。これは弱大数の法則であり、標本数を増やすと標本平均が母平均へ確率収束することを表す。

本页目录