跳到主要内容

早稲田大学 創造理工学研究科 経営システム工学専攻 2017年7月実施 情報数理応用 問題1

标签：

Author​

祭音Myyura

Description​

独立同分布な2値確率変数 Xi∈{0,1}X_i\in\{0,1\} が

P(Xi=1∣θ)=θ,P(Xi=0∣θ)=1−θP(X_i=1\mid\theta)=\theta,\qquad P(X_i=0\mid\theta)=1-\theta

に従う。θ\theta の事前密度は

p(θ)=Γ(5)Γ(3)Γ(2)θ2(1−θ),0≤θ≤1p(\theta)=\frac{\Gamma(5)}{\Gamma(3)\Gamma(2)} \theta^2(1-\theta),\qquad 0\leq\theta\leq1

である。

  1. 事前分布の平均値と最頻値を求めよ。
  2. データ x10=1101111001x^{10}=1101111001 を観測した後の事後密度を求めよ。
  3. 事後密度の概形を、極値を明示して描け。
  4. 二乗誤差損失のもとで θ\theta のベイズ推定量を求めよ。
  5. 0--1損失のもとで X11X_{11} のベイズ最適予測を求めよ。

Kai​

[小問 1]​

事前分布は Beta⁡(3,2)\operatorname{Beta}(3,2) である。したがって

E[θ]=33+2=35,E[\theta]=\frac{3}{3+2}=\boxed{\frac35},

また 3,2>13,2>1 なので最頻値は

3−13+2−2=23.\frac{3-1}{3+2-2}=\boxed{\frac23}.

[小問 2]​

観測列には1が7個、0が3個ある。ベータ分布とベルヌーイ分布の共役性より

θ∣x10∼Beta⁡(3+7,2+3)=Beta⁡(10,5).\theta\mid x^{10}\sim\operatorname{Beta}(3+7,2+3) =\operatorname{Beta}(10,5).

よって事後密度は

p(θ∣x10)=Γ(15)Γ(10)Γ(5)θ9(1−θ)4=10010θ9(1−θ)4\boxed{ p(\theta\mid x^{10}) =\frac{\Gamma(15)}{\Gamma(10)\Gamma(5)} \theta^9(1-\theta)^4 =10010\theta^9(1-\theta)^4 }

である。

[小問 3]​

対数微分は

ddθlog⁡p(θ∣x10)=9θ−41−θ\frac{d}{d\theta}\log p(\theta\mid x^{10}) =\frac9\theta-\frac4{1-\theta}

であり、内部の停留点は

θ=913.\theta=\frac9{13}.

端点では p(0∣x10)=p(1∣x10)=0p(0\mid x^{10})=p(1\mid x^{10})=0、区間内部では正で、9/139/13 まで増加し、その後減少する。したがって唯一の極大点は

θmode=913\boxed{\theta_{\mathrm{mode}}=\frac9{13}}

である。

[小問 4]​

二乗誤差損失に対するベイズ推定量は事後平均なので

θ^B=E[θ∣x10]=1010+5=23.\boxed{\hat\theta_B=E[\theta\mid x^{10}] =\frac{10}{10+5}=\frac23}.

[小問 5]​

事後予測確率は

P(X11=1∣x10)=E[θ∣x10]=23,P(X11=0∣x10)=13.P(X_{11}=1\mid x^{10}) =E[\theta\mid x^{10}]=\frac23,\qquad P(X_{11}=0\mid x^{10})=\frac13.

0--1損失では事後予測確率の大きい値を選ぶので

X^11=1.\boxed{\hat X_{11}=1}.
本页目录