跳到主要内容

東京工業大学 情報理工学院 数理・計算科学系 2023年8月実施 概率统计

标签：

Author​

思齐塾, 祭音Myyura

Description​

1次元確率変数 X,X1,…,XnX, X_1, \dots, X_n は独立に同一の分布にしたがい，その確率密度関数は

p(x;θ0)={θ0e−θ0x,x>0,0,その他p(x; \theta_0) = \begin{cases} \theta_0 e^{-\theta_0 x}, & x > 0, \\ 0, & \text{その他} \end{cases}

で与えられる．ここで θ0\theta_0 は正定数である．以下，事象 AA の確率を P(A)\mathbb{P}(A) と表す．確率変数 ZZ が期待値 μ\mu , 分散 σ2\sigma^2 の正規分布にしたがうとき Z∼N(μ,σ2)Z \sim N(\mu, \sigma^2) と表す． Z∼N(0,1)Z \sim N(0, 1) と 0<α<1/20 < \alpha < 1/2 に対して， z(α)z(\alpha) を P(Z≤z(α))=1−α\mathbb{P}(Z \le z(\alpha)) = 1 - \alpha を満たす値として定義する．以下の問に答えよ．

(1) XX の期待値 E[X]\mathbb{E}[X] と分散 V[X]\mathbb{V}[X] を求めよ．

(2) X1,…,XnX_1, \dots, X_n が与えられたとき，統計モデル p(x;θ),θ>0p(x; \theta), \theta > 0 における最尤推定値 θ^n\hat{\theta}_n を求めよ．

(3) 次の性質をもつ実数値関数 h(t),t>0h(t), t > 0 をひとつ求めよ．

確率変数系列 n(h(1/θ^n)−h(1/θ0)),n=1,2,…\sqrt{n}(h(1/\hat{\theta}_n) - h(1/\theta_0)), n = 1, 2, \dots は n→∞n \to \infty で N(0,1)N(0, 1) に分布収束（法則収束）する．

次の事実を証明なしに用いてよい． Xˉn=1n∑i=1nXi\bar{X}_n = \frac{1}{n} \sum_{i=1}^n X_i に対して ZnZ_n を ∣Zn−E[X]∣≤∣Xˉn−E[X]∣|Z_n - \mathbb{E}[X]| \le |\bar{X}_n - \mathbb{E}[X]| を満たす 1 次元確率変数とする．連続な実数値関数 ff に対して nf(Zn)(Xˉn−E[X])\sqrt{n}f(Z_n)(\bar{X}_n - \mathbb{E}[X]) は n→∞n \to \infty で N(0,(f(E[X]))2V[X])N(0, (f(\mathbb{E}[X]))^2 \mathbb{V}[X]) に分布収束する．

(4) θ0\theta_0 の漸近的 95% 信頼区間を n,θ^n,z(α),0<α<1/2n, \hat{\theta}_n, z(\alpha), 0 < \alpha < 1/2 を用いて構成せよ．漸近的 95% 信頼区間とは lim⁡n→∞P(θ0∈[ℓn,un])=0.95\lim_{n \to \infty} \mathbb{P}(\theta_0 \in [\ell_n, u_n]) = 0.95 を満たす閉区間 [ℓn,un][\ell_n, u_n] を意味する．

题目描述​

一维随机变量 X,X1,…,XnX,X_1,\ldots,X_n 独立同分布，共同密度为

p(x;θ0)={θ0e−θ0x,x>0,0,其他情形,p(x;\theta_0)= \begin{cases} \theta_0e^{-\theta_0x},&x>0,\\ 0,&\text{其他情形}, \end{cases}

其中 θ0>0\theta_0>0。以下以 P(A)\mathbb P(A) 表示事件 AA 的概率；以 Z∼N(μ,σ2)Z\sim N(\mu,\sigma^2) 表示 ZZ 服从均值 μ\mu、方差 σ2\sigma^2 的正态分布。若 Z∼N(0,1)Z\sim N(0,1) 且 0<α<1/20<\alpha<1/2，定义 z(α)z(\alpha) 满足

P(Z≤z(α))=1−α.\mathbb P(Z\leq z(\alpha))=1-\alpha.
  1. 求 E[X]\mathbb E[X] 和 V[X]\mathbb V[X]。
  2. 给定样本 X1,…,XnX_1,\ldots,X_n，在统计模型 p(x;θ)p(x;\theta)（θ>0\theta>0）中求最大似然估计 θ^n\hat\theta_n。
  3. 找出一个定义在 t>0t>0 上的实值函数 h(t)h(t)，使随机变量列
n[h ⁣(1θ^n)−h ⁣(1θ0)]\sqrt n\left[ h\!\left(\frac1{\hat\theta_n}\right) -h\!\left(\frac1{\theta_0}\right) \right]

在 n→∞n\to\infty 时依分布收敛到 N(0,1)N(0,1)。

本问可直接使用以下事实：令

X‾n=1n∑i=1nXi,\overline X_n=\frac1n\sum_{i=1}^nX_i,

若一维随机变量 ZnZ_n 满足

∣Zn−E[X]∣≤∣X‾n−E[X]∣,|Z_n-\mathbb E[X]| \leq|\overline X_n-\mathbb E[X]|,

则对任意连续实值函数 ff，

n f(Zn)(X‾n−E[X])\sqrt n\,f(Z_n) (\overline X_n-\mathbb E[X])

依分布收敛到

N ⁣(0, [f(E[X])]2V[X]).N\!\left(0,\,[f(\mathbb E[X])]^2\mathbb V[X]\right).
  1. 用 n,θ^n,z(α)n,\hat\theta_n,z(\alpha)（0<α<1/20<\alpha<1/2）构造 θ0\theta_0 的渐近 95%95\% 置信区间。这里闭区间 [ℓn,un][\ell_n,u_n] 称为渐近 95%95\% 置信区间，是指
lim⁡n→∞P(θ0∈[ℓn,un])=0.95.\lim_{n\to\infty} \mathbb P\bigl(\theta_0\in[\ell_n,u_n]\bigr)=0.95.

Kai​

解答​

(1)​

指数分布の積分から

E[X]=∫0∞xθ0e−θ0x dx=1θ0,\mathbb E[X]=\int_0^\infty x\theta_0e^{-\theta_0x}\,dx=\frac1{\theta_0},
E[X2]=∫0∞x2θ0e−θ0x dx=2θ02.\mathbb E[X^2]=\int_0^\infty x^2\theta_0e^{-\theta_0x}\,dx=\frac2{\theta_0^2}.

従って

E[X]=1θ0,V[X]=1θ02.\boxed{\mathbb E[X]=\frac1{\theta_0}, \qquad \mathbb V[X]=\frac1{\theta_0^2}}.

(2)​

標本がすべて正の場合

L(θ)=θnexp⁡(−θ∑i=1nXi),ℓ(θ)=nlog⁡θ−θ∑i=1nXi.L(\theta)=\theta^n\exp\left(-\theta\sum_{i=1}^nX_i\right), \qquad \ell(\theta)=n\log\theta-\theta\sum_{i=1}^nX_i.

従って

ℓ′(θ)=nθ−∑i=1nXi,ℓ′′(θ)=−nθ2<0.\ell'(\theta)=\frac n\theta-\sum_{i=1}^nX_i, \qquad \ell''(\theta)=-\frac n{\theta^2}<0.

唯一の最大点は

θ^n=n∑i=1nXi=1Xˉn.\boxed{\hat\theta_n=\frac n{\sum_{i=1}^nX_i}=\frac1{\bar X_n}}.

(3)​

h(t)=log⁡t(t>0)\boxed{h(t)=\log t\quad(t>0)}

と取る。 1/θ^n=Xˉn1/\hat\theta_n=\bar X_n 、 1/θ0=E[X]1/\theta_0=\mathbb E[X] である。平均値の定理により、 Xˉn\bar X_n と E[X]\mathbb E[X] の間の ZnZ_n が存在して

n{log⁡Xˉn−log⁡E[X]}=n1Zn(Xˉn−E[X]).\sqrt n\{\log\bar X_n-\log\mathbb E[X]\} =\sqrt n\frac1{Z_n}(\bar X_n-\mathbb E[X]).

この ZnZ_n は問題文の距離条件を満たす。与えられた事実で f(t)=1/tf(t)=1/t とすると極限分散は

(f(E[X]))2V[X]=(11/θ0)21θ02=1.(f(\mathbb E[X]))^2\mathbb V[X] =\left(\frac1{1/\theta_0}\right)^2\frac1{\theta_0^2}=1.

従って

n(h(1θ^n)−h(1θ0))→dN(0,1).\sqrt n\left(h\left(\frac1{\hat\theta_n}\right)-h\left(\frac1{\theta_0}\right)\right) \xrightarrow{d}N(0,1).

(4)​

(3)の統計量は

n(log⁡1θ^n−log⁡1θ0)=nlog⁡θ0θ^n\sqrt n\left(\log\frac1{\hat\theta_n}-\log\frac1{\theta_0}\right) =\sqrt n\log\frac{\theta_0}{\hat\theta_n}

である。一般の 0<α<1/20<\alpha<1/2 に対する漸近被覆確率 1−2α1-2\alpha の区間は

−z(α)≤nlog⁡θ0θ^n≤z(α)-z(\alpha)\le\sqrt n\log\frac{\theta_0}{\hat\theta_n}\le z(\alpha)

を解いて

[θ^nexp⁡(−z(α)n),θ^nexp⁡(z(α)n)].\boxed{\left[ \hat\theta_n\exp\left(-\frac{z(\alpha)}{\sqrt n}\right), \hat\theta_n\exp\left(\frac{z(\alpha)}{\sqrt n}\right) \right]}.

95%では α=0.025\alpha=0.025 とすればよい。従って求める区間は

[θ^ne−z(0.025)/n,θ^nez(0.025)/n].\boxed{\left[ \hat\theta_n e^{-z(0.025)/\sqrt n}, \hat\theta_n e^{z(0.025)/\sqrt n} \right]}.

(3)の分布収束と標準正規分布の連続性から、被覆確率は n→∞n\to\infty で0.95に収束する。

本页目录