跳到主要内容

大阪大学 情報科学研究科 情報数理学専攻 2022年7月実施 情報数理学 数理基礎

Author​

祭音Myyura (refined with GPT 6 Astra)

Description​

1. 線形計画問題​

次の線形計画問題 PP について、以下の問いに答えよ。

P: 最小化−6x1−8x2+7x3−9x4条件2x2−x3+3x4=6,−2x1+x3−4x4≥8,x1−x2+2x4≥−7,−3x1+4x2−2x3≥9,x2≥0,x3≥0,x4≥0.\begin{array}{ll} P:\ \text{最小化}&-6x_1-8x_2+7x_3-9x_4\\[2pt] \text{条件}&2x_2-x_3+3x_4=6,\\ &-2x_1+x_3-4x_4\ge8,\\ &x_1-x_2+2x_4\ge-7,\\ &-3x_1+4x_2-2x_3\ge9,\\ &x_2\ge0,\quad x_3\ge0,\quad x_4\ge0. \end{array}

(1) x3=3x_3=3、x4=1x_4=1 を満たす実行可能解について、x1,x2x_1,x_2 の条件を求めよ。

(2) PP の双対問題を示せ。

(3) PP の最適値が 00 であることを説明せよ。

2. 指数分布と条件付き分布​

確率変数 X,YX,Y が互いに独立で,ともに平均が 11 の指数分布に従うとする。Z=X+YZ=X+Y とおく。以下の問いに答えなさい。

(1) ZZ の確率密度関数を求めなさい。

(2) 確率分布の再生性とは何か。指数分布には再生性があるか。説明しなさい。

(3) Z=zZ=z のときの XX の条件付き確率密度関数を求めなさい。

3. 平均の逐次推定​

母平均が μ\mu、母分散が σ2\sigma^2 の母集団から標本データ xkx_k(k=1,2,…k=1,2,\ldots)が独立に逐次得られるとする。母平均 μ\mu の推定量 μ^k\widehat\mu_k を差分方程式

μ^k=αkμ^k−1+βkxk,μ^0=1\widehat\mu_k=\alpha_k\widehat\mu_{k-1}+\beta_kx_k, \qquad \widehat\mu_0=1

に基づいて定める。ただし、αk,βk\alpha_k,\beta_k は定数とする。

(1) μ^1\widehat\mu_1 が不偏推定量になるように α1,β1\alpha_1,\beta_1 を定めよ。

(2) (1) のように α1,β1\alpha_1,\beta_1 を選ぶとき、μ^2\widehat\mu_2 が不偏推定量になり、その分散が最小になるように α2,β2\alpha_2,\beta_2 を定めよ。

(3) (1)、(2) のように α1,β1,α2,β2\alpha_1,\beta_1,\alpha_2,\beta_2 を選ぶとき、μ^3\widehat\mu_3 が不偏推定量になり、その分散が最小になるように α3,β3\alpha_3,\beta_3 を定めよ。

(4) 逐次得られる μ^k\widehat\mu_k(k=1,2,…k=1,2,\ldots)が不偏推定量になり、その分散が最小になるように αk,βk\alpha_k,\beta_k を定めよ。

题目描述​

1. 线性规划

考虑线性规划问题 PP:最小化 −6x1−8x2+7x3−9x4-6x_1-8x_2+7x_3-9x_4,约束为

{2x2−x3+3x4=6,−2x1+x3−4x4≥8,x1−x2+2x4≥−7,−3x1+4x2−2x3≥9,x2,x3,x4≥0.\begin{cases} 2x_2-x_3+3x_4=6,\\ -2x_1+x_3-4x_4\ge8,\\ x_1-x_2+2x_4\ge-7,\\ -3x_1+4x_2-2x_3\ge9,\\ x_2,x_3,x_4\ge0. \end{cases}

其中 x1x_1 没有符号限制。

(1) 对满足 x3=3x_3=3、x4=1x_4=1 的可行解,求 x1,x2x_1,x_2 应满足的条件。

(2) 写出 PP 的对偶问题。

(3) 说明 PP 的最优值为 00。

2. 指数分布与条件分布 随机变量 X,YX,Y 相互独立,均服从均值为 11 的指数分布。令 Z=X+YZ=X+Y。

(1) 求 ZZ 的概率密度函数。

(2) 什么是概率分布的再生性?指数分布是否具有再生性?请说明。

(3) 求给定 Z=zZ=z 时 XX 的条件概率密度函数。

3. 均值的递推估计

从总体均值为 μ\mu、方差为 σ2\sigma^2 的总体中,依次独立取得样本 xkx_k(k=1,2,…k=1,2,\ldots)。通过

μ^k=αkμ^k−1+βkxk,μ^0=1\widehat\mu_k=\alpha_k\widehat\mu_{k-1}+\beta_kx_k, \qquad\widehat\mu_0=1

定义均值估计量,其中 αk,βk\alpha_k,\beta_k 均为常数。

(1) 确定 α1,β1\alpha_1,\beta_1,使 μ^1\widehat\mu_1 无偏。

(2) 使用 (1) 的系数,确定 α2,β2\alpha_2,\beta_2,使 μ^2\widehat\mu_2 无偏且方差最小。

(3) 使用 (1)、(2) 的系数,确定 α3,β3\alpha_3,\beta_3,使 μ^3\widehat\mu_3 无偏且方差最小。

(4) 确定一般的 αk,βk\alpha_k,\beta_k,使各步递推估计量 μ^k\widehat\mu_k 均无偏且方差最小。

Kai​

1. 線形計画問題​

(1)​

等式制約に x3=3x_3=3、x4=1x_4=1 を代入すると x2=3x_2=3 となる。残りの三つの不等式は、それぞれ

x1≤−92,x1≥−6,x1≤−1x_1\le-\frac92,\qquad x_1\ge-6,\qquad x_1\le-1

となるので、求める条件は

−6≤x1≤−92,x2=3.\boxed{-6\le x_1\le-\frac92,\qquad x_2=3}.

(2)​

四つの制約に対応する双対変数を順に y1,y2,y3,y4y_1,y_2,y_3,y_4 とする。第1制約が等式なので y1y_1 は自由変数であり、残りは y2,y3,y4≥0y_2,y_3,y_4\ge0 となる。また、主問題の x1x_1 は自由変数なので、対応する双対制約は等式である。したがって双対問題は

D: 最大化6y1+8y2−7y3+9y4条件−2y2+y3−3y4=−6,2y1−y3+4y4≤−8,−y1+y2−2y4≤7,3y1−4y2+2y3≤−9,y1∈R,y2,y3,y4≥0.\boxed{ \begin{array}{ll} D:\ \text{最大化}&6y_1+8y_2-7y_3+9y_4\\[2pt] \text{条件}&-2y_2+y_3-3y_4=-6,\\ &2y_1-y_3+4y_4\le-8,\\ &-y_1+y_2-2y_4\le7,\\ &3y_1-4y_2+2y_3\le-9,\\ &y_1\in\mathbb R,\quad y_2,y_3,y_4\ge0. \end{array}}

(3)​

双対問題の四つの制約にそれぞれ −1-1 を掛けると

{2y2−y3+3y4=6,−2y1+y3−4y4≥8,y1−y2+2y4≥−7,−3y1+4y2−2y3≥9,y2,y3,y4≥0.\begin{cases} 2y_2-y_3+3y_4=6,\\ -2y_1+y_3-4y_4\ge8,\\ y_1-y_2+2y_4\ge-7,\\ -3y_1+4y_2-2y_3\ge9, \end{cases} \qquad y_2,y_3,y_4\ge0.

これは PP の実行可能領域と同一である。その領域を SS、PP の目的関数を ff とおくと

P: min⁡x∈Sf(x),D: max⁡y∈S{−f(y)}P:\ \min_{\boldsymbol x\in S}f(\boldsymbol x), \qquad D:\ \max_{\boldsymbol y\in S}\{-f(\boldsymbol y)\}

と書ける。(1) より S≠∅S\ne\varnothing なので、両問題は実行可能であり、弱双対性により最適値は有限である。PP の最適値を vv とすれば DD の最適値は −v-v であり、強双対定理から v=−vv=-v を得る。したがって

v=0.\boxed{v=0}.

実際、x=(−4,3,0,0)T\boldsymbol x=(-4,3,0,0)^T はすべての制約を満たし、目的関数値も 24−24=024-24=0 となる。

2. 指数分布と条件付き分布​

(1)​

X,YX,Y の密度はともに fX(u)=fY(u)=e−uf_X(u)=f_Y(u)=e^{-u}(u≥0u\ge0),00(u<0u<0)である。独立性より,z≥0z\ge0 に対して

fZ(z)=∫0zfX(x)fY(z−x) dx=∫0ze−xe−(z−x) dx=ze−z.f_Z(z)=\int_0^z f_X(x)f_Y(z-x)\,dx =\int_0^z e^{-x}e^{-(z-x)}\,dx=ze^{-z}.

したがって

fZ(z)={ze−z,z≥0,0,z<0.\boxed{ f_Z(z)= \begin{cases} ze^{-z},&z\ge0,\\ 0,&z<0. \end{cases} }

(2)​

再生性とは,同じ分布族に従う独立な確率変数の和も,パラメータを変えることで同じ分布族に属する性質である。

(1) で得た ZZ の密度 ze−zze^{-z} は,どの λ>0\lambda>0 に対しても指数分布の密度 λe−λz\lambda e^{-\lambda z} と一致しない。実際,z→0+z\to0+ における極限は前者が 00,後者が λ>0\lambda>0 である。よって

指数分布は再生性を持たない。\boxed{\text{指数分布は再生性を持たない。}}

(3)​

変数変換 (X,Y)↦(X,Z)=(X,X+Y)(X,Y)\mapsto(X,Z)=(X,X+Y) の逆変換は (x,z)↦(x,z−x)(x,z)\mapsto(x,z-x) で,そのヤコビアンの絶対値は 11 である。したがって同時密度は

fX,Z(x,z)={e−xe−(z−x)=e−z,0≤x≤z,0,その他.f_{X,Z}(x,z)= \begin{cases} e^{-x}e^{-(z-x)}=e^{-z},&0\le x\le z,\\ 0,&\text{その他}. \end{cases}

z>0z>0 に対して,条件付き密度は

fX∣Z(x∣z)=fX,Z(x,z)fZ(z)={1z,0≤x≤z,0,その他.\boxed{ f_{X\mid Z}(x\mid z) =\frac{f_{X,Z}(x,z)}{f_Z(z)} =\begin{cases} \dfrac1z,&0\le x\le z,\\ 0,&\text{その他}. \end{cases} }

すなわち,X∣Z=zX\mid Z=z は区間 [0,z][0,z] 上の一様分布に従う。

3. 平均の逐次推定​

(1)​

μ^0=1\widehat\mu_0=1 なので、E[μ^1]=α1+β1μE[\widehat\mu_1]=\alpha_1+\beta_1\mu である。不偏性はすべての母平均 μ\mu に対して成立する必要があるから、係数を比較して

α1=0,β1=1.\boxed{\alpha_1=0,\qquad\beta_1=1}.

したがって μ^1=x1\widehat\mu_1=x_1、Var⁡(μ^1)=σ2\operatorname{Var}(\widehat\mu_1)=\sigma^2 である。

(2)​

不偏性の条件は α2+β2=1\alpha_2+\beta_2=1 である。μ^1=x1\widehat\mu_1=x_1 と x2x_2 は独立なので、

Var⁡(μ^2)=(α22+β22)σ2={2(α2−12)2+12}σ2.\begin{aligned} \operatorname{Var}(\widehat\mu_2) &=(\alpha_2^2+\beta_2^2)\sigma^2\\ &=\left\{2\left(\alpha_2-\frac12\right)^2+\frac12\right\}\sigma^2. \end{aligned}

よって

α2=β2=12,Var⁡(μ^2)=σ22.\boxed{\alpha_2=\beta_2=\frac12,\qquad \operatorname{Var}(\widehat\mu_2)=\frac{\sigma^2}{2}}.

(3)​

μ^2=(x1+x2)/2\widehat\mu_2=(x_1+x_2)/2 と x3x_3 は独立である。不偏性の条件 α3+β3=1\alpha_3+\beta_3=1 のもとで

Var⁡(μ^3)=(α322+β32)σ2={32(α3−23)2+13}σ2.\begin{aligned} \operatorname{Var}(\widehat\mu_3) &=\left(\frac{\alpha_3^2}{2}+\beta_3^2\right)\sigma^2\\ &=\left\{\frac32\left(\alpha_3-\frac23\right)^2+\frac13\right\}\sigma^2. \end{aligned}

したがって

α3=23,β3=13,Var⁡(μ^3)=σ23.\boxed{\alpha_3=\frac23,\qquad\beta_3=\frac13,\qquad \operatorname{Var}(\widehat\mu_3)=\frac{\sigma^2}{3}}.

(4)​

μ^n\widehat\mu_n が不偏で Var⁡(μ^n)=σ2/n\operatorname{Var}(\widehat\mu_n)=\sigma^2/n と仮定する。μ^n\widehat\mu_n は x1,…,xnx_1,\ldots,x_n の関数なので、xn+1x_{n+1} と独立である。不偏性の条件は αn+1+βn+1=1\alpha_{n+1}+\beta_{n+1}=1 であり、

Var⁡(μ^n+1)=(αn+12n+βn+12)σ2={n+1n(αn+1−nn+1)2+1n+1}σ2.\begin{aligned} \operatorname{Var}(\widehat\mu_{n+1}) &=\left(\frac{\alpha_{n+1}^2}{n}+\beta_{n+1}^2\right)\sigma^2\\ &=\left\{\frac{n+1}{n} \left(\alpha_{n+1}-\frac{n}{n+1}\right)^2 +\frac1{n+1}\right\}\sigma^2. \end{aligned}

よって αn+1=n/(n+1)\alpha_{n+1}=n/(n+1)、βn+1=1/(n+1)\beta_{n+1}=1/(n+1) で最小分散 σ2/(n+1)\sigma^2/(n+1) を得る。(1) を初期段階とする帰納法により、

αk=k−1k,βk=1k(k=1,2,…).\boxed{\alpha_k=\frac{k-1}{k},\qquad\beta_k=\frac1k \quad(k=1,2,\ldots)}.

この更新で得られる推定量は標本平均であり、

μ^k=1k∑j=1kxj,E[μ^k]=μ,Var⁡(μ^k)=σ2k.\boxed{\widehat\mu_k=\frac1k\sum_{j=1}^k x_j,\qquad E[\widehat\mu_k]=\mu,\qquad \operatorname{Var}(\widehat\mu_k)=\frac{\sigma^2}{k}}.

σ2>0\sigma^2>0 なら各段階の最小化係数は一意である。σ2=0\sigma^2=0 でも上記の選択は最適だが、k≥2k\ge2 では αk+βk=1\alpha_k+\beta_k=1 を満たす任意の係数で分散が 00 となる。

Reference​