跳到主要内容

東京工業大学 環境・社会理工学院 土木・環境工学系 2022年8月実施 基礎科目4

Author​

Miyake, 祭音Myyura

Description​

ある確率変数 XX の自然対数 ln⁡X\ln X が平均値 λ\lambda、標準偏差 ζ\zeta(ここで、ζ>0\zeta>0)の正規分布に従うとき、XX の分布を対数正規分布とよぶ。このとき、以下の問いに答えよ。

なお、任意の確率変数 YY が平均値 λ\lambda、標準偏差 ζ\zeta の正規分布に従うとき、YY の確率密度関数は

fY(y)=12πζexp⁡[−12(y−λ)2ζ2](1)f_Y(y)=\frac1{\sqrt{2\pi}\zeta}\exp\left[-\frac12\frac{(y-\lambda)^2}{\zeta^2}\right]\tag{1}

によって表わされ、fY(y)f_Y(y) の面積が1となること、すなわち、

∫−∞∞fY(y) dy=∫−∞∞12πζexp⁡[−12(y−λ)2ζ2]dy=1(2)\begin{aligned} \int_{-\infty}^{\infty}f_Y(y)\,dy &=\int_{-\infty}^{\infty}\frac1{\sqrt{2\pi}\zeta} \exp\left[-\frac12\frac{(y-\lambda)^2}{\zeta^2}\right]dy\\ &=1 \end{aligned}\tag{2}

を用いてよい。

(1) 確率変数 YY が式 (1) に示す正規分布に従うとき、Y=ln⁡XY=\ln X によって定義される確率変数 XX の確率密度関数は、

fX(x)=12πζxexp⁡[−12(ln⁡x−λ)2ζ2](3)f_X(x)=\frac1{\sqrt{2\pi}\zeta x}\exp\left[-\frac12\frac{(\ln x-\lambda)^2}{\zeta^2}\right]\tag{3}

と表わされることを示せ。

(2) 任意の確率変数 ZZ の確率密度関数が fZ(z)f_Z(z) であるとき、確率変数 ZZ の関数 g(Z)g(Z) の期待値 E[g(Z)]E[g(Z)] は、

E[g(Z)]=∫−∞∞g(z)fZ(z) dz(4)E[g(Z)]=\int_{-\infty}^{\infty}g(z)f_Z(z)\,dz\tag{4}

によって求められる。E[X]E[X] および E[X2]E[X^2] について式 (1)、(4) を用いることにより、対数正規分布に従う確率変数 XX の平均 μX\mu_X および分散 σX2\sigma_X^2 がそれぞれ次式で表わされることを示せ。

μX=exp⁡[λ+ζ2/2],σX2=(eζ2−1)exp⁡[2λ+ζ2](5)\begin{aligned} \mu_X&=\exp[\lambda+\zeta^2/2],\\ \sigma_X^2&=(e^{\zeta^2}-1)\exp[2\lambda+\zeta^2] \end{aligned}\tag{5}

(3) 母集団から得られた実現値(標本値)を用いて母数(母集団の確率分布特性を規定するパラメータ)を推定する方法の一つに最尤法がある。

ある確率変数 ZZ の確率密度関数が mm 個のパラメータ θi (i=1,…,m)\theta_i\ (i=1,\ldots,m) によって規定され、fZ(z;θ1,θ2,…,θm)f_Z(z;\theta_1,\theta_2,\ldots,\theta_m) と表せるものとする。このとき、ZZ の nn 個の実現値 zj (j=1,…,n)z_j\ (j=1,\ldots,n) を用いて mm 個のパラメータを推定するために、「実現値 zj (j=1,…,n)z_j\ (j=1,\ldots,n) がもっとも実現しやすいような θi (i=1,…,m)\theta_i\ (i=1,\ldots,m) の値はいくらか」という問題を考える。言い換えると、θi (i=1,…,m)\theta_i\ (i=1,\ldots,m) のとりうる値のうち、得られた実現値が実現する確からしさ(もっともらしさ)を最大にするような値はいくらか、という問題である。

特定の実現値 zjz_j が実現する確からしさは、zjz_j における確率密度関数の値に比例すると考えてよい。標本抽出が無作為であると仮定するならば、nn 個の独立な実現値 zj (j=1,…,n)z_j\ (j=1,\ldots,n) が実現する確からしさは、

L(z1,z2,…,zn;θ1,θ2,…,θm)=∏j=1nfZ(zj;θ1,θ2,…,θm)(6)\begin{aligned} &L(z_1,z_2,\ldots,z_n;\theta_1,\theta_2,\ldots,\theta_m)\\ &\qquad=\prod_{j=1}^n f_Z(z_j;\theta_1,\theta_2,\ldots,\theta_m) \end{aligned}\tag{6}

と表わされ、この関数を尤度関数と呼ぶ。

以上より、尤度関数を最大にするような θi (i=1,…,m)\theta_i\ (i=1,\ldots,m) の値 θ^i (i=1,…,m)\hat\theta_i\ (i=1,\ldots,m)、すなわち最尤推定量を求めればよいことになる。従って、最尤推定量は以下のような mm 個の式からなる連立微分方程式を解くことで求められる。

∂L(z1,z2,…,zn;θ1,θ2,…,θm)∂θj=0(j=1,…,m)(7)\frac{\partial L(z_1,z_2,\ldots,z_n;\theta_1,\theta_2,\ldots,\theta_m)}{\partial\theta_j}=0 \quad(j=1,\ldots,m)\tag{7}

上記のことを参考にして以下の問いに答えよ。

(a) 対数正規分布に従う確率変数 XX について、nn 個の実現値 x1,x2,…,xnx_1,x_2,\ldots,x_n が得られたとする。対数正規分布のパラメータは式 (3) に示すとおり、λ\lambda および ζ\zeta の2つである。このとき、尤度関数 L(x1,x2,…,xn;λ,ζ)L(x_1,x_2,\ldots,x_n;\lambda,\zeta) を求めよ。

(b) 尤度関数の対数、すなわち ln⁡L(x1,x2,…,xn;λ,ζ)\ln L(x_1,x_2,\ldots,x_n;\lambda,\zeta) が最大となるような最尤推定量 λ^,ζ^\hat\lambda,\hat\zeta が次式で表わされることを示せ。

λ^=1n∑j=1nln⁡xj,ζ^=1n∑j=1n(ln⁡xj−λ^)2(8)\begin{aligned} \hat\lambda&=\frac1n\sum_{j=1}^n\ln x_j,\\ \hat\zeta&=\sqrt{\frac1n\sum_{j=1}^n(\ln x_j-\hat\lambda)^2} \end{aligned}\tag{8}

(c) ある供試体に繰り返し載荷を行って、その供試体が破壊するまでの載荷回数を測定した。測定を3回繰り返して行ったところ、それぞれ、25回、20回、24回で破壊した。この供試体が破壊するまでの載荷回数は対数正規分布に従うものとし、最尤法によって2つの母数 λ\lambda と ζ\zeta の最尤推定量 λ^\hat\lambda および ζ^\hat\zeta を求めよ。

なお、計算にあたっては ln⁡2≈0.7\ln2\approx0.7、ln⁡3≈1.1\ln3\approx1.1、ln⁡5≈1.6\ln5\approx1.6 とし、必要に応じて四捨五入したうえで小数点以下1桁まで求めること。

题目描述​

若随机变量 XX 的自然对数 ln⁡X\ln X 服从均值为 λ\lambda、标准差为 ζ>0\zeta>0 的正态分布,则称 XX 服从对数正态分布。回答下列问题。

可以使用以下事实:若随机变量 YY 服从均值为 λ\lambda、标准差为 ζ\zeta 的正态分布,其概率密度为

fY(y)=12πζexp⁡[−12(y−λ)2ζ2],f_Y(y)=\frac1{\sqrt{2\pi}\zeta}\exp\left[-\frac12\frac{(y-\lambda)^2}{\zeta^2}\right],

且其图像下的面积为1,即

∫−∞∞fY(y) dy=∫−∞∞12πζexp⁡[−12(y−λ)2ζ2]dy=1.\begin{aligned} \int_{-\infty}^{\infty}f_Y(y)\,dy &=\int_{-\infty}^{\infty}\frac1{\sqrt{2\pi}\zeta} \exp\left[-\frac12\frac{(y-\lambda)^2}{\zeta^2}\right]dy\\ &=1. \end{aligned}

(1) 当 YY 服从式 (1) 的正态分布时,证明由 Y=ln⁡XY=\ln X 定义的随机变量 XX 的概率密度为

fX(x)=12πζxexp⁡[−12(ln⁡x−λ)2ζ2].f_X(x)=\frac1{\sqrt{2\pi}\zeta x}\exp\left[-\frac12\frac{(\ln x-\lambda)^2}{\zeta^2}\right].

(2) 若任意随机变量 ZZ 的概率密度为 fZ(z)f_Z(z),其函数 g(Z)g(Z) 的期望为

E[g(Z)]=∫−∞∞g(z)fZ(z) dz.E[g(Z)]=\int_{-\infty}^{\infty}g(z)f_Z(z)\,dz.

对 E[X]E[X] 和 E[X2]E[X^2] 使用式 (1)、(4),证明服从对数正态分布的 XX 的均值 μX\mu_X 和方差 σX2\sigma_X^2 分别为

μX=exp⁡[λ+ζ2/2],σX2=(eζ2−1)exp⁡[2λ+ζ2].\begin{aligned} \mu_X&=\exp[\lambda+\zeta^2/2],\\ \sigma_X^2&=(e^{\zeta^2}-1)\exp[2\lambda+\zeta^2]. \end{aligned}

(3) 最大似然法是利用总体中取得的实现值(样本值)估计参数(规定总体概率分布特性的量)的一种方法。

设随机变量 ZZ 的概率密度由 mm 个参数 θi (i=1,…,m)\theta_i\ (i=1,\ldots,m) 决定,记为 fZ(z;θ1,θ2,…,θm)f_Z(z;\theta_1,\theta_2,\ldots,\theta_m)。为了用 ZZ 的 nn 个实现值 zj (j=1,…,n)z_j\ (j=1,\ldots,n) 估计这 mm 个参数,考虑使这些实现值最容易出现的参数取值。换言之,在参数的所有可能值中,寻找使已得到的实现值出现的可能性最大的取值。

特定实现值 zjz_j 出现的可能性可以认为与该处的概率密度值成正比。若假定采用随机抽样,nn 个相互独立的实现值 zj (j=1,…,n)z_j\ (j=1,\ldots,n) 出现的可能性表示为

L(z1,z2,…,zn;θ1,θ2,…,θm)=∏j=1nfZ(zj;θ1,θ2,…,θm).\begin{aligned} &L(z_1,z_2,\ldots,z_n;\theta_1,\theta_2,\ldots,\theta_m)\\ &\qquad=\prod_{j=1}^nf_Z(z_j;\theta_1,\theta_2,\ldots,\theta_m). \end{aligned}

该函数称为似然函数。因此,只需寻找使似然函数最大的参数值 θ^i (i=1,…,m)\hat\theta_i\ (i=1,\ldots,m),即最大似然估计量。它可以通过求解以下由 mm 个方程组成的方程组得到:

∂L(z1,z2,…,zn;θ1,θ2,…,θm)∂θj=0(j=1,…,m).\frac{\partial L(z_1,z_2,\ldots,z_n;\theta_1,\theta_2,\ldots,\theta_m)}{\partial\theta_j}=0 \quad(j=1,\ldots,m).

参考上述内容回答以下问题。

(a) 从服从对数正态分布的随机变量 XX 得到 nn 个实现值 x1,x2,…,xnx_1,x_2,\ldots,x_n。该分布有式 (3) 中的两个参数 λ,ζ\lambda,\zeta,求似然函数 L(x1,x2,…,xn;λ,ζ)L(x_1,x_2,\ldots,x_n;\lambda,\zeta)。

(b) 证明使对数似然 ln⁡L(x1,x2,…,xn;λ,ζ)\ln L(x_1,x_2,\ldots,x_n;\lambda,\zeta) 最大的估计量为

λ^=1n∑j=1nln⁡xj,ζ^=1n∑j=1n(ln⁡xj−λ^)2.\begin{aligned} \hat\lambda&=\frac1n\sum_{j=1}^n\ln x_j,\\ \hat\zeta&=\sqrt{\frac1n\sum_{j=1}^n(\ln x_j-\hat\lambda)^2}. \end{aligned}

(c) 对试件进行反复加载,测量直到试件破坏的加载次数。重复测量3次,分别在25次、20次、24次时破坏。假定破坏前的加载次数服从对数正态分布,用最大似然法求参数 λ,ζ\lambda,\zeta 的估计量 λ^,ζ^\hat\lambda,\hat\zeta。

计算时取 ln⁡2≈0.7\ln2\approx0.7、ln⁡3≈1.1\ln3\approx1.1、ln⁡5≈1.6\ln5\approx1.6,必要时四舍五入,结果保留到小数点后一位。

Kai​

(1)​

確率を PP で表す。 x>0x \gt 0 について、

P(X≤x)=P(Y≤ln⁡x)=12πζ∫−∞ln⁡xexp⁡[−(y−λ)22ζ2]dy∴  fX(x)=ddxP(X≤x)=12πζxexp⁡[−(ln⁡x−λ)22ζ2] \begin{aligned} P \left( X \leq x \right) &= P \left( Y \leq \ln x \right) \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^{\ln x} \exp \left[ - \frac{(y-\lambda)^2}{2 \zeta^2} \right] dy \\ \therefore \ \ f_X(x) &= \frac{d}{dx} P \left( X \leq x \right) \\ &= \frac{1}{\sqrt{2 \pi} \zeta x} \exp \left[ - \frac{(\ln x - \lambda)^2}{2 \zeta^2} \right] \end{aligned}

である。

(2)​

μX=E[X]=E[eY]=12πζ∫−∞∞exp⁡[y−(y−λ)22ζ2]dy=12πζ∫−∞∞exp⁡[−y2−2(λ+ζ2)y+λ22ζ2]dy=12πζ∫−∞∞exp⁡[−(y−(λ+ζ2))2−2λζ2−ζ42ζ2]dy=exp⁡[λ+ζ22]E[X2]=E[e2Y]=12πζ∫−∞∞exp⁡[2y−(y−λ)22ζ2]dy=12πζ∫−∞∞exp⁡[−y2−2(λ+2ζ2)y+λ22ζ2]dy=12πζ∫−∞∞exp⁡[−(y−(λ+2ζ2))2−4λζ2−4ζ42ζ2]dy=exp⁡[2λ+2ζ2]σX2=E[X2]−E[X]2=exp⁡[2λ+2ζ2]−exp⁡[2λ+ζ2]=(eζ2−1)exp⁡[2λ+ζ2]\begin{aligned} \mu_X &= E \left[ X \right] \\ &= E \left[ e^Y \right] \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ y - \frac{(y-\lambda)^2}{2 \zeta^2} \right] dy \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ - \frac{y^2-2(\lambda + \zeta^2) y + \lambda^2} {2 \zeta^2} \right] dy \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ - \frac{(y-(\lambda+\zeta^2))^2 - 2 \lambda \zeta^2 - \zeta^4} {2 \zeta^2} \right] dy \\ &= \exp \left[ \lambda + \frac{\zeta^2}{2} \right] \\ E \left[ X^2 \right] &= E \left[ e^{2Y} \right] \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ 2y - \frac{(y-\lambda)^2}{2 \zeta^2} \right] dy \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ - \frac{y^2-2(\lambda + 2 \zeta^2) y + \lambda^2} {2 \zeta^2} \right] dy \\ &= \frac{1}{\sqrt{2 \pi} \zeta} \int_{-\infty}^\infty \exp \left[ - \frac{(y-(\lambda+2 \zeta^2))^2 - 4 \lambda \zeta^2 - 4 \zeta^4} {2 \zeta^2} \right] dy \\ &= \exp \left[ 2 \lambda + 2 \zeta^2 \right] \\ \sigma_X^2 &= E \left[ X^2 \right] - E \left[ X \right]^2 \\ &= \exp \left[ 2 \lambda + 2 \zeta^2 \right] - \exp \left[ 2 \lambda + \zeta^2 \right] \\ &= \left( e^{\zeta^2} - 1 \right) \exp \left[ 2 \lambda + \zeta^2 \right] \end{aligned}

(3)​

(a)​

L(x1,x2,⋯ ,xn;λ,ζ)=∏i=1n12πζxiexp⁡[−(ln⁡xi−λ)22ζ2]=(2πζ)−n(∏i=1nxi)−1exp⁡[−12ζ2∑j=1n(ln⁡xj−λ)2]\begin{gathered} L (x_1, x_2, \cdots, x_n ; \lambda, \zeta) = \prod_{i=1}^n \frac{1}{\sqrt{2 \pi} \zeta x_i} \exp \left[ - \frac{(\ln x_i - \lambda)^2}{2 \zeta^2} \right] \\ = \left( \sqrt{2 \pi} \zeta \right)^{-n} \left( \prod_{i=1}^n x_i \right)^{-1} \exp \left[ - \frac{1}{2 \zeta^2} \sum_{j=1}^n (\ln x_j - \lambda)^2 \right] \end{gathered}

(b)​

ln⁡L(x1,x2,⋯ ,xn;λ,ζ)=−n2ln⁡(2π)−nln⁡ζ−∑i=1nln⁡xi−12ζ2∑j=1n(ln⁡xj−λ)2∂∂λln⁡L(x1,x2,⋯ ,xn;λ,ζ)=1ζ2∑j=1n(ln⁡xj−λ)=nζ2(1n∑j=1nln⁡xj−λ)∂∂ζln⁡L(x1,x2,⋯ ,xn;λ,ζ)=−nζ+1ζ3∑j=1n(ln⁡xj−λ)2=−nζ3(ζ2−1n∑j=1n(ln⁡xj−λ)2)\begin{gathered} \ln L(x_1,x_2,\cdots,x_n;\lambda,\zeta) \\ =-\frac n2\ln(2\pi)-n\ln\zeta-\sum_{i=1}^n\ln x_i \\ {}-\frac1{2\zeta^2}\sum_{j=1}^n(\ln x_j-\lambda)^2 \\[4pt] \frac{\partial}{\partial\lambda}\ln L(x_1,x_2,\cdots,x_n;\lambda,\zeta) \\ =\frac1{\zeta^2}\sum_{j=1}^n(\ln x_j-\lambda) =\frac n{\zeta^2}\left(\frac1n\sum_{j=1}^n\ln x_j-\lambda\right) \\[4pt] \frac{\partial}{\partial\zeta}\ln L(x_1,x_2,\cdots,x_n;\lambda,\zeta) \\ =-\frac n\zeta+\frac1{\zeta^3}\sum_{j=1}^n(\ln x_j-\lambda)^2 \\ =-\frac n{\zeta^3}\left(\zeta^2-\frac1n\sum_{j=1}^n(\ln x_j-\lambda)^2\right) \end{gathered}

なので、

λ^=1n∑j=1nln⁡xjζ^=1n∑j=1n(ln⁡xj−λ^)2\begin{aligned} \hat{\lambda} &= \frac{1}{n} \sum_{j=1}^n \ln x_j \\ \hat{\zeta} &= \sqrt{ \frac{1}{n} \sum_{j=1}^n \left( \ln x_j - \hat{\lambda} \right)^2 } \end{aligned}

がわかる。ただし、ln⁡xi\ln x_i がすべて等しい場合は ζ>0\zeta>0 で最尤推定値を持たない。

(c)​

指定された近似値では

ln⁡25=2ln⁡5≃3.2,ln⁡20=2ln⁡2+ln⁡5≃3.0,ln⁡24=3ln⁡2+ln⁡3≃3.2.\begin{gathered} \ln25=2\ln5\simeq3.2,\\ \ln20=2\ln2+\ln5\simeq3.0,\\ \ln24=3\ln2+\ln3\simeq3.2. \end{gathered}

したがって

λ^≃3.2+3.0+3.23=4715,ζ^≃(1/15)2+(−2/15)2+(1/15)23=215.\begin{gathered} \hat\lambda\simeq\frac{3.2+3.0+3.2}{3}=\frac{47}{15},\\ \hat\zeta\simeq\sqrt{\frac{(1/15)^2+(-2/15)^2+(1/15)^2}{3}} =\frac{\sqrt2}{15}. \end{gathered}

小数第1位までで λ^≃3.1,ζ^≃0.1\boxed{\hat\lambda\simeq3.1,\quad\hat\zeta\simeq0.1} となる。

Reference​