跳到主要内容

京都大学 情報学研究科 システム科学専攻 2024年8月実施 専門科目 確率統計

Author

AKIRA (小红书:94184092292)

Description

以下の問題において,E(X)E(X) は確率変数 XX の期待値,V(X)V(X) は分散を表す。N(μ,σ2)N(\mu, \sigma^2) は期待値 μ\mu,分散 σ2\sigma^2 の正規分布を表す。logx\log x は自然対数を表す。

問題1

既知の定数 x1,,xnx_1, \ldots, x_n は区間 I=[12,2]I = \left[\frac{1}{2}, 2\right] に含まれるとし,既知の g(x)>0g(x) > 0II 上の連続関数とする。確率変数 Y1,,YnY_1, \ldots, Y_n は独立に正規分布にしたがい,

YiN(θxi,g(xi)),i=1,,nY_i \sim N(\theta x_i, g(x_i)), \quad i = 1, \ldots, n

である。ただし,実数 θ\theta は未知パラメータである。定数 w1,,wnw_1, \ldots, w_n を用いて,θ\theta の推定量

θ^=i=1nwiYi\hat{\theta} = \sum_{i=1}^n w_i Y_i

とする。以下の設問に答えよ。

(1) 推定量 θ^\hat{\theta} の期待値 E(θ^)E(\hat{\theta}) と分散 V(θ^)V(\hat{\theta}) を求めよ。

(2) θ^\hat{\theta} が不偏推定量となるための w1,,wnw_1, \ldots, w_n についての必要十分条件を示せ。

(3) θ^\hat{\theta} が不偏推定量となる条件のもとで,θ^\hat{\theta} の分散を最小にする w1,,wnw_1, \ldots, w_n を求めよ。

(4) θ\theta の最尤推定量 θ^ML\hat{\theta}_{\mathrm{ML}} を求めよ。

(5) g(x)=1+x4g(x) = 1 + x^4 とする。設問 (3) で求めた w1,,wnw_1, \ldots, w_n を用いるとき,θ^\hat{\theta} の推定精度を最大とするように,x1,,xnx_1, \ldots, x_n の値を設定せよ。

問題2

XX を実数値確率変数とする。f(x)f(x)XX の確率分布の確率密度関数とし、f(x)f(x) は実数 bb および α\alpha を用いて次のように与えられるとする。

f(x)={αbαx(1+α),xb0,x<bf(x) = \begin{cases} \alpha b^\alpha x^{-(1+\alpha)}, & x \geq b \\ 0, & x < b \end{cases}

ただし、b,αb, \alpha はそれぞれ b>0b > 0, α>1\alpha > 1 を満たす。以下の設問に答えよ。

(1) 確率変数 XX の期待値を求めよ。

(2) Y=logXbY = \log \frac{X}{b} とする。YY がしたがう確率分布の確率密度関数を求めよ。

(3) f(x)f(x) に対し、次のような関係を満たす確率密度関数 g(x)g(x) を考える。

f(x)=g(x)αbg(s)αdsf(x) = \frac{g(x)^\alpha}{\int_b^\infty g(s)^\alpha \, ds}

ただし、x<bx < b のとき g(x)=0g(x) = 0 とする。xbx \geq b における g(x)g(x) を求めよ。

(4) f(x)f(x) と設問 (3) で与えた g(x)g(x) に対して D[fg]D[f \| g] を次のように定義する。

D[fg]=bf(x)logf(x)g(x)dxD[f \| g] = \int_b^\infty f(x) \log \frac{f(x)}{g(x)} \, dx

このとき D[fg]D[f \| g] を次に定義される HHRR,および α\alpha を用いて表せ。

H=bf(x)logf(x)dxH = -\int_b^\infty f(x) \log f(x) \, dx
R=11αlogbg(x)αdxR = \frac{1}{1 - \alpha} \log \int_b^\infty g(x)^\alpha \, dx

题目描述

以下 E(X),V(X)E(X),V(X) 分别表示随机变量 XX 的期望和方差,N(μ,σ2)N(\mu,\sigma^2) 表示均值为 μ\mu、方差为 σ2\sigma^2 的正态分布,logx\log x 表示自然对数。

  1. 已知常数 x1,,xnx_1,\ldots,x_n 均属于区间

    I=[12,2],I=\left[\frac12,2\right],

    已知函数 g(x)>0g(x)>0II 上连续。随机变量 Y1,,YnY_1,\ldots,Y_n 相互独立,且

    YiN(θxi,g(xi)),i=1,,n,Y_i\sim N(\theta x_i,g(x_i)), \qquad i=1,\ldots,n,

    其中实数 θ\theta 为未知参数。对常数 w1,,wnw_1,\ldots,w_n,考虑估计量

    θ^=i=1nwiYi.\hat\theta=\sum_{i=1}^nw_iY_i.

    (1)求 E(θ^)E(\hat\theta)V(θ^)V(\hat\theta)

    (2)给出 θ^\hat\theta 为无偏估计量时 w1,,wnw_1,\ldots,w_n 的充要条件。

    (3)在无偏约束下,求使 V(θ^)V(\hat\theta) 最小的 w1,,wnw_1,\ldots,w_n

    (4)求 θ\theta 的最大似然估计量 θ^ML\hat\theta_{\mathrm{ML}}

    (5)令 g(x)=1+x4g(x)=1+x^4。使用第(3)问所得权重时,应如何设置 x1,,xnx_1,\ldots,x_n,才能使 θ^\hat\theta 的估计精度最高?

  2. 设实随机变量 XX 的密度为

    f(x)={αbαx(1+α)(xb),0(x<b),f(x)= \begin{cases} \alpha b^\alpha x^{-(1+\alpha)}&(x\geq b),\\ 0&(x<b), \end{cases}

    其中 b>0,α>1b>0,\alpha>1

    (1)求 E(X)E(X)

    (2)令

    Y=logXb.Y=\log\frac Xb.

    YY 的概率密度函数。

    (3)考虑满足

    f(x)=g(x)αbg(s)αdsf(x)= \frac{g(x)^\alpha} {\displaystyle\int_b^\infty g(s)^\alpha\,ds}

    的概率密度函数 g(x)g(x),并规定 x<bx<bg(x)=0g(x)=0。求 xbx\geq b 时的 g(x)g(x)

    (4)对上述 f,gf,g,定义

    D[fg]=bf(x)logf(x)g(x)dx.D[f\|g] = \int_b^\infty f(x)\log\frac{f(x)}{g(x)}\,dx.

    再定义

    H=bf(x)logf(x)dx,H=-\int_b^\infty f(x)\log f(x)\,dx,
    R=11αlogbg(x)αdx.R=\frac1{1-\alpha} \log\int_b^\infty g(x)^\alpha\,dx.

    H,R,αH,R,\alpha 表示 D[fg]D[f\|g]

考点

  • 异方差正态线性模型:计算线性估计量的均值和方差,并写出无偏约束。
  • 最小方差无偏估计与广义最小二乘:用 Lagrange 乘数得到逆方差加权,并与最大似然估计对照。
  • 最优实验设计:通过最大化单个设计点提供的 Fisher 信息选择 xix_i
  • Pareto 分布与变量变换:计算均值,并识别对数尺度下的指数分布。
  • Escort 分布、KL 散度与 Rényi 熵:由幂次归一化关系求密度,并推导三种信息量之间的恒等式。

Kai

問題1

問題2