京都大学 情報学研究科 システム科学専攻 2024年8月実施 専門科目 確率統計
Author
AKIRA (小红书:94184092292)
Description
以下の問題において,E(X) は確率変数 X の期待値,V(X) は分散を表す。N(μ,σ2) は期待値 μ,分散 σ2 の正規分布を表す。logx は自然対数を表す。
問題1
既知の定数 x1,…,xn は区間 I=[21,2] に含まれるとし,既知の g(x)>0 は I 上の連続関数とする。確率変数 Y1,…,Yn は独立に正規分布にしたがい,
Yi∼N(θxi,g(xi)),i=1,…,n
である。ただし,実数 θ は未知パラメータである。定数 w1,…,wn を用いて,θ の推定量
θ^=i=1∑nwiYi
とする。以下の設問に答えよ。
(1) 推定量 θ^ の期待値 E(θ^) と分散 V(θ^) を求めよ。
(2) θ^ が不偏推定量となるための w1,…,wn についての必要十分条件を示せ。
(3) θ^ が不偏推定量となる条件のもとで,θ^ の分散を最小にする w1,…,wn を求めよ。
(4) θ の最尤推定量 θ^ML を求めよ。
(5) g(x)=1+x4 とする。設問 (3) で求めた w1,…,wn を用いるとき,θ^ の推定精度を最大とするように,x1,…,xn の値を設定せよ。
問題2
X を実数値確率変数とする。f(x) を X の確率分布の確率密度関数とし、f(x) は実数 b および α を用いて次のように与えられるとする。
f(x)={αbαx−(1+α),0,x≥bx<b
ただし、b,α はそれぞれ b>0, α>1 を満たす。以下の設問に答えよ。
(1) 確率変数 X の期待値を求めよ。
(2) Y=logbX とする。Y がしたがう確率分布の確率密度関数を求めよ。
(3) f(x) に対し、次のような関係を満たす確率密度関数 g(x) を考える。
f(x)=∫b∞g(s)αdsg(x)α
ただし、x<b のとき g(x)=0 とする。x≥b における g(x) を求めよ。
(4) f(x) と設問 (3) で与えた g(x) に対して D[f∥g] を次のように定義する。
D[f∥g]=∫b∞f(x)logg(x)f(x)dx
このとき D[f∥g] を次に定義される H と R,および α を用いて表せ。
H=−∫b∞f(x)logf(x)dx
R=1−α1log∫b∞g(x)αdx
题目描述
以下 E(X),V(X) 分别表示随机变量 X 的期望和方差,N(μ,σ2) 表示均值为 μ、方差为 σ2 的正态分布,logx 表示自然对数。
-
已知常数 x1,…,xn 均属于区间
I=[21,2],
已知函数 g(x)>0 在 I 上连续。随机变量 Y1,…,Yn 相互独立,且
Yi∼N(θxi,g(xi)),i=1,…,n,
其中实数 θ 为未知参数。对常数 w1,…,wn,考虑估计量
θ^=i=1∑nwiYi.
(1)求 E(θ^) 与 V(θ^)。
(2)给出 θ^ 为无偏估计量时 w1,…,wn 的充要条件。
(3)在无偏约束下,求使 V(θ^) 最小的 w1,…,wn。
(4)求 θ 的最大似然估计量 θ^ML。
(5)令 g(x)=1+x4。使用第(3)问所得权重时,应如何设置 x1,…,xn,才能使 θ^ 的估计精度最高?
-
设实随机变量 X 的密度为
f(x)={αbαx−(1+α)0(x≥b),(x<b),
其中 b>0,α>1。
(1)求 E(X)。
(2)令
Y=logbX.
求 Y 的概率密度函数。
(3)考虑满足
f(x)=∫b∞g(s)αdsg(x)α
的概率密度函数 g(x),并规定 x<b 时 g(x)=0。求 x≥b 时的 g(x)。
(4)对上述 f,g,定义
D[f∥g]=∫b∞f(x)logg(x)f(x)dx.
再定义
H=−∫b∞f(x)logf(x)dx,
R=1−α1log∫b∞g(x)αdx.
用 H,R,α 表示 D[f∥g]。
- 异方差正态线性模型:计算线性估计量的均值和方差,并写出无偏约束。
- 最小方差无偏估计与广义最小二乘:用 Lagrange 乘数得到逆方差加权,并与最大似然估计对照。
- 最优实验设计:通过最大化单个设计点提供的 Fisher 信息选择 xi。
- Pareto 分布与变量变换:计算均值,并识别对数尺度下的指数分布。
- Escort 分布、KL 散度与 Rényi 熵:由幂次归一化关系求密度,并推导三种信息量之间的恒等式。
Kai
問題1
問題2