京都大学 情報学研究科 システム科学専攻 2017年8月実施 専門科目 確率統計
Author
uogxtc, 祭音Myyura
Description
問題1
確率変数 は独立に正規分布に従い、 , , , とする。
ただし、 は平均 、分散 の正規分布を表す。
ここで は正の整数、 は正の定数で既知とし、 は未知パラメータである。このとき以下の設問に答えなさい。
(1) について、 をすべて用いた最尤推定量を求めなさい。
(2) 定数 を用いて と定義する。ただし , である。
の期待値 と分散 を求めなさい。
(3) が の不偏推定量となるために が満たす条件を求めなさい。
また、不偏推定量となる が を最小にするときの の値を求めなさい。
問題2
あるコインを投げると、確率 で表、確率 で裏が出る。
このコインを表が出るまで連続して投げ続ける。
ただし、毎回のコイン投げは独立な試行である。
初めて表が出るまでに投げた回数（表が出た試行を含む）を確率変数 で表す。
以下の設問に答えなさい。
(1) () となる確率 を求めなさい。ただし、 は確率を表す。
(2) 確率変数 の期待値（平均）と分散を求めなさい。
あるスロットマシン（窓は一つとする）を引くと、 種類（）の異なる図柄が等確率で出る。
便宜上、 種類の図柄のそれぞれに の異なる番号を付ける。
このスロットマシンを連続して引くことを考え、 回目（）に引いた際に出た図柄の番号を確率変数 で表す。
ただし、スロットマシンを引く試行は独立である。この時、 種類の図柄のうち異なる図柄が初めて 種類（）になるまでスロットマシンを引いた回数を と表すと、
と再帰的に定義できる。以下の設問に答えなさい。
(3) 確率変数 () として、
とする。
() となる確率 を求めなさい。
(4) すべての図柄が初めて出るまでスロットマシンを引いた回数 に対し、その期待値（平均）が以下の式で与えられることを示しなさい。
Kai
問題 1
(1)
The likelihood function is
from which we know that the log-likelihood is:
Set , we will find
The MLE of is obtained in a similar way.
(2)
Similarly,
Then
For variance we have
(3)
When is an unbiased estimate of ,
which is equivalent to
The variance of will be written as
\alpha=\frac{\frac{2a}{b^2}}{2(1+\frac{a^2}{b^2})}=\frac{a}{a^2+b^2},
\beta=\frac{1-\frac{a^2}{a^2+b^2}}b=\frac b{a^2+b^2}.
\begin{aligned}\Pr(T=n)&=\Pr(t_{1}=tail) \times \Pr(t_{2}=tail) \times \cdots \times P(t_{n}=head)\&=q^{n-1}p,\end{aligned}
\mathbb{E}[T]=\sum_{k=1}^n(pk)q^{k-1}=\sum_{k=0}^{n-1}p(k+1)q^k, \tag{i}
q\mathbb{E}[T]=\sum_{k=1}^n(pk)q^k. \tag{ii}
(1-q)\mathbb{E}[T]=p-pn\cdot q^n+\sum_{k=1}^{n-1}p\cdot q^k.
\begin{aligned}
\mathbb{E}[T]&=\left(\frac{pq}{1-q}+p\right)/(1-q)\
&=\frac{p}{(1-q)^{2}}=\frac{1}{p}.
\end{aligned}
\mathbb{E}[T^2]=\sum_{k=1}^\infty k^2q^{k-1}p=\sum_{k=0}^\infty(k+1)^2q^kp.
q\mathbb{E}[T^2]=\sum_{k=1}^\infty k^2q^kp,
\begin{aligned}(1-q)\mathbb{E}[T^{2}]&=p+\sum_{k=1}^{\infty}(2k+1)q^{k}p\
&=\frac{2q}p+\frac{pq}{1-q}+p\
&=\frac{2-p}p,
\end{aligned}
\mathbb{E}[T^2]=\frac{2-p}{p^2},
\mathrm{Var}(T)=\frac{2-p}{p^2}-\frac{1}{p^2}=\frac{1-p}{p^2}.
\Pr(U_{m,i}=k)=\left(\frac{i-1}{m}\right)^{k-1}\left(\frac{m-i+1}{m}\right).
\mathbb{E}[U_{m,i}]=\frac{1}{\frac{m-i+1}{m}}=\frac{m}{m-i+1}.
\begin{aligned}
T_{m,m}&=1+U_{m,2}+U_{m,3}+\ldots+U_{m,m}\
\mathbb{E}[T_{m,m}]&=1+\sum_{i=2}^m\mathbb{E}[U_{m,i}]\
&=1+\sum_{i=2}^m\frac m{m-i+1}=1+m\sum_{i=2}^m\frac1{m-i+1}\
&=1+m\sum_{i=2}^m\frac1{m-i+1}=1+m\sum_{j=2}^m\frac1{j-1}.
\end{aligned}