跳到主要内容

東京農工大学 工学府 情報工学専攻 2019年8月実施 情報基礎 6

Author​

祭音Myyura (Based on Miyake's answer refined with GPT 6 Astra)

Description​

サイコロを一つ振り、出た目を確率変数 XX とする。偶数か奇数かを表す確率変数 YY は、偶数なら Y=1Y=1、奇数なら Y=2Y=2 とする。各目は等確率で生じる。すべての解答は既約分数、log⁡\log 表記のままでよい。原試験では答えのみを記入する。

[1] XX の分散 V(X)V(X) を求めよ。

[2] YY のエントロピー H(Y)H(Y) を求めよ。

[3] XX のエントロピー H(X)H(X) を求めよ。

[4] 条件付きエントロピー H(X∣Y)H(X\mid Y) を求めよ。

[5] 相互情報量 I(X;Y)I(X;Y) を求めよ。

题目描述​

投掷一枚公平骰子,点数为 XX;若点数为偶数则 Y=1Y=1,为奇数则 Y=2Y=2。求:1. V(X)V(X);2. H(Y)H(Y);3. H(X)H(X);4. H(X∣Y)H(X\mid Y);5. I(X;Y)I(X;Y)。答案可保留既约分数及对数形式,原考试仅需填写答案。

Kai​

[1]​

E[X]=(1+⋯+6)/6=7/2E[X]=(1+\cdots+6)/6=7/2、E[X2]=(12+⋯+62)/6=91/6E[X^2]=(1^2+\cdots+6^2)/6=91/6。よって

V(X)=916−(72)2=3512.\boxed{V(X)=\frac{91}{6}-\left(\frac72\right)^2=\frac{35}{12}}.

[2]–[3]​

YY は二値の一様分布、XX は六値の一様分布なので、

H(Y)=log⁡2,H(X)=log⁡6.\boxed{H(Y)=\log2,\qquad H(X)=\log6}.

[4]​

偶奇が分かると候補の目は3個に絞られ、いずれも条件付き確率 1/31/3 である。したがって

H(X∣Y)=12log⁡3+12log⁡3=log⁡3.\boxed{H(X\mid Y)=\frac12\log3+\frac12\log3=\log3}.

[5]​

I(X;Y)=H(X)−H(X∣Y)=log⁡6−log⁡3=log⁡2.\boxed{I(X;Y)=H(X)-H(X\mid Y)=\log6-\log3=\log2}.

情報量をビット単位で表す場合は対数の底を2とし、H(Y)=I(X;Y)=1H(Y)=I(X;Y)=1 となる。

Reference​