九州大学 システム情報科学府 情報理工学専攻 2021年8月実施 情報理論

Author

Yu

Description

【問 1】

を正の整数とする。入力アルファベットが , 出力アルファベットふぁ の無記憶な通信路 を

で定める。ただし, は, と の問のハミング距離

を表す。この通信路の通信路容量を求めよ。

【問 2】

アルファベットが である単純マルコフ情報源の遷移確率行列が

で与えられたとする。ここで, 成分は遷移確率 を表し, とする。以下の問いに答えよ。

(1) このマルコフ情報源の状態遷移図を図示せよ。

(2) このマルコフ情報源の定常確率分布が であるとき, の値を求めよ。

(3) が前問で求めた値をとるとき, このマルコフ情報源のエントロピーレートを求めよ。

(4) このマルコフ情報源に従う確率変数の列 を考える。 が上記の定常確率分布 に従う場合, に対するハフマン符号化を行い, その符号の木を図示せよ。ただし, 符号語のアルファベットは とする。

Kai

【問 1】

【問 2】

(1)

(2)

(3)

(4)