大阪大学 基礎工学研究科 電子光科学 (システム創成専攻) 2019年8月実施 電子光科学 [I-4]

Author

Miyake

Description

Kai

(1)

であるから、次のように計算できる：

でもあるから、上と同様の計算により、 次のような表現も得られる：

(2)

求める情報量は次のように計算できる：

(3)

(2) で求めた情報量を同時確率 によって平均したものが、 相互情報量 である：

ここで、(1) で得た表式を使うと、次の2通りに表せる：

(4)

(3) の ()式から、 がわかる。