情報理論(ジョウホウ リロン)

クロード・シャノンが記念碑的論文「通信の数学的理論」を発表したのは 1948 年のことだった。それから 60 余年ー今では情報理論は情報通信のみならず、生命科学や脳科学、社会科学など幅広い分野に応用されるようになっている。情報理論は高度な数学を用いているが、“大数の法則”をおさえることでその本質がすっきりと見えてくる。シャノンのアイディアから情報幾何学の基礎までを、初学者にもわかるよう明快に解説、情報理論の考え方と仕組みを直観的に理解するための、第一人者の手による入門書。

シャノンが 1948 年に打ち立てた情報理論は、通信工学だけでなく機械学習、暗号理論、データ圧縮など現代の情報技術の土台に横たわる数学です。本書は情報幾何学の創始者として知られる甘利俊一氏が、そのエッセンスをコンパクトに解説した一冊であり、ちくま学芸文庫に収録されています。エントロピー、相互情報量、通信路容量といった基本概念を、数式の導出とともに丁寧にたどります。

大学の情報系学部でテキストに採用されることもある本書の特徴は、厳密さと見通しの良さの両立です。定理を証明するだけでなく「なぜこの量が重要なのか」「他の分野でどう使われるのか」という動機づけを随所に添えるため、公式を暗記するだけの学習になりにくい構造です。統計力学や符号理論との接続にも触れており、情報理論の射程の広さを実感できます。

前提として、確率論と微積分の基礎は必要です。高校数学の延長で読める啓蒙書ではなく、学部 2 〜 3 年レベルの数学的準備を前提とした教科書です。その条件を満たす人にとっては、分量が過大でなく通読しやすいサイズで情報理論の全体像を得られる、バランスの良い入門書です。