情報理論（Information Theory）[4G02]

＜学位授与の方針＞

◎	1. 基礎知識の習得
○	2. 専門分野知識の習得
	3. 汎用的問題解決技能
	4. 道徳的態度と社会性
	5. 創成能力

＜授業のねらい＞

情報理論の基礎として，下記の到達目標を達成する．
・情報量，エントロピー，情報源について理解できる．
・情報源符号化について理解できる．
・通信路符号化について理解できる．

＜受講にあたっての前提条件＞

確率の知識，対数関数(log)，行列の演算が必要なので，学習しておくこと

＜具体的な到達目標＞

情報量，エントロピー，情報源について理解でき，課題や教科書の例題を解くことができる．
情報源符号化について理解でき，課題や教科書の例題を解くことができる．
通信路符号化について理解でき，課題や教科書の例題を解くことができる．

＜授業計画及び準備学習＞

第1回
a.　(内容の概要)　ガイダンス、教科書　第1章「情報理論とは?」
b.　(準備学習)　　教科書 第１章を読んで理解しておくこと
第2回
a.　教科書　第2章「情報のとらえ方と情報量」
b.　教科書 第2章を読んで自己情報量と平均情報量(エントロピー)について理解しておくこと
第3回
a.　教科書　第3章「平均情報量（エントロピー）の性質」
b.　教科書 第3章を読んでエントロピーの性質について理解しておくこと
第4回
a.　教科書　第4章「情報源」前半　情報源の種類
b.　教科書 第4章を読んで情報源の種類を理解しておくこと
第5回
a.　教科書　第4章「情報源」後半　マルコフ情報源とシャノン線図
b.　教科書 第4章を読んでマルコフ情報源とシャノン線図について理解しておくこと
第6回
a.　教科書　第5章「情報源符号化」前半　情報源符号化の必要性
b.　教科書 第5章を読んで情報源符号化の必要性を理解しておくこと
第7回
a.　教科書　第5章「情報源符号化」後半　情報源符号化定理
b.　教科書 第5章を読んで情報源符号化定理について理解しておくこと
第8回
a.　教科書　第6章「具体的符号化法」
b.　教科書 第6章を読んでシャノン・ファノ符号，ハフマン符号について理解しておくこと
第9回
a.　教科書　第7章「通信路と相互情報量」前半　通信路の相互情報量の関係
b.　教科書 第7章を読んで通信路の相互情報量の関係について理解しておくこと
第10回
a.　教科書　第7章「通信路と相互情報量」後半　相互情報量の性質と，特別な場合の通信路と相互情報量の関係
b.　教科書 第7章を読んで相互情報量の性質と，特別な場合の通信路と相互情報量の関係について理解しておくこと
第11回
a.　教科書　第8章「通信路符号化」
b.　教科書 第8章を読んで通信路符号化の必要性について理解しておくこと
第12回
a.　教科書　第9章「誤り検出と訂正」
b.　教科書 第9章を読んで誤り検出と訂正について理解しておくこと
第13回
a.　教科書　第10章「線形符号」
b.　教科書 第10章を読んで線形符号について理解してくこと
第14回
a.　まとめ
b.　授業内容が理解できているか確認しておくこと
第15回
a.　学習成果の確認（試験）
b.　前回までの総復習を行うこと

＜成績評価方法及び水準＞

＜具体的な到達目標＞に記載した内容の理解度をはかる問題を定期試験で出題する
定期試験の結果を100点満点で評価し，60点以上の者に単位を認める．

＜教科書＞

「情報理論のエッセンス」、平田廣則著、昭晃堂、定価2700円、ISBN:4-7856-3143-0

＜参考書＞

指定参考書なし

＜オフィスアワー＞

木曜日 19:30〜21:10　（新宿校舎12F 講師控室）
Email: ebine@kanto-gakuin.ac.jp

＜学生へのメッセージ＞

講義資料のPDFファイルをキューポートにアップするので，各自ダウンロードし，持参すること
この講義では，毎回のように演習問題を出題する