情報理論
担当者盛 拓生
学年・開講期3年次 Ⅰ・Ⅲ  [理工学部 情報科学科(通信課程)]
科目の種類専門
クラステキスト授業
区分・単位選択 2単位
科目ナンバー4C303

授業の概要(ねらい)

 本講義では今日の情報社会を支える情報通信、記録技術に関する理論である情報理論を学びます。
 情報理論は情報の符号化の理論的限界及び具体的な符号化法を扱う理論です。ここでいう符号化は情報通信の効率性を高めることを目的とする情報源符号化、情報通信の信頼性を高めることを目的とする通信路符号化に大別されます。
 本講義では、情報源あるいは通信路の確率モデルが与えられたときに、その情報源の出力をどの程度圧縮できるか(平均符号長の下限)、あるいはその通信路の信頼性を失うことなくどの程度の情報速度で通信可能かどうかを理論的に論ずることができるようになることを目指します。またそのためには具体的にどのような符号化が有効であるかを判断できるようになることを目指します。
 さらに、アナログ情報源、アナログ通信路に関して、A/D、D/A変換、標本化定理を扱い、符号化に関連して文字コードの話題、情報理論と暗号理論の関係についても簡単に論じます。
 この科目では、情報科学科通信教育課程の学位授与の方針(ディプロマポリシー)2に関連する能力を修得します。

授業の到達目標

 本講義では、情報の伝達や記憶の効率性、信頼性、安全性向上のための技術の基礎理論である情報理論を理解できるようになることを目標とします。
 具体的には、情報源符号化定理、通信路符号化定理、標本化定理の意味を理解し、与えられた情報源、通信路の理論的限界を知ることができるようになること、基本的な情報源,通信路に関して情報量、エントロピー、相互情報量、通信路容量を求めることができるようになることを目標とします。
 また、情報源符号化、通信路符号化に関して、基礎的な符号化、復号ができ、その基本的な性能を評価できるようになることを目標とします。
 さらに、A/D変換に際して原信号の再構成に必要な標本化周波数の条件を求めることができるようになることを目標とします。

成績評価の方法および基準

レポート課題の合格を前提として、試験(100%)。
講義内容、レポート、試験への質問,フィードバック等は原則的にLMS、電子メールで対応します。

教科書・参考文献

種別書名著者・編者発行所
教科書情報理論 改訂2版今井秀樹オーム社、ISBN-13: 978-4274223259
参考文献シャノンの情報理論入門高岡詠子著講談社、ISBN-13: 978-4062577953

準備学修の内容

予め、各回の講義資料をLMS上で公開します。
講義資料はPC、タブレット、スマートフォン等にダウンロードするか紙に印刷するなどして、参照、書き込みできるようにしてください。
これらの資料に1時間30分程度目を通した上で、理解できた点、理解できていない点をそれぞれ把握してください。
1時間30分程度かけてLMS上のテストで理解度を確認し、復習してください。

 

その他履修上の注意事項

事前に履修すべき科目は、線形代数、論理数学、離散数学、数理統計学、コンピュータネットワークです。
同時に履修すべき科目は、情報セキュリティ、画像情報処理、ディジタル通信です。
事後に履修すべき科目は、ディジタル信号処理1、ディジタル信号処理2です。

授業内容

授業内容
第1回序論
情報理論の問題
第2回ディジタル情報源とディジタル通信路のモデル1
確率論の復習
ディジタル情報源のモデル
第3回ディジタル情報源ディジタル通信路のモデル2
ディジタル情報源のモデル
ディジタル通信路のモデル
第4回アナログ情報源とアナログ通信路1
Fourier級数展開、標本化定理、A/D変換、文字コード
第5回情報源符号化とその限界1
情報源符号化の基礎概念、平均符号長の限界
第6回情報源符号化とその限界2
Huffman符号化、拡大情報源とブロック符号化、情報源符号化定理
第7回基本的な情報源のエントロピー/基本的情報源符号化法1
記憶の無い情報源のエントロピー、Markov情報源のエントロピー、Huffmanブロック符号化法,ランレングスHuffman符号化法
第8回基本的情報源符号化法2/エントロピーと情報量
算術符号化、情報量の定義、エントロピーと情報量
第9回情報量とひずみ
相互情報量、ひずみが許される場合の情報源符号化定理、速度・歪み関数
第10回通信路符号化の限界
通信路容量、通信路符号化の基礎概念、通信路符号化定理、通信路符号化の限界
第11回通信路符号化法1
単一誤り検出,訂正
第12回通信路符号化法2
巡回符号
第13回通信路符号化法3
巡回符号の復号、誤り検出(CRC)、誤り訂正、巡回Hamming符号
第14回アナログ情報源とアナログ通信路/情報理論と暗号理論
画像圧縮、アナログ情報源のエントロピー、アナログ通信路の通信路容量、情報量的安全性、完全秘匿性
第15回まとめ