1、信息論與編碼理論1課程教學大綱課程名稱信息論與編碼理論1課程編碼131530005課程類型（學院內）跨專業課程適用范圍信息安全學分數3先修課程數學分析、高等代數、信息安全數學基礎、概率論.學時數48其中實驗學時其中實踐學時考核方式考試制定單位數學與信息科學學院執筆者 審核者一、教學大綱說明（一）課程的性質、地位、作用和任務信息論與編碼理論是信息安全專業非常重要的專業基礎課之一。本課程有兩方面內容：信息論和編碼理論，需要兩個學期來完成教學任務。信息論部分比較全面地論述了通信的基本模型，討論了如何提高通信的效率以及從理論上能夠提高到什么程度。而編碼理論則考慮在有噪音的信道中如何檢錯和糾錯。這是一門

2、理論與實踐結合得非常好的一門課。一方面，該課程要求學生有較好的數學基礎，最簡單的線性碼只用到了向量空間的概念，再難一點的BCH碼則用到了有限域的概念。這門課中還用到其它的基礎數學知識，例如：數學分析、高等代數、概率與數理統計、初等數論、近世代數甚至代數幾何的知識等。另一方面，這也是一門應用性非常強的一門專業基礎課。說這門課的應用性強是指，在我們的生活中已經離不開它，從電話傳真手機電視等通信業務到計算機工程和網絡技術等IT產業甚至在數據壓縮圖像處理等多媒體技術領域等都離不開信息論和編碼理論。最后編碼理論方面任何新的理論突破都能夠給上述行業和產業以及人們的生活帶來突飛猛進的提高。因此教好和學好這門

3、課，對于激發學習興趣，提高理論水平都有很重要的作用。（二）教學目的和要求了解：連續信源和連續信道的數學模型。了解編碼理論在現實生活中的應用，如數據壓縮、圖像壓縮技術等。理解：馬爾可夫信源。掌握：熵的概念，掌握熵在通信模型中的應用。掌握信道容量、熵等概念并能夠進行計算。掌握Shannon通信模型，Huffman編碼,Shannon編碼,Fano編碼；掌握編碼理論的基本概念，如最小碼距，糾錯原理，檢錯能力和糾錯能力等。掌握常用線性碼的編碼和解碼算法。（三）課程教學方法與手段本課程將采用課堂講授為主學生自學為輔并與習題課相結合的教學方式。由于本課程涉及到諸如代數、數論和有限域等數學專業基礎知識，而且

4、也用到無線電通信方面的一些基本概念，因此本課程的內容主要由老師授課，約占內容的百分之九十五，百分之五的內容可由學生自學。同時布置足夠的習題，使得學生們能夠對比較抽象和比較陌生的內容有一定程度上的理解。（四）課程與其它課程的聯系信息論與編碼理論涉及到較多的數學知識，例如：微積分、線性代數、概率與數理統計、初等數論、近世代數、有限域以及區組設計等方面的數學知識。因而先俢課程有：數學分析、高等代數、概率與數理統計、信息安全數學基礎等。（五）教材與教學參考書教材：傅祖蕓，趙建中信息論與編碼(第2版)，電子工業出版社， 2014年。 教學參考書：1、沈世鎰，陳魯生，信息論與編碼理論（第2版），科學出版社

5、， 2010年。2、王育民,李暉,梁傳甲，信息論與編碼理論，高等教育出版社，2005年。二、課程的教學內容、重點和難點第1章 緒論介紹信息的概念，信息論研究的對象、目的和內容，信息論發展簡史與信息科學信息論的研究內容，研究方法，介紹Shannon的通信模型，提出研究信息論要解決的問題。介紹編碼理論的基本定義和基本研究問題。第2章 離散信源及其信息測度介紹信源的數學模型及分類，離散信源的信息熵，自信息，信息熵，信息熵的基本性質，信息熵的唯一性定理，離散無記憶的擴展信源，離散平穩信源，馬爾可夫信源，信源冗余度與自然語言的熵 。 重點：熵的理解和應用。難點：馬爾可夫信源的模型。第3章 離散信道及其信

6、道容量介紹信道的數學模型及分類，平均互信息及平均條件互信息，平均互信息的特性，信道容量及其一般計算方法，離散無記憶擴展信道及其信道容量，獨立并聯信道及其信道容量 ，串聯信道的互信息和數據處理定理，信源與信道的匹配 。 重點：信道容量的計算。難點：信道容量的計算。第5章 無失真信源編碼定理介紹編碼器，等長碼，等長信源編碼定理，變長碼， 變長信源編碼定理。 重點：Kraft不等式。難點：唯一可譯變長碼的判斷法。第6章 有噪信道編碼定理介紹錯誤概率和譯碼規則，錯誤概率與編碼方法。重點：編碼方法。難點：錯誤概率和譯碼規則。第7章 保真度準則下的信源編碼介紹失真度和平均失真度，信息率失真函數及其性質，二元信源和離散對稱信源的R(D)函數。重點：R(D)函數的性質。難點：R(D)函數的定義域。第8章 無失真的信源編碼介紹霍夫曼（Huffman）碼，費諾（Fano）碼，香農費諾埃利斯碼，游程編碼和MH編碼，算術編碼，字典碼，LZ-77編碼算法，LZ-78編碼算法，LZW編碼算法，KY（KiefferYang）編碼算法。 重點：香農費諾埃利斯碼，LZ系列編碼。難點：香農費諾埃利斯碼。三、學時分配教學內容各教學環節學時分配采用何種多媒體教學手段章節主要內容學時分配講授實驗討論習題實踐其它第1章緒論22ppt第2章離散信源及其信息測度12102ppt