1、 3/3信息理論與編碼實驗指導書信息理論與編碼實驗指導書 武漢理工大學教材中心 2009年7月 實驗一 繪制二進熵函數曲線 一、實驗目的 1.熟悉 Matlab 工作環境及工具箱； 2.掌握 Matlab 繪圖函數； 3.理解熵函數表達式及其性質。 二、實驗內容 實驗內容與要求 內容：用 Matlab 軟件繪制二進熵函數曲線。 要求： 1. 提前預習實驗，認真閱讀教材及相應的參考書，熟悉實驗原理； 2. 遵守實驗室規定，實驗過程中服從實驗室管理人員和實驗指導老師的管理； 3. 獨立完成實驗，認真做好實驗記錄； 4. 實驗結束后，認真填寫實驗報告。 知識要點 1. 信源熵的概念及其性質。參照教材

2、及參考書。 2. 二進熵公式： ?X?x1?0?x2?1?P(X)?p?1?p?,?0?p?1 ?H(X)?p(xi)logp(xi)?plogp?(1?p)log(1?p)?H(p)i 注意：雖然理論上定義 0 log0 = 0 ，但是，在實際運算時，對數函數 logx 的變量 x 不能取 0 值，而應設置一個系統默認的最小值 eps 。 三、實驗總結 1、繪制二進熵函數曲線，觀察曲線形狀。 2、結合熵函數的性質，分析二進熵函數曲線的特點。 四、思考與提高 1、繪制三元熵函數曲線，觀察曲線形狀。 2、結合熵函數的性質，分析三元熵函數曲線的特點。 p=0.00001:0.00001:0.999

3、99; h=-p.*log2(p)-(1-p).*log(1-p); plot(p,h); title(二進熵函數曲線); ylabel(H(p,1-p); p=linspace(eps,1-eps,100); q=linspace(eps,1-eps,100); P,Q=meshgrid(p,q); P_Q=P+Q; for n=1:100 for m=1:100 if P_Q(n,m)=1 Q(n,m)=nan; end end end H=-P.*log2(P)-Q.*log2(Q)-(1-P-Q).*log2(1-P-Q); mesh(P,Q,H); title(三維熵函數圖像); 實

4、驗二 一般信道容量迭代算法 一、實驗目的 1、熟悉 Matlab 工作環境及工具箱； 2、掌握一般信道容量迭代算法的原理。 二、實驗內容 實驗內容與要求 內容：用 Matlab 軟件編程實現一般信道容量迭代算法。 要求： 1、提前預習實驗，認真閱讀相應的參考書，熟悉實驗原理； 2、遵守實驗室規定，實驗過程中服從實驗室管理人員和實驗指導老師的管理； 3、獨立完成實驗，認真做好實驗記錄； 4、實驗結束后，認真填寫實驗報告。 知識要點:： 1、一般信道容量迭代算法的原理。參照教材及參考書。 2、程序流程圖如下： 其中： （1） （2） 實驗提示： 1、設定不同的信道（對稱信道、非對稱信道），計算最佳輸入分布，分析計算結果的異同。 2、設定不同的迭代精度，分析其對計算結果的影響。 三、實驗總結 1、信道的性質與最佳輸入分布的關系。 2、迭代精度對計算結果的影響。 四、思考與提高 1、編制一般信道容量迭代算法的通用程序，適應不同的信道特性。 2、優化程序，提高運算速度。 實驗三 二進制霍夫曼編碼 一、實驗目的 1、熟悉 Matlab 工作環境及工具箱； 2、掌握霍夫曼編