1、- -實驗一信息熵與圖像熵計算一、實驗目的1.復習的基本命令，熟悉下的基本函數。2復習信息熵基本定義能夠自學圖像熵定義和基本概念。二、實驗儀器、設備1.計算機一系統最低配置內存、。2仿真軟件一等版本軟件。三、實驗內容與原理（1）內容：1能夠寫出源代碼，求信源的信息熵。2根據圖像熵基本知識，綜合設計出程序，求出給定圖像的圖像熵。（2）原理1中數據類型、矩陣運算、圖像文件輸入與輸出知識復習。2利用信息論中信息熵概念，求出任意一個離散信源的熵（平均自信息量）。自信息是一個隨機變量,它是指某一信源發出某一消息所含有的信息量。所發出的消息不同，它們所含有的信息量也就不同。任何一個消息的自信息量都代表不了

2、信源所包含的平均自信息量。不能作為整個信源的信息測度，因此定義自信息量的77（X）=1o.-J=-f鞏厲）10貯（億）數學期望為信源的平均自信息量：信息熵的意義：信源的信息熵是從整個信源的統計特性來考慮的。它是從平均意義上來表征信源的總體特性的。對于某特定的信源，其信息熵只有一個。不同的信源因統計特性不同，其熵也不同。3.學習圖像熵基本概念，能夠求出圖像一維熵和二維熵。圖像熵是一種特征的統計形式，它反映了圖像中平均信息量的多少。圖像的一維熵表示圖像中灰度分布的聚集特征所包含的信息量，令表示圖像中灰度值為的像素所占的比例，則定義灰度圖像的一元灰度熵為：255Hplogpii圖像的一維熵可以表示圖

3、像灰度分布的聚集特征，卻不能反映圖像灰度分布的空間特征，為了表征這種空間特征，可以在一維熵的基礎上引入能夠反映灰度分布空間特征的特征量來組成圖像的二維熵。選擇圖像的鄰域灰度均值作為灰度分布的空間特征量，與圖像的像素灰度組成特征二元組，記為，其中表示像素的灰度值，表示鄰域灰度Pf(i,j)/N2=上式能反應某像素位置上的灰度值與其周圍像素灰度分布的綜合特征，其中為特征二元組出現的頻數，為圖像的尺度，定義離散的圖像二維熵為:255Hplogpijiji0構造的圖像二維熵可以在圖像所包含信息量的前提下，突出反映圖像中像素位置的灰度信息和像素鄰域內灰度分布的綜合特征.信息論實驗報告四、實驗步驟1求解信

4、息熵過程：1）輸入一個離散信源，并檢查該信源是否是完備集2）去除信源中符號分布概率為零的元素。3）根據平均信息量公式，求出離散信源的熵。2圖像熵計算過程：1）輸入一幅圖像，并將其轉換成灰度圖像。2）統計出圖像中每個灰度階象素概率。3）統計出圖像中相鄰兩象素的灰度階聯合分布矩陣4）根據圖像熵和二階熵公式，計算出一幅圖像的熵五實驗數據及結果分析程序如下：InformationTheoryexperimenttestingfile HYPERLINK mailto:,22/08/2007testingDiscreteShannonEntropydiscreteprobabilitiessetprob

5、Set=0.10.20.30.150.25;callCalEntropyfunctionH=CalEntropy(probSet);sprintf(ShannonEntropyis:%d,H)calculatetheImageentropyH1,H2=ImgEntropy(lena.jpg);結果如下：ok110%is:2.2282100tiIS=ordDBttecrensEIt:疋Sffi512汚；HUIEiieiet-itg.00001,error(Probablitiesdontsumto1.)endRemoveanyzeroprobabilities%zeroProbs=find(ar

6、rayeps);ifisempty(zeroProbs),array(zeroProbs)=;disp(Removedzeroornegativeprobabilities.)EndComputetheentropyH=-sum(array.*log2(array);%單位bit/symbol附2：圖像熵計算源代碼函數源程序ImgEntropy.mImageEntropycalculation% HYPERLINK mailto:,22/08/2007img:inputimagedataH1,H2:Output1&2orderentropyfunctionH1,H2=ImgEntropy(im

7、g)colorimagetransformationI=imread(img);img=rgb2gray(I);imview(I),imview(img);ix,iy=size(img);computeprobsforeachscalelevelinimageP1=imhist(img)/(ix*iy);temp=double(img);fortheindexofimagepiexltemp=temp,temp(:,1);correlationprobmatrixbetween0.255graylevelsCoefficientMat=zeros(256,256);forx=1:ixfory=

8、1:iyi=temp(x,y);j=temp(x,y+1);CoefficientMat(i+1,j+1)=CoefficientMat(i+1,j+1)+1;endendcomputetheprobofmatrixP2=CoefficientMat./(ix*iy);H1=0;H2=0;fori=1:256calculate1ordimageentropyifP1(i)=0H1=H1-P1(i)*log2(P1(i);endcompute2ordimageentropyforj=1:256ifP2(i,j)=0H2=H2-P2(i,j)*log2(P2(i,j);endendendH2=H2/2;%meanentropy/symbolsprintf(1ordimageentropyis:%d,H1)sprintf(2ordimageentropyis:%d,H2)函數調用實例test.mInformationTheoryexperimenttestingfile HYPERLINK mailto:,22/08/2007testingDiscreteShannonEntropydiscreteprobabilitiessetprobSet=0.10.