1、信息論與編碼J一 填空題（本題15空，每空1分，共15分 ）1 設(shè)在一8行×8列共64個(gè)方格的正方形棋盤(pán)上，甲隨意將一粒棋子放在棋盤(pán)的某個(gè)方格，讓乙猜測(cè)棋子所在的位置。如將方格按順序編號(hào)，則令乙猜測(cè)棋子所在方格順序號(hào)的信息量為（ ）bit；如方格按行和列編號(hào)，甲將棋子所在方格的行編號(hào)告訴乙后，在令乙猜測(cè)棋子所在列所需的信息量為（ ）bit。2 信源熵用來(lái)表征信源的（），平均自信息量是（）的量度；平均互信息量I(X;Y)的物理含義是（），I(Y;X)的物理含義是（ ）。3 傳輸信道中常見(jiàn)的錯(cuò)誤有（）、（）和混合錯(cuò)誤三種；差錯(cuò)控制方式主要有（ ）、（ ）和混合方式三種。4 設(shè)C = 11

2、100, 01001, 10010, 00111是一個(gè)二元碼，該碼的最小距離dmin=（），則該碼最多能檢測(cè)出（）個(gè)隨機(jī)錯(cuò)，最多能糾正（）個(gè)隨機(jī)錯(cuò)。真矩陣dij=（），平均失真D=（ ）。二 判斷題（本題10小題,每小題1分,共10分） （1） 對(duì)于獨(dú)立信源，不可能進(jìn)行預(yù)測(cè)編碼。 （ ）（3） 一般情況下，互信息滿(mǎn)足：0I(X;Y) min(H(X),H(Y)。（ ）（4） 碼字集合100，101，0，11是唯一可譯碼。（ ）（7） 對(duì)于強(qiáng)對(duì)稱(chēng)信道，只有當(dāng)信源等概分布時(shí)，才能使其達(dá)到信道容量C。（ ）（8） 二維離散平穩(wěn)有記憶信源的熵滿(mǎn)足：H(X1,X2)H(X1)+H(X2)。 （ ）（9）

3、 線(xiàn)性分組碼中任意兩個(gè)碼字的模2加仍為一個(gè)有用碼字。（ ）（10）馬爾可夫序列的聯(lián)合概率具有時(shí)間推移不變性。（ ）三 名詞解釋?zhuān)ū绢}4小題，每小題5分，共20分）1 噪聲熵2 即時(shí)碼3 馬爾可夫信源4 信道容量四 計(jì)算題（本題3小題，共25分）1 設(shè)有離散無(wú)記憶信源X，其概率分布為P（X）=0.37，0.25，0.18，0.12，0.05，0.03，求：1）信源符號(hào)熵H(X)；2）用哈夫曼編碼編成二元變長(zhǎng)碼，并計(jì)算其編碼效率；3）如要求譯碼錯(cuò)誤小于10-3，采用定長(zhǎng)編碼達(dá)到2）中的編碼效率，需要多少個(gè)信源符號(hào)一起編碼？ （3+4+4=11分）2 設(shè)C = 00000000, 00001111,

4、 00110011, 00111100是一個(gè)二元碼。試：1）計(jì)算碼C中所有碼字之間的距離及最小距離；2）在一個(gè)二元碼中，如果把某一個(gè)碼字中的0和1互換，即0換為1，1換為0，所得的字稱(chēng)為此碼字的補(bǔ)。所有碼字的補(bǔ)構(gòu)成的集合稱(chēng)為此碼的補(bǔ)碼。求碼C的補(bǔ)碼以及補(bǔ)碼中所有碼字之間的距離和最小距離，它們與1）中的結(jié)果有什么關(guān)系？3）試將2）中的結(jié)果推廣到一般的二元碼。（2*3=6分）五 綜合題（本題3小題，共30分）2 設(shè)某卷積碼的轉(zhuǎn)移函數(shù)矩陣為G（D）=（1+D，1+D2），1）試畫(huà)出該卷積碼的編碼器結(jié)構(gòu)圖；2）求該卷積碼的狀態(tài)圖；3）求該碼的自由距離df。（3+4+3=10分）3 一個(gè)二進(jìn)制二階馬爾可

5、夫信源的原始信源為X0,1，這時(shí)的狀態(tài)空間為S：S1=00，S2=01，S3=10，S4=11，共有nm=22=4個(gè)不同的狀態(tài)。已知其一步轉(zhuǎn)移概率為：0/0000P(0/00)p(0/S1)p(S1/S1)=0.81/0001P(1/00)p(1/S1)p(S2/S1)=0.20/0110P(0/01)p(0/S2)p(S3/S2)=0.51/0111P(1/01)p(1/S2)p(S4/S2)=0.50/1000P(0/10)p(0/S3)p(S1/S3)=0.51/1001P(1/10)p(1/S3)p(S2/S3)=0.50/1110P(0/11)p(0/S4)p(S3/S4)=0.21/1