1,某系統（7,4）碼

C

C=（Q5%。3。2。。0）=（相3rn2網m0C2CjCo）其三位校驗位

與信息位的關系為：

c2=my+叫+〃7。

<q=砥+嗎+m]

c0=m2+叫+，叫）

（I）求對應的生成矩陣和校驗矩陣：

（2）計算該碼的最小距離;

（3）列出可糾差錯圖案和對應的伴隨式:

（4）若接收碼字R=l110011,求發碼。

「1000110]「

1011100

〃八010001I

解：⑴G=H=1110010

0010111

011100i

0001101JL

（2）dmin=3

（3）

sE

0000000030

0010000031

0100000010

1000000100

1010001OJO

1110010030

Oil0100030

1101000030

(4)./?//r=[001]接收出錯

￡=0000001R+E=C=II10010(發碼)

2.

己知(XI)的聯合概率p(x,y)為:

求H(X),H(Y),H(X,y),7(X；y)

解：〃(x=0)=2/3p(x=1)=1/3

P(y=0)=1/3p(y=1)=2/3

H(X)=H(y)=77(1/3,2/3)=0.918bit/symbol

W(X,y)=W(l/3,1/3,1/3)=1.585bit/symbol

/(X；y)=H(X)+H(n-H(X,y)=0.251bit/symbol

3.一一階齊次馬爾可夫信源消息案X€{a1，。？，%}，

狀態集S￡{S1,S2,S3}，且令號=a”i=i,2,3,條件轉移概率為

-1/41/4J/3，⑴畫出該馬氏鏈的狀態轉移圖:

[P(a/S)]=1/31/3

2/31/30

（2）計算信源的極限嫡.

解：⑴

3嗎+土卬2+!卬3=嗎

《”+士必+：卬3=%

vv,=0.4

<2)2^1+3^2=^3w2—0.3

vv3=().3

VV1+狡2+卬3=1

〃便|?)=〃(1/4,1/4,1⑵=1.5比特/符號

H(X\S2)=H(1/3,1/3,173)=1.585比特/符號

//(X|Sf)=//(2/3,l/3)=0.918比特/符號

3

H=2w.H=0.4x1.5+0.3x1.585+0.3x0.918=1.351比特/符號

00../

z=l

XX\X2

4.若有一信源每秒鐘發出2.55個信源符號。

P().80.2

將此信源的輸出符號送入某一個二元信道中進行傳輸

（假設信道是無噪無損的，容量為1bit/二元符號），

而信道每秒鐘只傳遞2個二元符號。

（1）試問信源不通過編碼（即X1T0,X2Tl在信道中傳輸）

（2）能否直接與信道連接？

<3）若通過適當編碼能否在此信道中進行無失真?傳輸?

（4）試構造一種哈夫蛀編碼（兩個符號一起編碼）,

（5）使該信源可以在此信道中無失真傳輸。

解：（I）不能，此時信源符號通過0,1在信道中傳輸，2.55二元符號/s>2二元符號扭

（2）從信息率進行比較,2.55*H（0.8,0.2）=1.84<1*2

可以進行無失真傳輸

_4

（3）K=￡PK=0.64+0.16*2+0.2*3=1.56二元符號/2個信源符號

I=I

此時1.56/2*2.55=1.989二元符號/s<2二元符號/s

5.0

兩個BSC信道的級聯如右圖所示：

（1）寫出信道轉移矩陣：

（2）求這個信道的信道容量。

解：（1）

1一￡(1-2)2+占2E(\~￡)

P=PR=

.-J2￡(1-￡)(1-￡)2+￡2

(2)C=10g2-7/((I-￡)2+)

6.設隨機變量X={x,,x2）={0,1}和Y={y^y2]={0,1}的聯合概率空間為

"]=臼''）（”「為）區，弘）。2，y2）

心J-11/83/83/81/8

定義一個新的隨機變量Z=Xx丫(普通乘積)

(1)計算嫡H(X),H(Y),H(Z),H(XZ),H(YZ),以及H(XYZ)：

(2)計算條件炳H(X|Y),H(Y|X),II(X|Z),H(Z|X),H(Y|Z),II(Z|Y),II(X|YZ),II(Y|XZ)

以及H(Z|XY)：

13/81/81/2

7/81/8

j7(y|Z)=7/8(4/71og2(7/4)+3/71og2(7/3))+l/8(01og20+llog21)

H(Z|K)=l/2(llog2l+01og20)+l/2(3/41og2(4/3)+1/4log24)

H(X|FZ)=l/2(l/41og24+3/41og2(4/3))+3/8(llog2l+0log20)+l/8(llog2l+0log20)

H(r|XZ)=l/2(l/41og24+3/41og2(4/3))+3/8(llog21+Olog,0)+1/8(1log21+Olog20)

H(Z\XY)=0

(3)

I(X,Y)=H(X)-H(X\Y)

I(X;Z)=H(X)-H(X\Z)

I(Y;Z)=H(Y)-H(Y\Z)

I(X\Y\Z)=H(X|Z)-H(X|YZ)

I(X;Z\Y)=H(X\Y)-H(X\ZY)

2/31/3

7.設二元對稱信道的輸入概率分布分別為[/4]=[3/41/4],轉移矩陣為[%x]=

1/32/3

(1＞求信道的輸入炳，輸出炳，平均互信息量：

(2)求信道容量和最佳輸入分布；

(3)求信道剩余度。

解：3)信道的輸入嫡H(X)=3/41og2(4/3)+l/41og24：

1/21/4

叫丫]=

1/121/6

[PY]=[l/\25/12]

H(r)=7/12log2(12/7)+5/12log2(12/5)

I(X;Y)=H(Y)-H(Y\X)

⑵最佳輸入分布為[Px[=[l/21/2],此時信道的容量為。=1一”(2/3,1/3)

⑶信道的剩余度：c-/(x：y)

0.25],試確定最佳譯碼規則和極大似然譯碼規則，并計.算出相應的平均差錯率。

8.[PY]=[O.50.25

1/41/61/12

M：[PXY]=1/241/8I/I2

1/121/241/8

F(bJ=a]

最佳譯碼規則：，F(b2)=ai,平均差錯率為1-1/4-1/6-1/8=11/24；

F(by)=a3

極大似然規則：，尸(4)二。2，平均差錯率為1-1/4-1/8-1/8=1/2。

一-3)=〃3

9.設有一批電阻，按阻值分70%是2kQ,30%是5kQ；按功耗分64%是1/8W,36%是1/4W。現已知2kQ

電阻中80%是1/8W,假如得知5kC電阻的功耗為1/4W,問獲得多少信息量。

r\=2k/2=54vvl=l/8卬2=1/4

解：根據題意仃R=,W=P(H1/rl)=0.8

0.30.640.36

illp(w\)=p(rt)p(wl/rl)+p(r2)p(w1/r2)=>p(M/r2)=4/15

所以p(卬2/r2)=1-p(M-2)=11/15

價知5k。電阻的功耗為1/4W,獲得的|'|信息冠為一份(p(卬2/「2))=0.448bit

。2%%%。6

10.已知6符號離散信源的出現概率為11111,試計算它的炳、Huffman編碼

248163232_

和費諾編碼的碼字、平均碼長及編碼效率。

6lilt11

解：該離散信源的炳為H(x)=一Zp曲(內)=-//?2+-Ib4+-IbS+—lb\6+—妨32+—仿32

,,248163232

i=\

=1.933bit/符號

11.在圖片傳輸中，每幀約有2XI06個像素,為了能很好地重現圖像，每像素能分256個亮度電平，并假設

亮度電平等概分布。試計算每分鐘傳送兩幀圖片所需信道的帶寬(信噪功率比為30dB).

解:

每個像素點對應的炳H=log2，1=log2256=8bit/點

2幀圖片的信息量/=2*N*”=2*2*1()6*8=3.2*IO,歷：

I32*10，s

單位時間需要的信道容量C/=]=一=5.3*103bit!s

由香農信道容量公式

5

Ct_5.3*10

G=Wlog2(l+SNR)=W=5.35*IO4論

log2(l+SNR)~log2(l+1000)

12.求右圖所示的信道的容量及達到信道容量時的輸入分布。

解：

-10-

由右圖可知，該信道的轉移概率矩陣為「=1/21/2

01

可以看到，當該信道的輸入分布取P（X）="的與時，

1/201/2_

瓦b2

p（y）=

1/21/2

此時/（x=q；丫）=*p（%/）log

lh2,同理可得/。=硝；丫）=/2

I(x/Y)=lb2p*0

而/（乂=〃2；丫）=。，此分布滿足?“c。因此這個信道的容量為

/(x,；y)=oPi=0

Cl\a2%

C=lb2=l（bit/符號），而達到信道容量的輸入分布可取P（X）=

1/201/2

4

Da=minZ〃，d爐，由于和%具有對稱性，每個和式結果都為i/2,因此D?m=i/2,

7=1.2,3.4i=\

Q63a

13.設離散信源u(其中p<y)和接收變量V={vl,v2,v3,

ig(l-P)l(l-

p(〃)匕〃p)5〃

0().5().51

0.5010.5

v4）,失真矩陣為。=?求D而打，Da、R(Dmin)、R(Dmax)、達到DminDnm

0.5100.5

10.5().50

時的編碼器轉移概率矩陣Po

解:

由于失真矩陣每行每列都只有一個最小值“0”，所以可以達到Dnin=0,此時對應的信道轉移概率矩陣應使

1000

000

得信源的每個輸出經過信道轉移后失真為0,即選擇P=

0010

0001

R(Dmin)=R(0)=H(U)=1-p*logp-(1-p)*log(1-p)=1+H(p)o對應的轉移概率矩陣可取任意I列為全1,

000

000

如。二,此時R(DnaJ=R(1/2)=0o

1000

000

14.設有一個二進制一階馬爾可夫信源，其信源符號為xe(o.D，條件概率為

p(0/0)=p(l/0)=0.5p(1/1)=025/>(0/l)=0.75

畫出狀態圖并求出各符號穩態概率。(15分)

0.25

%=0.5叱)+0.751%

叱)+叱=1

W0=0.6叱=0.4

15X=Y￡{0,123},

.設輸入符號與輸出符號為且輸入符號等概率分布。設失真.函數為漢明失真。求Dnw

和“及R(Dg)和/?(%?)(20分)

解：P("o)=P(百)=〃(々)=〃(玉)=；

011

I01

D=

101

I110

失真矩陣的每行都有c,因此

R(aJ=R(0)="(X)=log24=26〃符號

3

優儂=min(玉)"(%，%)=?—,(1+1+1),-,(1+1+1),—,(l+l+l)

Ji=04

R(%)二°

16.設隨機變量x=,/}={0j}和丫={必，%}={0」}的聯合概率空間為

XYCWi)Up>2)*2，%)區，%)

PxY1/83/83/81/8

定義一個新的隨機變量工=XxY(普通乘枳)

計算炳H(X),H(Y),H(Z),H(XZ),H(YZ),以及H(XYZ)：

計算條件知H(X|Y),H(Y|X),H(X|Z),H(Z|X),II(Y|Z),H(Z|Y),H(X|YZ),H(Y|XZ)以及H(Z|XY)：

計算平均互信息量I(X；Y),I(X：Z),I(Y：Z),I(X；Y|Z),I(Y：Z|X)以及I(X：,ZY)o

解：(1)

X\Y01

1/3/1/

0

882

3/1/1/

1

882

1/1/

22

/7(X)=l/2log22+l/21og22=l

/7(y)=l/21og22+I/21og22=l

XYZ000001010Oil100101110111

1/803/803/8001/8

Z01

7/81/8

/7(Z)=7/81og2(8/7)+l/81og28

XZ00011011

1/203/81/8

H(XZ)=l/21og22+3/81og2(8/3)+l/81og28

YZ00011011

1/203/81/8

H(KZ)=l/21og22+3/81og2(8/3)+l/81og28

(2)H(X|K)=l/2(l/41og24+3/41og2(4/3))+l/2(l/41og24+3/4iog2(4/3))

/7(r|X)=l/2(l/41og24+3/41og2(4/3))+l/2(l/41og24+3/41og2(4/3))

X\Z01

01/01/

22

3/1/1/

1

882

7/1/

88

W(X|Z)=7/8(4/7log2(7/4)+3/7log2(7/3))+1/8(0log20+1log21)

H(Z|X)=1/2(1log214-01og20)+l/2(3/4log2(4/3)4-l/41og24)

Y\Z01

1/1/

00

22

3/1/1/

1

882

7/1/

88

W(y|Z)=7/8(4/71og2(7/4)+3/71og2(7/3))+l/8(01og20+llog21)

"(Z|Y)=1/2(1log?l+01og30)+l/2(3/41og2(4/3)+l/41og24)

H(X|YZ)=l/2(l/41og24+3/41og2(4/3))+3/8(llog2l+01og20)+l/8(llog2l+01og20)

H(r|XZ)=l/2(l/41og24+3/41og2(4/3))+3/8(llog2l+01og20)+l/8(llog2l+01og20)

H(Z\XY)=0

⑶/(X；y)=H(X)-H(X|y)/(X;Z)=H(X)-H(X|Z)

z(y；z)=H(y)-1(y|Z)z(x；r|Z)=H(X\z)-H(X\YZ)

/(X;Z|Y)=H(XIY)-H(XIZF)

1「2/31/3-

17.設二元對稱信道的輸入概留分布分別為[尸“=[3/41/4],轉移矩陣為r[號門，

求信道的輸入嫡，輸出帽，平均互信息量：

求信道容量和最佳輸入分布；

求信道剩余度。

解：⑴信道的輸入蟒"（X）=3/41og2（4/3）+l/41og24：

1/21/4

[Py]=

XY[1/121/6

[PY]=11/\25/12J

//(r)=7/121og2(12/7)+5/121og2(12/5)

”(Y|X)=3/4”(l/2,l/4)+l/4”(l/12J/6)

/(x；y)="(y)-H(YIX)

2)最佳輸入分布為[&]=[l/21/2],此時信道的容量為。=1-”(2/3,1/3)

⑶信道的剩余度：c-/(x；y)

1/21/31/6-

設有DMc,其轉移矩陣為[&x〕="61/21/3若信道輸入概率為

1/31/61/2

[Px]=[0.50.250.25],試確定最佳譯碼規則和極大似然譯碼規則，并計算出相應的平均差錯率。

1/41/61/12F(bJ=a

解：[PXY]=1/241/81/12最佳譯碼規則：<F(b2)=a平均差錯率為

1/121/241/8F$3)=a

1-1/4-1/6-1/8=11/24：

FSI)=4

極大似然規則：<尸(4)=。2，平均差錯率為17/4-1/87/8=1/2。

產血)=。3

一、概念簡答題

1.什么是平均自信息量與平均互信息，比較一下這兩個概念的異同？

2.簡述最大離散尷定理對于一個有m個符號的離散信源，其最大炳是多少？

3.解釋信息傳輸率、信道容量、最佳輸入分布的概念，說明平均五信息與信源的概率分布、信道的傳遞概

率間分別是什么關系？

4.對于一個一般的通信系統，試給出其系統模型框圖，并結合此圖，解釋數據處理定理。

5.寫出杏農公式，并說明其物理意義。當信道帶寬為5000Hz,信球比為30dB時求信道容量。

6.解釋無失真變長信源編碼定理。

7.解釋有噪信道編碼定理。

以0

8.什么走保真度準則？對二元信源!_「，)」W,其失真矩陣P°J,求a>0時率

失真函數的和"響？

9.簡述離散信源和連續信源的最大蟒定理。

io.解糅等長信源編碼定理和無失真變長信源編碼定理，說明對于等長碼和變長碼，最佳碼的每符號

平均碼長最小為短少？編碼效率最高可達豕少？

11.解釋最小錯誤概率譯碼準則，最大似然譯碼準則和最小距離譯碼準則，說明三者的關系。

12.設某二元碼字C={111000,001011,010110,101110),

①假設碼字等概率分布，計算此碼的編碼效率？

②采用最小距離譯碼準貝J,當接收序列為110110時，應譯成什么碼字？

13.-平穩二元信源，它在任意時間，不論以前發出過什么符號，都按尸(°).04尸⑴.發

出符號，求"(*3/*1*2)和平均符號嫡影X")

14.分別說明信源的概率分布和信道轉移概率對平均互信息的影響，說明平均互信息與信道容星的關

系。

13

--

15.二元無記憶信源，有尸⑼44，

求

(1)某一信源序列由100個二元符號組成，其中有m個“1”，求其自信息量?

(2)求100個符號構成的信源序列的病。

16.求以下三個信道的信道容量:

00

100

0010,_010

=0

=100010

0001001

PJo100.

p2.001

,Q.10.20.30,4000000

=00000.30.70000

n0000000.40.20.10.3

P3

17.已知一（3,I,3）卷枳碼編碼器，輸入輸出關系為：

v2(l)=?(/)+u(l-2)+u(l-3)

v3(/)=w(Z)+w(Z-2)+w(/-3)

試給出其編碼原理框圖。

18.簡述信源的符號之間的依賴與信源冗余度的關系。

19.簡述香農第一編碼定理的物理意義？

20.什么是最小碼距，以及它和檢錯糾錯能力之間的關系。

21.簡述信息的特征

22.簡單介紹哈夫/編科的步驟

一、概念簡答題（每題5分，共40分）

以⑸=-￡。（演）1。且P（公）

1.答：平均自信息為

表示信源的平均不確定度，也表示平均每個信源消息所提供的信息量。

/（x；y）=-￡gp（Qj）iog更子罕

平均互信息Z內

表示從Y獲得的關于每個X的平均信息量，也表示發X前后Y的平均不確定性減少的量，還表示通信

前后整個系統不確定性減少的量。

2.答：最大離散燧定理為：離散無記憶信源，等概率分布時炳最大。

最大炳值為&雙=1%”

3.答：信息傳輸率R指信道中平均每個符號所能傳送的信息量。信道容量是一個信道所能達到的最大

信息傳輸率。信息傳輸率達到信道容量時所對應的輸入概率分布稱為最佳輸入概率分布。

平均互信息是信源概率分布的C型凸函數，是信道傳遞概率的U型凸函數。

4.答:通信系統模型如卜.：

數據處理定理為：串聯信道的輸入輸出X、Y、Z組成一個馬爾可夫鏈，且有,（無2）

"X;2）（匕2）。說明經數據處埋后，一做只會增加信息的損失。

,cP

C=lim—=J^log21+----bitis

5.答：香農公式為，它是高斯加性白噪聲信道在單位時間

內的信道容量，其值取決于信噪比和帶寬。

，噸高=3°好得看=1000,wC,=50001og2(1+1000)=49836bitIs

口〉H(X)

6.答：只要L1。82次，當N足夠長時，一定存在一一種無失真編碼。

7.答：當RVC時，只要梢長足夠長，一定能找到一種編碼方法和譯碼規則，使譯碼錯誤概率無窮小。

8.答：1)保真度準則為：平均失真度不大于允許的失真度。

2)因為失真矩陣中每行都有-個0,所以有Am=°,而%c=mm{(l-0)a,一}。

9.答：離散無記憶信源，等概率分布時燃最大。

連續信源，峰值功率受限時，均勻分布的炯最大。'『?均功率受限I寸，高斯分布的嫡最大。均值受限時，指

數分布的燧最大。

2>0b>0Jlog2M2H(X)+￡

10.答：等長信源編碼定理：對于任意￡/U,°/U,只要L,則當L足夠長時必

可使譯碼差錯<

■、H(X)

變長信源編碼定理：只耍Llog2m一定存在一種無失真編碼。

H(X)

等長碼和變長碼的最小平均碼長均為l°g?m,編碼效率最高可達100%.

11.答：最小錯誤概率譯碼準則下，將接收序列譯為后驗概率最大時所對應的碼字。

最大似然譯碼準則下，將接收序列譯為信道傳遞概率最大時所對應的碼字。

最小距離譯碼準則下，將接收序列譯為與其距離最小的碼字。

三者關系為：輸入為等概率分布時，最大似然譯碼準則等效于最小錯誤概率譯碼準則。在二元對稱無記憶

信道中，最小距離譯碼準則等效了最大似然譯碼準則。

12.答：1)63

2)令接收序列為尸，則有或111°°°，￡)=3,火001011,夕)=5,*(010110,￡)=1,

^(101110,P)=2故接收序列應譯為mo]io。

13答:H(/)=2H(㈤=1.942弧/2符號

式心G=H(蒞)=0.971次/符號

lim—X)=hm=H(X)=0.971歷經符號

Nt9NNNfsN

14.答：平均互信息相對于信源概率分布為上凸函數，和對于信道傳遞概率分布為下網函數。平均互信息的

最大值為信道容量。

1(a)=-log2P(a)=200-wlog23

2)耳(那°)=1007/(X)=81.128初”序列

16.答：P1為一一對應確定信道，因此有歷〃符方。

P2為具有歸并性能的信胤因此有GF^Hmmog^儂S歷"符號。

P3為具有發散性能的信道，因此有。3加初口*)=電3=1.5995加〃符號。

17.答：

K)

18.當信源的符號之間有依賴汁，信源輸出消息的不確定性減弱,而信源兀余度正是反映信源符號依賴關

系的強弱，冗余度越大，依賴關系就越大。

19.答:無失真/源編碼,編碼后盡可能等概率分布，使每個碼北平均信息M是大。從而使信道信息傳輸

率R達到信道容最C.實現信源與信道理想的統計匹配.

20.義仍I"中，任意兩個碼字之間漢明距離的最小值稱為該碼的最小碼距Dmin.當已知某線性分組碼的

坡小漢明距離為Dmin,那么這組碼最多能檢測出c=Dmin-l個碼元錯誤，最多能糾正I=(Dmin-l)/2個碼

元錯誤。

21.答:信息的基本概念在「它的不確定性，任何已確定的事物都不含信息。

接收者在收到信息之前，對它的內容是不知道的，所以信息是新知識、新內容。

信息是能使認識主體對某一事物的未知性或不確定性減少的有用知識。

信息可以產生，也可以消失，同時信息可以被攜帶、貯存及處理,

信息是可以量度的，信息量有多少的差別.

22.

①將信源消息符號按其出現的概率大小依次排列

pUi）切足）2…力p（x?）

②取兩個概率最小的符號分別配以。和1，并將這兩個概率相加作為-?個新符號的概率，與耒分配碼元

的符號重新排隊。

③對重排后的兩個概率最小符號重復步驟2的過程。

④繼續上述過程，直到最后兩個符號配以0和1為止。

⑤從最后一級開始，向前返回得到各個信源符號所對應的碼元/節列，即相應的碼字。

二、綜合題（每題10分，共60分）

1.黑白氣象傳真圖的消息只有黑色和白色兩種，求：

1）黑色出現的概率為0.3,白色出現的概率為0.7。給出這個只有兩個符號的信源X的數學模型。假設圖

上黑白消息出現前后沒有關聯，求尷歸（*）：

2）假設黑白消息出現前后有關聯，其依賴關系為:尸〉/白）=。.9,尸（黑/白）■0.1,尸句黑）.0.2,

產（黑/黑）?0.8,求其炳也⑶；

3）分別求上述兩種信源的冗余度，比較它們的大小并說明其物理意義。

2.二元對稱信道如圖。

31

口若尸（°）?一⑴N/（x）和心冷

2）求該信道的信道容量和最佳輸入分布。

$5$6s?$8

0.050.050.050.05

3.信源空間為,試分別構造二元和三元霍夫曼碼,

計算其平均碼長和編碼效率。

111

---1

236名片）?彳

111

----尸（勺）■|

623

111

---

362尸（弓）=7

4.設有一離散信道，其信道傳遞矩陣為,并設〔4,試分別按最小錯誤概率準則與最大

似然譯碼準則確定譯碼規則，并計算相應的平均錯誤概率。

IOOOOIir

01000100

00100010

00010001

5.已知一（8,5）線性分組碼的生成矩陣為

求：1）輸入為全00011和1。00時該碼的碼字;2）最小碼距。

6.設某一信號的信息傳輸率為5.6kbil/s,在帶寬為4kHz的高斯信道中傳輸，噪聲功率譜N0=5X10-

6mw/Hzo試求：

（1）無差錯傳輸需要的最小輸入功率是多少？

（2）此時輸入信號的最大連續嫡是多少？寫出對應的輸入概率密度函數的形式。

7.二元平穩馬氏鏈,已知P（0/0）=0.9,P（1/1）=0.8,求:

（1）求該馬氏信源的符號嫡。

（2）每三個符號合成一個來編二進制Huffman碼,試建立新信源的模型，給出編碼結果。

（3）求每符號對應的平均碼長和編碼效率。

0.70.10.2,

P=

&設有一離散信道，其信道矩陣為LU0"901u07./j求：

（1）最佳概率分布？

（2）當。（為）=67,。區）=0.3時，求平均互信息I（X；y）=?信道疑義度

H[X!Y）=?

（3）輸入為等概率分布時，試寫出一-譯碼規則，使平均譯碼錯誤率尸8最小，并求此B=?

,1oo1or

G=010110

001011

9.1設線性分組碼的牛.成矩陣為，求:

（1）此（n,k）碼的n=?k=?,寫出此（n,k）碼的所有碼字。

（2）求其對應的一致校驗矩陣11。

（3）確定最小碼距，問此碼能糾兒位錯？列出其能糾錯的所有錯誤圖樣和對應的伴隨式。

（4）若接收碼字為000110,用伴隨式法求譯碼結果。

'00011r

9.2設一線性分組碼具有一致監督矩陣H=011001

101011_

1）求此分組碼n=?,k=?共有多少碼字？

2）求此分組碼的生成矩陣G。

3）寫出此分組碼的所有碼字。

4）若接收到碼字（1OI（X）I）,求出伴隨式并給出翻譯結果。

0.90.1,

10.二元對稱信道的信道矩陣為L°409J,信道傳輸速度為1500二元符號/秒，設信源為等概率

分布，信源消息序列共有13000個二元符號，問：

（1）試計兌能否在10秒內將信源消息序列無失真傳送完？

（2）若信源概率分布為。（°）二07，70）=03,求無失真傳送以上信源消息序列至少需要多長時

間？

11.已知（7,4）循環碼的生成多項式g。）=X?+工+1,求：

（1）求該碼的編碼效率？

（2）求其對應的一致校驗多項式“（燈=?

（3）寫出該碼的生成矩陣,校驗矩陣。

（4）若消息碼式為冽⑶=1+AN,求其碼字。

12.證明：平均互信總量向信息端之間滿足I（X；Y）=H（X）+H（Y）-H（XY）

13.居住在某地區的女孩中有25%是大學生，在女大學生中有75%是身高L6米以上的，而女孩中身高1.6

米以上的占總數的一半。假如我們得知“身高L6米以上的某女孩是大學生”的消息，問獲得多少信息量？

14.有兩個二元隨機變量才和匕它們的聯合概率為

xi=Ox2=l

yi=01/83/8

y2=l3/81/8

定義另一隨機變量Z=W（一?般乘積）,試計算H（Z）=?

15.求以下二個信道的信道容量:

100,

100

0010,

010

1000010

0001001

0100001

P2■

16.已知個高斯信道，輸入信噪比（比率）為3。頻帶為3kHz,求最大可能傳

送的信息率。若信噪比提高到15,理論上傳送同樣的信息率所需的領帶為

多少？

為

17.設信源為=試求（1）信源的燧、信息含量效率以及冗余度;

-1/43/4

⑵求二次擴展信源的概率空間和倘。

18.什么是損失炳、噪聲脩？什么是無損信道和確定信道？如輸入輸出為rxs,則它們的分別信道容量為

多少？

19.信源編碼的和信道編碼的3的是什么？

20.什么是香農容量公式？為保證足夠大的信道容量，可采用哪兩種方法？

21.什么是限失真信源編碼？

二、綜合題

%=黑/=白

1.答：1）信源模型為L0,30,7.

2

月（%）--￡產0）10幼尸（馬）-0.881配/符號

2-1

（2產回二彳

J尸（4）=2尸（。/*（%/%），I=L21:

1川產（里、?=1

2）由1尸（卬+產@）=1得I3

H&X）=-尸⑷/⑷現/⑸/⑷=0.5533符號

則

3）

H（X）

Z1=l-=0.119

晦2。分）

%二］一”8（X）=0.447

1鳴2（I分）

%＞不。說明：當信源的符號之間有依賴時，信源輸出消息的不確定性減弱。而信源冗余度正是反映信

源符號依賴關系的強弱，冗余度越大，依賴關系就越大。（2分）

2答：1）/￡（Z）=0.8113初"符號

Z（Z;K）=0.0616歷〃符號

2）C?0.082加/符號，最佳輸入概率分布為第概率分布。

3.答：1）二元碼的碼字依序為：10,11,010,011,1010,1011,1000,100U

平均碼長4=2.6編碼效率%=097

2）三元碼的碼字依序為：1,00,02,20,21,22,010,011.

平均碼長4"7蛇/符號，編碼效率小■0.936

個）=演

卜仇）=與尸J

4.答：1）最小似然譯碼準則F有1*83）=3"2

，斤81）=再

，尸仇）"2尸

2）最大錯誤概率準則下，有I尸①）=224

5.答：1）輸入為00011時,碼字為00011110：輸入為10100時,碼字為10100101。

2）心=2

K4C=Wlog2（l+E-）

6.答：1）無錯傳輸時，有乂獷

33

5.6X10=4xl0log2（l+----/-------?）p>AA2OQ

即5x]0"x4x]03,則尸2U.UMKww

2）在i0328枷時，最大嫡兒弓喝3吐）一549/自由度

p（o）=|

'P（O）=P（0）P（0/0）+P（1）P（O/1）I1

7.答：1）由尸（