第3章信道容量2022/12/101第3章信道容量2022/12/101本章主要內容3.1信道的數學模型與分類3.2單符號離散信道的信道容量3.3多符號離散信道的信道容量3.4連續信道及其容量3.5信道編碼定理2022/12/102本章主要內容3.1信道的數學模型與分類2022/12/1023.3多符號離散信道的信道容量多符號離散信道（DMC的N次擴展信道）Def：輸入輸出都是長為N的多符號離散消息，這樣的信道稱為多符號離散信道。設信源XN：信宿YN：則N次擴展信道的轉移概率矩陣為輸入信道的第i條消息信道輸出的第j條消息2022/12/1033.3多符號離散信道的信道容量多符號離散信道（DMC的N次多符號信道的轉移信道概率：其中2022/12/104多符號信道的轉移信道概率：其中2022/12/104例：設BSC信道如圖3.5(a)，X=(x1,x2)=(0,1),Y=(y1,y2)=(0,1),求2次擴展信道的轉移概率矩陣。解：BSC信道的轉移概率矩陣為

2次擴展信道的轉移概率為對稱p2022/12/105例：設BSC信道如圖3.5(a)，X=(x1,x2)=(0,則說明：若單符號離散信道是對稱的，則形成的N次擴展信道也是對稱的。2022/12/106則說明：若單符號離散信道是對稱的，則形成的N次擴展信道也是對單符號無記憶信源的N次擴展信道單符號無記憶信源的N次擴展信道：可以看作是一種特殊的多符號信道，而多符號信道是各個輸入信源Xi都取自同一集合X，并聯的各個輸出信宿Yj都取自同一集合Y,這樣的N個信道的并聯。單符號無記憶信源的N次擴展信道的數學模型2022/12/107單符號無記憶信源的N次擴展信道單符號無記憶信源的N次擴展信道N次擴展信道的信道容量因此N次擴展信道的信道容量按照信道容量的定義式，為：例：分別用定義式求上題的二次擴展信道的容量解：因為對稱，所以2022/12/108N次擴展信道的信道容量因此N次擴展信道的信道容量按照信道容量代入N次擴展信道容量的定義式2022/12/109代入N次擴展信道容量的定義式2022/12/109單符號無記憶信源的N次擴展信道N次擴展信道的容量C：各信道輸入Xi都取自同一集合X，各信道輸出Yj都取自同一集合Y，則每個并聯信道的容量：2022/12/1010單符號無記憶信源的N次擴展信道N次擴展信道的容量C：各信道獨立并聯信道的信道容量獨立并聯信道的容量C：若是N個獨立單符號離散信道的并聯，各信道輸入Xi和輸出Yj分別取自不同集合，則信道容量為2022/12/1011獨立并聯信道的信道容量獨立并聯信道的容量C：若是N個獨立單符獨立并聯信道的信道容量多個獨立的單符號信道的并聯信道的數學模型。獨立并聯信道的數學模型2022/12/1012獨立并聯信道的信道容量多個獨立的單符號信道的并聯信道的數學模因此：單符號無記憶信道的N次擴展信道是一種特殊的獨立并聯信道。2022/12/1013因此：單符號無記憶信道的N次擴展信道是一種特殊的獨立并聯信道幾種組合信道的容量的求解串聯信道串聯信道的容量C串依據P求解。P2022/12/1014幾種組合信道的容量的求解串聯信道P2022/12/1014和信道：和信道的容量其中：Ci為第i個信道的容量P2022/12/1015和信道：P2022/12/1015ThankYou!2022/12/1016ThankYou!2022/12/1016第3章信道容量2022/12/1017第3章信道容量2022/12/101本章主要內容3.1信道的數學模型與分類3.2單符號離散信道的信道容量3.3多符號離散信道的信道容量3.4連續信道及其容量3.5信道編碼定理2022/12/1018本章主要內容3.1信道的數學模型與分類2022/12/1023.3多符號離散信道的信道容量多符號離散信道（DMC的N次擴展信道）Def：輸入輸出都是長為N的多符號離散消息，這樣的信道稱為多符號離散信道。設信源XN：信宿YN：則N次擴展信道的轉移概率矩陣為輸入信道的第i條消息信道輸出的第j條消息2022/12/10193.3多符號離散信道的信道容量多符號離散信道（DMC的N次多符號信道的轉移信道概率：其中2022/12/1020多符號信道的轉移信道概率：其中2022/12/104例：設BSC信道如圖3.5(a)，X=(x1,x2)=(0,1),Y=(y1,y2)=(0,1),求2次擴展信道的轉移概率矩陣。解：BSC信道的轉移概率矩陣為

2次擴展信道的轉移概率為對稱p2022/12/1021例：設BSC信道如圖3.5(a)，X=(x1,x2)=(0,則說明：若單符號離散信道是對稱的，則形成的N次擴展信道也是對稱的。2022/12/1022則說明：若單符號離散信道是對稱的，則形成的N次擴展信道也是對單符號無記憶信源的N次擴展信道單符號無記憶信源的N次擴展信道：可以看作是一種特殊的多符號信道，而多符號信道是各個輸入信源Xi都取自同一集合X，并聯的各個輸出信宿Yj都取自同一集合Y,這樣的N個信道的并聯。單符號無記憶信源的N次擴展信道的數學模型2022/12/1023單符號無記憶信源的N次擴展信道單符號無記憶信源的N次擴展信道N次擴展信道的信道容量因此N次擴展信道的信道容量按照信道容量的定義式，為：例：分別用定義式求上題的二次擴展信道的容量解：因為對稱，所以2022/12/1024N次擴展信道的信道容量因此N次擴展信道的信道容量按照信道容量代入N次擴展信道容量的定義式2022/12/1025代入N次擴展信道容量的定義式2022/12/109單符號無記憶信源的N次擴展信道N次擴展信道的容量C：各信道輸入Xi都取自同一集合X，各信道輸出Yj都取自同一集合Y，則每個并聯信道的容量：2022/12/1026單符號無記憶信源的N次擴展信道N次擴展信道的容量C：各信道獨立并聯信道的信道容量獨立并聯信道的容量C：若是N個獨立單符號離散信道的并聯，各信道輸入Xi和輸出Yj分別取自不同集合，則信道容量為2022/12/1027獨立并聯信道的信道容量獨立并聯信道的容量C：若是N個獨立單符獨立并聯信道的信道容量多個獨立的單符號信道的并聯信道的數學模型。獨立并聯信道的數學模型2022/12/1028獨立并聯信道的信道容量多個獨立的單符號信道的并聯信道的數學模因此：單符號無記憶信道的N次擴展信道是一種特殊的獨立并聯信道。2022/12/1029因此：單符號無記憶信道的N次擴展信道是一種特殊的獨立并聯信道幾種組合信道的容量的求解串聯信道串聯信道的容量C串依據P