1、2022/7/191第四章：信道及其容量4.1 信道分類4.2 離散無(wú)記憶信道4.5 信道的組合4.6 時(shí)間離散的無(wú)記憶連續(xù)信道4.7 波形信道2022/7/1924.5 信道的組合總設(shè)有如下兩個(gè)DMC，分別稱為信道1和信道2。信道1的輸入事件為全體x，共有K個(gè)輸入事件；信道1的輸出事件為全體y，共有J個(gè)輸出事件；信道1的轉(zhuǎn)移概率矩陣為p1(y|x)KJ；信道1的信道容量為C1，最佳輸入分布為x, q1(x)。信道2的輸入事件為全體u，共有N個(gè)輸入事件；信道2的輸出事件為全體v，共有M個(gè)輸出事件；信道2的轉(zhuǎn)移概率矩陣為p2(v|u)NM；信道2的信道容量為C2 ，最佳輸入分布為u, q2(u)

2、。2022/7/1934.5 信道的組合定義4.5.1（p97） 信道的輸入事件為全體(x, u)，共有KN個(gè)輸入事件；信道的輸出事件為全體(y, v)，共有JM個(gè)輸出事件；轉(zhuǎn)移概率矩陣為p(y, v)|(x, u)(KN)(JM)，其中p(y, v)|(x, u)= p1(y|x)p2(v|u)。則稱該信道為信道1與信道2的積信道。（又稱該信道為信道1與信道2的獨(dú)立并行信道）（在物理上，積信道是兩個(gè)信道的并行使用） 2022/7/1944.5 信道的組合定理4.5.1（p97） 積信道的信道容量為C=C1+C2，最佳輸入分布為(x, u), q(x, u)，其中q(x, u)=q1(x)q2

3、(u)。證明 此時(shí)2022/7/1954.5 信道的組合2022/7/1964.5 信道的組合2022/7/1974.5 信道的組合所以I(XU)=(xu); (YV)=I(X=x; Y)+I(U=u; V)。注意到對(duì)任何滿足q1(x) 0的x，I(X=x; Y)=C1；對(duì)任何滿足q1(x) =0的x，I(X=x; Y)C1；對(duì)任何滿足q2(u) 0的u，I(U=u; V)=C2 ；對(duì)任何滿足q2(u) =0的u，I(U=u; V)C2。于是對(duì)任何滿足q1(x)q2(u)0的(xu)，I(XU)=(xu); (YV)=C1+ C2 ；對(duì)任何滿足q1(x)q2(u)=0的(xu)，I(XU)=(

4、xu); (YV)C1+ C2 。根據(jù)定理4.2.2(p84) ，積信道的信道容量為C=C1+C2，最佳輸入分布為(x, u), q1(x)q2(u)。2022/7/1984.5 信道的組合定義4.5.2（p99） 信道的輸入事件為全體xu，其中x與u不相交；共有K+N個(gè)輸入事件；信道的輸出事件為全體yv，其中y與v不相交；共有J+M個(gè)輸出事件；信道的轉(zhuǎn)移概率矩陣為則稱該信道為信道1與信道2的和信道。 2022/7/1994.5 信道的組合定理4.5.2（p99） （證略）2022/7/19104.5 信道的組合定義4.5.3（p100） 構(gòu)造一個(gè)信道，使得該信道的輸入是信道1的輸入；信道1的

5、輸出再輸入信道2；信道2的輸出就是該信道的輸出。則稱該信道為信道1與信道2的級(jí)連信道（串聯(lián)信道）。請(qǐng)注意：此時(shí)信道1的輸出事件全體恰好是信道2的輸入事件全體，即y=u，J=N。2022/7/19114.5 信道的組合注：（1）級(jí)連信道的轉(zhuǎn)移概率矩陣為p(v|x)KM=p1(y|x)KJ p2(v|y)JM，即這一結(jié)果來(lái)自于全概率公式和馬爾可夫性。（2）級(jí)連信道的信道容量C滿足CminC1, C2。這一結(jié)果也容易證明。 2022/7/19124.5 信道的組合例 設(shè)信道1的轉(zhuǎn)移概率矩陣為其中0p1。則（1）信道1的最佳輸入分布是等概分布，信道容量為2022/7/19134.5 信道的組合（2）將信道1自級(jí)連N次，