《信息論與編碼》試卷第1頁(yè)（共3頁(yè)）專業(yè)班級(jí)：專業(yè)班級(jí)：姓名：學(xué)號(hào)：…………密………………封………………線…………專業(yè)班級(jí)：姓名：學(xué)號(hào)：…………密專業(yè)班級(jí)：姓名：學(xué)號(hào)：…………密………………封………………線…………考試方式本試卷考試分?jǐn)?shù)占學(xué)生總評(píng)成績(jī)比例總得分閉卷60%分?jǐn)?shù)40得分一、簡(jiǎn)答題。試畫出通信系統(tǒng)的模型框圖，并分析信源編碼和信道編碼的作用。（本小題8分）試比較消息、信號(hào)這兩個(gè)概念的區(qū)別和聯(lián)系。（本小題8分）如何理解“信息在數(shù)量上等于通信前后‘不確定性’減少的量”這句話的含義。（本小題8分）什么是最大后驗(yàn)概率譯碼準(zhǔn)則？什么是極大似然譯碼準(zhǔn)則？?jī)烧咴谑裁辞闆r下等價(jià)？（本小題8分）簡(jiǎn)述信道容量的定義。（本小題8分）分?jǐn)?shù)24得分二、證明題。1.線性分組碼中任意兩個(gè)碼字之和仍為一個(gè)碼字。（本小題8分）2.線性分組碼中任意碼字是生成矩陣行向量的線性組合。（本小題8分）3.對(duì)于對(duì)稱信道，當(dāng)輸入分布為等概分布時(shí)，輸出分布必能達(dá)到等概分布。（本小題8分）分?jǐn)?shù)36得分三、計(jì)算題。1.（本小題12分）通過(guò)一定的編碼方法得到如下碼集：{000,10,00,11};請(qǐng)回答下面問(wèn)題：（1）此碼的碼長(zhǎng)分布是否滿足Kraft-McMillan不等式？（2）此碼是否是即時(shí)碼？如果不是，請(qǐng)說(shuō)明理由。（3）此碼是否是唯一可譯碼？如果不是，請(qǐng)說(shuō)明理由。2.（本小題12分）設(shè)（n，k）線性分組碼的生成矩陣為，求：

（1）此（n，k）碼的n=？k=？，寫出此（n，k）碼的所有碼字。

（2）求其對(duì)應(yīng)的校驗(yàn)矩陣H。

（3）此碼的最小碼距是多少？能糾幾位錯(cuò)？

（4）現(xiàn)譯碼器接收到兩個(gè)碼序列、，分別求出采用伴隨式譯碼得到的譯碼結(jié)果。3.（本小題12分）設(shè)信源通過(guò)一離散無(wú)記憶信道信道，信宿接收到的符號(hào)記為，信道轉(zhuǎn)移概率如圖所示。試求：（1）該信道的轉(zhuǎn)移概率矩陣；（2）信源X中，消息和分別含有的自信息量；（3）信宿Y的概率分布；（4）收到消息后獲得的關(guān)于消息的互信息量；（5）信道疑義度；（6）平均互信息量I(X;Y)。《信息與編碼理論》試卷（三）參考答案與評(píng)分標(biāo)準(zhǔn)一、簡(jiǎn)答題。信宿譯碼器信道編碼器信源試畫出通信系統(tǒng)的模型框圖，并分析信源編碼和信道編碼的作用。（本小題8分）信宿譯碼器信道編碼器信源噪聲源噪聲源（4分）信源編碼的作用是壓縮信源的冗余度，提高信息傳輸率，進(jìn)而提高通信系統(tǒng)的有效性。（2分）信道編碼通過(guò)在信息碼元后添加一些監(jiān)督碼元，使之具有檢錯(cuò)糾錯(cuò)能力，從而提高通信系統(tǒng)的可靠性。（2分）2.試比較消息、信號(hào)這兩個(gè)概念的區(qū)別和聯(lián)系。（本小題8分）答：用文字、符號(hào)、數(shù)據(jù)、語(yǔ)言、音符、圖片、圖像等能夠被人們感覺(jué)器官所感知的形式，把客觀物質(zhì)運(yùn)動(dòng)和主觀思維活動(dòng)的狀態(tài)表達(dá)出來(lái)，就稱為消息。（4分）信號(hào)是表示消息的物理量，包括電信號(hào)、光信號(hào)等。信號(hào)中攜帶著消息，信號(hào)是消息的載體。（4分）3.如何理解“互信息在數(shù)量上等于通信前后‘不確定性’減少的量”這句話的含義。（本小題8分）答：通信的根本問(wèn)題是精確或者近似的確定信源所選擇的消息。通信前，信源發(fā)送信源空間中的哪個(gè)消息存在著不確定性。（4分）信宿收到消息后，信源的不確定性得到了部分或者全部消除，收信者就得到了信息，這個(gè)信息就是互信息。因此，互信息在數(shù)量上等于通信前后‘不確定性’減少的量。（4分）什么是最大后驗(yàn)概率譯碼準(zhǔn)則？什么是極大似然譯碼準(zhǔn)則？?jī)烧咴谑裁辞闆r下等價(jià)？（本小題8分）答：最大后驗(yàn)概率譯碼規(guī)則：令，，而應(yīng)滿足條件稱滿足上述條件的譯碼函數(shù)對(duì)應(yīng)的譯碼規(guī)則為最大后驗(yàn)概率譯碼規(guī)則。（3分）極大似然譯碼準(zhǔn)則：（5分）簡(jiǎn)述信道容量的定義。（本小題8分）答：在信道確定的情況下，平均互信息I(X;Y)是信源概率分布P(X)的上凸函數(shù)。（3分）因此，必然存在一種信源概率分布使信息傳輸率I(X;Y)最大。（3分）定義這個(gè)最大的信息傳輸率為信道容量（2分）二、證明題。1.線性分組碼中任意兩個(gè)碼字之和仍為一個(gè)碼字。（本小題8分）2.線性分組碼中任意碼字是生成矩陣行向量的線性組合。（本小題8分）證明：3.對(duì)于對(duì)稱信道，當(dāng)輸入分布為等概分布時(shí)，輸出分布必能達(dá)到等概分布。（本小題8分）三、計(jì)算題。1.（本小題12分）通過(guò)一定的編碼方法得到如下碼集：{000,10,00,11};請(qǐng)回答下面問(wèn)題：（1）此碼的碼長(zhǎng)分布是否滿足Kraft-McMillan不等式？（2）此碼是否是即時(shí)碼？如果不是，請(qǐng)說(shuō)明理由。（3）此碼是否是唯一可譯碼？如果不是，請(qǐng)說(shuō)明理由。答：（1）此碼的碼長(zhǎng)分布滿足Kraft-McMillan不等式。（4分）（2）此碼不是即時(shí)碼，因?yàn)?0是000的前綴。（4分）（3）此碼不是唯一可譯碼，因?yàn)榇a符號(hào)序列000000可以譯為00，00,00.也可以譯為000,000.（4分）2.（本小題12分）設(shè)（n，k）線性分組碼的生成矩陣為，求：

（1）此（n，k）碼的n=？k=？，寫出此（n，k）碼的所有碼字。

（2）求其對(duì)應(yīng)的校驗(yàn)矩陣H。

（3）此碼的最小碼距是多少？能糾幾位錯(cuò)？

（4）現(xiàn)譯碼器接收到兩個(gè)碼序列、，分別求出采用伴隨式譯碼得到的譯碼結(jié)果。答：（1）n=5k=2.所有碼字為：C1=00000,C2=01101,C3=10111,C4=11010.（3分）(2)校驗(yàn)矩陣（3分）(3)此碼的最小碼距是3,能糾1位錯(cuò).（3分）(4)現(xiàn)譯碼器接收到碼序列,則伴隨式，錯(cuò)誤圖案為,采用伴隨式譯碼得到的譯碼結(jié)果現(xiàn)譯碼器接收到碼序列,則伴隨式，錯(cuò)誤圖案為,采用伴隨式譯碼得到的譯碼結(jié)果.（3分）3.（本小題12分）設(shè)信源通過(guò)一離散無(wú)記憶信道信道，信宿接收到的符號(hào)記為，信道轉(zhuǎn)移概率如圖所示。試求：（1）該信道的轉(zhuǎn)移概率矩陣；（2）信源X中，消息和分別含有的自信息量；（3）信宿Y的概率分布；