第五章預(yù)測(cè)編碼預(yù)測(cè)編碼（Predictivecoding）是數(shù)據(jù)壓縮三大經(jīng)典技術(shù)（統(tǒng)計(jì)編碼、預(yù)測(cè)編碼、變換編碼）之一。預(yù)測(cè)編碼是建立在信號(hào)（語(yǔ)音、圖像等）數(shù)據(jù)的相關(guān)性之上，較早實(shí)用于數(shù)據(jù)壓縮的一種技術(shù)。它根據(jù)某一模型利用以往的樣本值對(duì)于新樣本進(jìn)行預(yù)測(cè)，減少數(shù)據(jù)在時(shí)間和空間上的相關(guān)性，以達(dá)到壓縮數(shù)據(jù)的目的。導(dǎo)入數(shù)據(jù)源的建立是十分困難的，有時(shí)無(wú)法得到其數(shù)學(xué)模型。利用現(xiàn)代統(tǒng)計(jì)學(xué)和控制論的“時(shí)間序列分析”理論，可以較好地解決復(fù)雜系統(tǒng)的輸出狀態(tài)問(wèn)題。已有樣本值現(xiàn)時(shí)的系統(tǒng)輸出采用線性或非線性預(yù)測(cè)函數(shù)，最小均方誤差為準(zhǔn)則預(yù)測(cè)編碼的基本概念導(dǎo)入5.1

DPCM的基本原理對(duì)于具有M種取值的符號(hào)序列{xk},其第L個(gè)符號(hào)的熵滿足:log2M≥H(xL)≥H(xL|xL-1)≥H(xL|xL-1,

xL-2)≥···≥H(xL|xL-1,

xL-2,···,x1)>H∞知道前面的符號(hào)xL(k<L),再猜后續(xù)符號(hào)

xL,則知道得越多,熵越小。意味著該信源的不確定度減小,數(shù)碼率自然降低。基礎(chǔ)理論：數(shù)據(jù)源不可能用一個(gè)數(shù)學(xué)模型完全表示，并使得信源的輸出始終和該模型的輸出完全一致，精確預(yù)測(cè)(或產(chǎn)生)這些數(shù)據(jù)。實(shí)際上實(shí)際情況中只能爭(zhēng)取設(shè)計(jì)最好的預(yù)測(cè)器，以某種最小化的誤差對(duì)下一個(gè)取樣值進(jìn)行預(yù)測(cè)。5.1DPCM的基本原理發(fā)展歷史1952年，Bell實(shí)驗(yàn)室的B.M.Oliver

等人開(kāi)始線性預(yù)測(cè)編碼理論研究。同年，該實(shí)驗(yàn)室的C.C.Culter取得了DPCM(DifferentialPulseCodeModulation,差分脈沖編碼調(diào)制)系統(tǒng)的專利，奠定了真正實(shí)用的預(yù)測(cè)編碼系統(tǒng)的基礎(chǔ)。5.1DPCM的基本原理預(yù)測(cè)編碼技術(shù)：從過(guò)去的符號(hào)樣本來(lái)預(yù)測(cè)下一個(gè)符號(hào)樣本的值。直觀理解：根據(jù)：認(rèn)為在信源符號(hào)之間存在相關(guān)性。如果符號(hào)的預(yù)測(cè)值與符號(hào)的實(shí)際值比較接近，它們之間的差值幅度的變化就比原始信源符號(hào)幅度值的變化小，因此量化這種差值信號(hào)時(shí)就可以用比較少的位數(shù)來(lái)表示差值。DPCM的基礎(chǔ)—對(duì)預(yù)測(cè)的樣本值與原始的樣本值之差進(jìn)行編碼。5.1DPCM的基本原理DPCM系統(tǒng)圖5.1DPCM系統(tǒng)原理框圖量化器預(yù)測(cè)器編碼器xk-ekSk信道解碼器預(yù)測(cè)器發(fā)送端接收端5.1DPCM的基本原理發(fā)送端先發(fā)送一個(gè)其始值x0;接著就只發(fā)送預(yù)測(cè)誤差值;接收端接收到量化后的誤差與本地算出的預(yù)測(cè)值相加,得到恢復(fù)信號(hào);式中線性預(yù)測(cè)：5.1DPCM的基本原理如果沒(méi)有傳輸誤碼，預(yù)測(cè)編碼系統(tǒng)的誤差為：(5.1-3)正是發(fā)送端量化器造成的量化誤差。對(duì)于xk已經(jīng)是數(shù)字信號(hào)，去掉量化器，qk

=0： 如果qk≠0:可用于“信息保持型”(Lossless)編碼；可用于“非信息保持型”(Lossy)編碼。5.1DPCM的基本原理5.2

最佳線性預(yù)測(cè)含有量化器的DPCM系統(tǒng)：帶反饋的非線性系統(tǒng)，難以對(duì)預(yù)測(cè)器和量化器進(jìn)行嚴(yán)格的全局優(yōu)化設(shè)計(jì)。常用的簡(jiǎn)化方法：分別討論，得到局部最優(yōu)解。DPCM系統(tǒng)的核心問(wèn)題：預(yù)測(cè)器的設(shè)計(jì)預(yù)測(cè)器越好，差值就越集中分布在零附近，碼率就能壓縮越多。5.2

最佳線性預(yù)測(cè)線性預(yù)測(cè)：時(shí)不變線性預(yù)測(cè)：簡(jiǎn)化，令ai(k)=ai與k無(wú)關(guān),用原始取樣值替代xi量化