1、 軟測(cè)量技術(shù)是一門有著廣闊發(fā)展前景的新興工業(yè)技術(shù)，已發(fā)展成為過程檢測(cè)技術(shù)與儀表研究的主要方向之一。本講將介紹前沿的軟測(cè)量應(yīng)用技術(shù)，能從控制系統(tǒng)整體出發(fā)考慮如何應(yīng)用軟測(cè)量設(shè)計(jì)方法完成復(fù)雜難測(cè)過程參數(shù)的在線檢測(cè)。 軟測(cè)量通常是在成熟的硬件傳感器基礎(chǔ)上，以計(jì)算機(jī)技術(shù)為核心，通過軟測(cè)量模型運(yùn)算處理完成的。 第1頁/共113頁軟測(cè)量技術(shù)的提出 到目前為止，在實(shí)際生產(chǎn)過程中，存在著許多到目前為止，在實(shí)際生產(chǎn)過程中，存在著許多因?yàn)榧夹g(shù)或經(jīng)濟(jì)原因無法通過傳感器進(jìn)行直接因?yàn)榧夹g(shù)或經(jīng)濟(jì)原因無法通過傳感器進(jìn)行直接測(cè)量的過程變量，如精餾塔的產(chǎn)品組分濃度、測(cè)量的過程變量，如精餾塔的產(chǎn)品組分濃度、生物發(fā)酵罐的菌體濃度、高

2、爐鐵水中的含硅量生物發(fā)酵罐的菌體濃度、高爐鐵水中的含硅量和化學(xué)反應(yīng)器中反應(yīng)物濃度、轉(zhuǎn)化率、催化劑和化學(xué)反應(yīng)器中反應(yīng)物濃度、轉(zhuǎn)化率、催化劑活性等。活性等。 傳統(tǒng)的解決方法有兩種：一是采用間接的質(zhì)量傳統(tǒng)的解決方法有兩種：一是采用間接的質(zhì)量指標(biāo)控制，如精餾塔靈敏板溫度控制、溫差控指標(biāo)控制，如精餾塔靈敏板溫度控制、溫差控制等，存在的問題是難以保證最終質(zhì)量指標(biāo)的制等，存在的問題是難以保證最終質(zhì)量指標(biāo)的控制精度；二是采用在線分析儀表控制，但設(shè)控制精度；二是采用在線分析儀表控制，但設(shè)備投資大、維護(hù)成本高、存在較大的滯后性，備投資大、維護(hù)成本高、存在較大的滯后性，影響調(diào)節(jié)效果。影響調(diào)節(jié)效果。 軟測(cè)量技術(shù)應(yīng)運(yùn)而

3、生軟測(cè)量技術(shù)應(yīng)運(yùn)而生 第2頁/共113頁軟測(cè)量技術(shù)的基本概念 軟測(cè)量技術(shù)軟測(cè)量技術(shù)也稱為也稱為軟儀表技術(shù)軟儀表技術(shù)，就是利用易測(cè)過程變量（稱為輔助變量或二次變量），依據(jù)這些易測(cè)過程，就是利用易測(cè)過程變量（稱為輔助變量或二次變量），依據(jù)這些易測(cè)過程變量與難以直接測(cè)量的待測(cè)過程變量（稱為主導(dǎo)變量）之間的數(shù)學(xué)關(guān)系（軟測(cè)量模型），通過各種數(shù)學(xué)計(jì)變量與難以直接測(cè)量的待測(cè)過程變量（稱為主導(dǎo)變量）之間的數(shù)學(xué)關(guān)系（軟測(cè)量模型），通過各種數(shù)學(xué)計(jì)算和估計(jì)方法，從而實(shí)現(xiàn)對(duì)待測(cè)過程變量的測(cè)量。算和估計(jì)方法，從而實(shí)現(xiàn)對(duì)待測(cè)過程變量的測(cè)量。第3頁/共113頁軟測(cè)量技術(shù)的基本概念 軟測(cè)量的軟測(cè)量的基本思想基本思想是把自動(dòng)控

4、制理論與生產(chǎn)工藝過程知識(shí)有機(jī)結(jié)合起來，應(yīng)用計(jì)算機(jī)技術(shù)，對(duì)于一些難于是把自動(dòng)控制理論與生產(chǎn)工藝過程知識(shí)有機(jī)結(jié)合起來，應(yīng)用計(jì)算機(jī)技術(shù)，對(duì)于一些難于測(cè)量或暫時(shí)不能測(cè)量的重要變量（主導(dǎo)變量），選擇另外一些容易測(cè)量的變量（輔助變量），通過構(gòu)成某測(cè)量或暫時(shí)不能測(cè)量的重要變量（主導(dǎo)變量），選擇另外一些容易測(cè)量的變量（輔助變量），通過構(gòu)成某種數(shù)學(xué)關(guān)系來推斷和估計(jì)，以軟件來代替硬件功能。種數(shù)學(xué)關(guān)系來推斷和估計(jì)，以軟件來代替硬件功能。第4頁/共113頁軟測(cè)量技術(shù)的基本概念 軟測(cè)量是一種利用較易在線測(cè)量的輔助變量和離線分析信息去估計(jì)不可測(cè)或難測(cè)變量的方法；以成熟的傳軟測(cè)量是一種利用較易在線測(cè)量的輔助變量和離線分析信

5、息去估計(jì)不可測(cè)或難測(cè)變量的方法；以成熟的傳感器檢測(cè)為基礎(chǔ)，以計(jì)算機(jī)技術(shù)為核心，通過軟測(cè)量模型運(yùn)算處理而完成。感器檢測(cè)為基礎(chǔ)，以計(jì)算機(jī)技術(shù)為核心，通過軟測(cè)量模型運(yùn)算處理而完成。第5頁/共113頁軟測(cè)量的意義 能夠測(cè)量目前由于技術(shù)或經(jīng)濟(jì)的原因無法能夠測(cè)量目前由于技術(shù)或經(jīng)濟(jì)的原因無法或難以用傳感器直接檢測(cè)的重要的過程參數(shù)或難以用傳感器直接檢測(cè)的重要的過程參數(shù) 打破了傳統(tǒng)單輸入、單輸出的儀表格局打破了傳統(tǒng)單輸入、單輸出的儀表格局 能夠在線獲取被測(cè)對(duì)象微觀的二維能夠在線獲取被測(cè)對(duì)象微觀的二維/三維時(shí)三維時(shí)空分布信息，以滿足許多復(fù)雜工業(yè)過程中場(chǎng)參空分布信息，以滿足許多復(fù)雜工業(yè)過程中場(chǎng)參數(shù)測(cè)量的需要數(shù)測(cè)量的

6、需要 可在同一儀表中實(shí)現(xiàn)軟測(cè)量技術(shù)與控制技可在同一儀表中實(shí)現(xiàn)軟測(cè)量技術(shù)與控制技術(shù)的結(jié)合術(shù)的結(jié)合 便于修改便于修改 有助于提高控制性能有助于提高控制性能第6頁/共113頁軟測(cè)量的適用條件 無法直接檢測(cè)被估計(jì)變量，或直接檢測(cè)被估無法直接檢測(cè)被估計(jì)變量，或直接檢測(cè)被估計(jì)變量的自動(dòng)化儀器儀表較貴或維護(hù)困難計(jì)變量的自動(dòng)化儀器儀表較貴或維護(hù)困難 通過軟測(cè)量技術(shù)所得到的過程變量的估計(jì)通過軟測(cè)量技術(shù)所得到的過程變量的估計(jì)值必須在工藝過程所允許的精確度范圍內(nèi)值必須在工藝過程所允許的精確度范圍內(nèi) 能通過其他檢測(cè)手段根據(jù)過程變量估計(jì)值能通過其他檢測(cè)手段根據(jù)過程變量估計(jì)值對(duì)系統(tǒng)數(shù)學(xué)模型進(jìn)行校驗(yàn)，并根據(jù)兩者偏差確對(duì)系統(tǒng)

7、數(shù)學(xué)模型進(jìn)行校驗(yàn)，并根據(jù)兩者偏差確定數(shù)學(xué)模型是否需要校正定數(shù)學(xué)模型是否需要校正 被估計(jì)過程變量具有靈敏性、精確性、魯被估計(jì)過程變量具有靈敏性、精確性、魯棒性等特點(diǎn)棒性等特點(diǎn)第7頁/共113頁軟測(cè)量的數(shù)學(xué)描述 軟測(cè)量的目的就是利用所有可以獲得的信息求取主導(dǎo)變量的最佳估計(jì)值，軟測(cè)量的目的就是利用所有可以獲得的信息求取主導(dǎo)變量的最佳估計(jì)值，即構(gòu)造從可測(cè)信息集到即構(gòu)造從可測(cè)信息集到 的映射：的映射： y主導(dǎo)變量 輔助變量 干擾 控制變量 第8頁/共113頁軟測(cè)量的數(shù)學(xué)描述 建立軟儀表的過程就是構(gòu)造一個(gè)數(shù)學(xué)模型。建立軟儀表的過程就是構(gòu)造一個(gè)數(shù)學(xué)模型。在許多建立軟儀表的方法中，要以一般意義在許多建立軟儀表

8、的方法中，要以一般意義下的數(shù)學(xué)模型為基礎(chǔ)。下的數(shù)學(xué)模型為基礎(chǔ)。 軟儀表與一般意義下的數(shù)學(xué)模型區(qū)別：軟儀表與一般意義下的數(shù)學(xué)模型區(qū)別： 數(shù)學(xué)模型主要反映數(shù)學(xué)模型主要反映y與與u或或d之間動(dòng)態(tài)之間動(dòng)態(tài)(或穩(wěn)態(tài)或穩(wěn)態(tài))關(guān)系關(guān)系 軟儀表是通過軟儀表是通過 求求y的估計(jì)值。的估計(jì)值。第9頁/共113頁軟測(cè)量的結(jié)構(gòu)第10頁/共113頁基于工藝機(jī)理分析的軟測(cè)量方法 主要是運(yùn)用物料平衡、主要是運(yùn)用物料平衡、 能量平衡、化學(xué)反能量平衡、化學(xué)反應(yīng)動(dòng)力學(xué)等原理，通過對(duì)過程對(duì)象的機(jī)理分應(yīng)動(dòng)力學(xué)等原理，通過對(duì)過程對(duì)象的機(jī)理分析，找出不可測(cè)主導(dǎo)變量與可測(cè)輔助變量之析，找出不可測(cè)主導(dǎo)變量與可測(cè)輔助變量之間的關(guān)系（建立機(jī)理模

9、型），從而實(shí)現(xiàn)對(duì)某間的關(guān)系（建立機(jī)理模型），從而實(shí)現(xiàn)對(duì)某一參數(shù)的軟測(cè)量。一參數(shù)的軟測(cè)量。 對(duì)于工藝機(jī)理較為清楚的工藝過程，對(duì)于工藝機(jī)理較為清楚的工藝過程，該方法能構(gòu)造出性能良好的軟儀表；但是對(duì)該方法能構(gòu)造出性能良好的軟儀表；但是對(duì)于機(jī)理研究不充分、尚不完全清楚的復(fù)雜工于機(jī)理研究不充分、尚不完全清楚的復(fù)雜工業(yè)過程，則難以建立合適的機(jī)理模型。業(yè)過程，則難以建立合適的機(jī)理模型。第11頁/共113頁基于回歸分析的軟測(cè)量方法 通過實(shí)驗(yàn)或仿真結(jié)果的數(shù)據(jù)處理，可以得到回通過實(shí)驗(yàn)或仿真結(jié)果的數(shù)據(jù)處理，可以得到回歸模型歸模型 經(jīng)典的回歸分析是一種建模的基本方法，應(yīng)用經(jīng)典的回歸分析是一種建模的基本方法，應(yīng)用范圍相

10、當(dāng)廣泛。以最小二乘法原理為基礎(chǔ)的回范圍相當(dāng)廣泛。以最小二乘法原理為基礎(chǔ)的回歸技術(shù)目前已相當(dāng)成熟，常用于線性模型的擬歸技術(shù)目前已相當(dāng)成熟，常用于線性模型的擬合。對(duì)于輔助變量較多的情況，通常要借助機(jī)合。對(duì)于輔助變量較多的情況，通常要借助機(jī)理分析，首先獲得模型各變量組合的大致框架，理分析，首先獲得模型各變量組合的大致框架，然后再采用逐步回歸方法獲得軟測(cè)量模型。為然后再采用逐步回歸方法獲得軟測(cè)量模型。為簡(jiǎn)化模型，也可采用主元回歸分析法和部分最簡(jiǎn)化模型，也可采用主元回歸分析法和部分最小二乘回歸法等方法。小二乘回歸法等方法。 基于回歸分析的軟測(cè)量建模方法簡(jiǎn)單實(shí)用，但基于回歸分析的軟測(cè)量建模方法簡(jiǎn)單實(shí)用，但

11、需要足夠有效的樣本數(shù)據(jù)，對(duì)測(cè)量誤差較為敏需要足夠有效的樣本數(shù)據(jù)，對(duì)測(cè)量誤差較為敏感。感。第12頁/共113頁基于狀態(tài)估計(jì)的軟測(cè)量方法 基于某種算法和規(guī)律，基于某種算法和規(guī)律， 從已知的知識(shí)或數(shù)據(jù)出發(fā)，估計(jì)出過程未知結(jié)構(gòu)和結(jié)構(gòu)參數(shù)、從已知的知識(shí)或數(shù)據(jù)出發(fā)，估計(jì)出過程未知結(jié)構(gòu)和結(jié)構(gòu)參數(shù)、 過程參數(shù)。對(duì)于數(shù)過程參數(shù)。對(duì)于數(shù)學(xué)模型已知的過程或?qū)ο螅谶B續(xù)時(shí)間過程中，從某一時(shí)刻的已知狀態(tài)學(xué)模型已知的過程或?qū)ο螅谶B續(xù)時(shí)間過程中，從某一時(shí)刻的已知狀態(tài)y(k)估計(jì)出該時(shí)刻或下一時(shí)刻的未估計(jì)出該時(shí)刻或下一時(shí)刻的未知狀態(tài)知狀態(tài)x(k)的過程就是狀態(tài)估計(jì)。如果系統(tǒng)的主導(dǎo)變量作為系統(tǒng)的狀態(tài)變量關(guān)于輔助變量是完全可觀

12、的，的過程就是狀態(tài)估計(jì)。如果系統(tǒng)的主導(dǎo)變量作為系統(tǒng)的狀態(tài)變量關(guān)于輔助變量是完全可觀的，那么軟測(cè)量問題就轉(zhuǎn)化為典型的狀態(tài)觀測(cè)和狀態(tài)估計(jì)問題。那么軟測(cè)量問題就轉(zhuǎn)化為典型的狀態(tài)觀測(cè)和狀態(tài)估計(jì)問題。第13頁/共113頁基于狀態(tài)估計(jì)的軟測(cè)量方法 采用采用Kalman濾波器和濾波器和Luenberger觀測(cè)器是解決問題的有效方法。前者適用于白色或靜態(tài)有色噪聲的過觀測(cè)器是解決問題的有效方法。前者適用于白色或靜態(tài)有色噪聲的過程，而后者則適用于觀測(cè)值無噪聲且所有過程輸入均已知的情況。程，而后者則適用于觀測(cè)值無噪聲且所有過程輸入均已知的情況。第14頁/共113頁基于知識(shí)的軟測(cè)量方法 基于人工神經(jīng)網(wǎng)絡(luò)的軟測(cè)量建模方

13、法是近年來研究最多、發(fā)展很快和應(yīng)用范圍很廣的一種軟測(cè)量建模方法。基于人工神經(jīng)網(wǎng)絡(luò)的軟測(cè)量建模方法是近年來研究最多、發(fā)展很快和應(yīng)用范圍很廣的一種軟測(cè)量建模方法。由于能適用于高度非線性和嚴(yán)重不確定性系統(tǒng)，因此它為解決復(fù)雜系統(tǒng)過程參數(shù)的軟測(cè)量問題提供了一條由于能適用于高度非線性和嚴(yán)重不確定性系統(tǒng)，因此它為解決復(fù)雜系統(tǒng)過程參數(shù)的軟測(cè)量問題提供了一條有效途徑。有效途徑。第15頁/共113頁基于知識(shí)的軟測(cè)量方法 基于模糊數(shù)學(xué)的軟測(cè)量模型也是一種知識(shí)性模型。該方法特別適合應(yīng)用于復(fù)雜工業(yè)過程中被測(cè)對(duì)象呈現(xiàn)亦基于模糊數(shù)學(xué)的軟測(cè)量模型也是一種知識(shí)性模型。該方法特別適合應(yīng)用于復(fù)雜工業(yè)過程中被測(cè)對(duì)象呈現(xiàn)亦此亦彼的不確

14、定性，且難以用常規(guī)數(shù)學(xué)定量描述的場(chǎng)合。實(shí)際應(yīng)用中常將模糊技術(shù)和其他人工智能技術(shù)相此亦彼的不確定性，且難以用常規(guī)數(shù)學(xué)定量描述的場(chǎng)合。實(shí)際應(yīng)用中常將模糊技術(shù)和其他人工智能技術(shù)相結(jié)合，例如將模糊數(shù)學(xué)和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合構(gòu)成模糊神經(jīng)網(wǎng)絡(luò)，將模糊數(shù)學(xué)和模式識(shí)別相結(jié)合構(gòu)成模糊結(jié)合，例如將模糊數(shù)學(xué)和人工神經(jīng)網(wǎng)絡(luò)相結(jié)合構(gòu)成模糊神經(jīng)網(wǎng)絡(luò)，將模糊數(shù)學(xué)和模式識(shí)別相結(jié)合構(gòu)成模糊模式識(shí)別，這樣可互相取長(zhǎng)補(bǔ)短，以提高軟儀表的效能。模式識(shí)別，這樣可互相取長(zhǎng)補(bǔ)短，以提高軟儀表的效能。第16頁/共113頁基于知識(shí)的軟測(cè)量方法 基于模式識(shí)別的軟測(cè)量方法是采用模式識(shí)別的基于模式識(shí)別的軟測(cè)量方法是采用模式識(shí)別的方法對(duì)工業(yè)過程的操作數(shù)

15、據(jù)進(jìn)行處理，從中提方法對(duì)工業(yè)過程的操作數(shù)據(jù)進(jìn)行處理，從中提取系統(tǒng)的特征，構(gòu)成以模式描述分類為基礎(chǔ)的取系統(tǒng)的特征，構(gòu)成以模式描述分類為基礎(chǔ)的模式識(shí)別模型。基于模式識(shí)別方法建立的軟測(cè)模式識(shí)別模型。基于模式識(shí)別方法建立的軟測(cè)量模型與傳統(tǒng)的數(shù)學(xué)模型不同，它是一種以系量模型與傳統(tǒng)的數(shù)學(xué)模型不同，它是一種以系統(tǒng)的輸入、輸出數(shù)據(jù)為基礎(chǔ)，通過對(duì)系統(tǒng)特征統(tǒng)的輸入、輸出數(shù)據(jù)為基礎(chǔ)，通過對(duì)系統(tǒng)特征提取而構(gòu)成的模式描述模型。該方法的優(yōu)勢(shì)在提取而構(gòu)成的模式描述模型。該方法的優(yōu)勢(shì)在于它適用于缺乏系統(tǒng)先驗(yàn)知識(shí)的場(chǎng)合，可利用于它適用于缺乏系統(tǒng)先驗(yàn)知識(shí)的場(chǎng)合，可利用日常操作數(shù)據(jù)來實(shí)現(xiàn)軟測(cè)量建模。在實(shí)際應(yīng)用日常操作數(shù)據(jù)來實(shí)現(xiàn)軟測(cè)

16、量建模。在實(shí)際應(yīng)用中，這種軟測(cè)量建模方法常常和人工神經(jīng)網(wǎng)絡(luò)中，這種軟測(cè)量建模方法常常和人工神經(jīng)網(wǎng)絡(luò)以及模糊技術(shù)等結(jié)合在一起使用。以及模糊技術(shù)等結(jié)合在一起使用。第17頁/共113頁基于知識(shí)的軟測(cè)量方法 基于現(xiàn)代優(yōu)化算法的軟測(cè)量是利用易測(cè)過程信息（輔助變量，它通常是一種隨機(jī)信號(hào)），采用先進(jìn)的信息基于現(xiàn)代優(yōu)化算法的軟測(cè)量是利用易測(cè)過程信息（輔助變量，它通常是一種隨機(jī)信號(hào)），采用先進(jìn)的信息優(yōu)化處理技術(shù)，通過對(duì)所獲信息的分析處理提取信號(hào)特征量，從而實(shí)現(xiàn)某一參數(shù)的在線檢測(cè)或過程的狀態(tài)優(yōu)化處理技術(shù)，通過對(duì)所獲信息的分析處理提取信號(hào)特征量，從而實(shí)現(xiàn)某一參數(shù)的在線檢測(cè)或過程的狀態(tài)識(shí)別。識(shí)別。第18頁/共113頁

17、軟測(cè)量的實(shí)施 對(duì)于大型工業(yè)生產(chǎn)裝置，軟測(cè)量通常是在生產(chǎn)裝置現(xiàn)對(duì)于大型工業(yè)生產(chǎn)裝置，軟測(cè)量通常是在生產(chǎn)裝置現(xiàn)有的軟、硬件平臺(tái)上實(shí)施，一般包含如下基本功能塊：有的軟、硬件平臺(tái)上實(shí)施，一般包含如下基本功能塊： 實(shí)時(shí)數(shù)據(jù)平臺(tái)：實(shí)時(shí)數(shù)據(jù)平臺(tái)：實(shí)現(xiàn)各模塊與生產(chǎn)過程交換實(shí)時(shí)實(shí)現(xiàn)各模塊與生產(chǎn)過程交換實(shí)時(shí)數(shù)據(jù)及模塊間的快速交換數(shù)據(jù)及模塊間的快速交換 I/O接口：接口：負(fù)責(zé)過程數(shù)據(jù)的采集和軟測(cè)量計(jì)算結(jié)負(fù)責(zé)過程數(shù)據(jù)的采集和軟測(cè)量計(jì)算結(jié)果的輸出果的輸出 故障診斷和數(shù)據(jù)處理：故障診斷和數(shù)據(jù)處理：對(duì)過程數(shù)據(jù)進(jìn)行故障診斷對(duì)過程數(shù)據(jù)進(jìn)行故障診斷和所需的數(shù)據(jù)處理，為軟測(cè)量的實(shí)時(shí)計(jì)算模塊提供數(shù)和所需的數(shù)據(jù)處理，為軟測(cè)量的實(shí)時(shí)計(jì)算

18、模塊提供數(shù)據(jù)以及必要的信息據(jù)以及必要的信息 監(jiān)視和整定：監(jiān)視和整定：提供給工程師或操作員的界面，給提供給工程師或操作員的界面，給工程師提供維護(hù)的接口，可以對(duì)軟測(cè)量進(jìn)行監(jiān)控、模工程師提供維護(hù)的接口，可以對(duì)軟測(cè)量進(jìn)行監(jiān)控、模型調(diào)整、參數(shù)設(shè)置、命令選擇等型調(diào)整、參數(shù)設(shè)置、命令選擇等 第19頁/共113頁軟測(cè)量的工業(yè)應(yīng)用 由于軟儀表可以像常規(guī)過程檢測(cè)儀表一樣為控制系統(tǒng)由于軟儀表可以像常規(guī)過程檢測(cè)儀表一樣為控制系統(tǒng)提供過程信息，因此軟測(cè)量技術(shù)目前已經(jīng)在過程控制提供過程信息，因此軟測(cè)量技術(shù)目前已經(jīng)在過程控制領(lǐng)域得到了廣泛應(yīng)用，下圖概況地表示了軟測(cè)量技術(shù)領(lǐng)域得到了廣泛應(yīng)用，下圖概況地表示了軟測(cè)量技術(shù)在過程控

19、制系統(tǒng)中的應(yīng)用：在過程控制系統(tǒng)中的應(yīng)用：第20頁/共113頁軟測(cè)量的工業(yè)應(yīng)用 過程操作和監(jiān)控：過程操作和監(jiān)控： 軟儀表實(shí)現(xiàn)成分、物性等特殊變量的在線軟儀表實(shí)現(xiàn)成分、物性等特殊變量的在線測(cè)量，而這些變量往往對(duì)過程評(píng)估和質(zhì)量非常測(cè)量，而這些變量往往對(duì)過程評(píng)估和質(zhì)量非常重要。沒有儀表的時(shí)候，操作人員要主動(dòng)收集重要。沒有儀表的時(shí)候，操作人員要主動(dòng)收集溫度、壓力等過程信息，經(jīng)過頭腦中經(jīng)驗(yàn)的綜溫度、壓力等過程信息，經(jīng)過頭腦中經(jīng)驗(yàn)的綜合，對(duì)生產(chǎn)情況進(jìn)行判斷和估算。合，對(duì)生產(chǎn)情況進(jìn)行判斷和估算。 有了軟儀表，軟件就部分地代替了人腦有了軟儀表，軟件就部分地代替了人腦的工作，提供更直觀的過程信息，并預(yù)測(cè)未來的工作

20、，提供更直觀的過程信息，并預(yù)測(cè)未來工況的變化，從而可以幫助操作人員及時(shí)調(diào)整工況的變化，從而可以幫助操作人員及時(shí)調(diào)整生產(chǎn)條件，達(dá)到生產(chǎn)目標(biāo)。生產(chǎn)條件，達(dá)到生產(chǎn)目標(biāo)。第21頁/共113頁軟測(cè)量的工業(yè)應(yīng)用過程控制：可以構(gòu)成推斷控制可以構(gòu)成推斷控制 推斷控制：利用模型由可測(cè)信息將不可測(cè)推斷控制：利用模型由可測(cè)信息將不可測(cè)的被控輸出變量推算出來，以實(shí)現(xiàn)反饋控制，的被控輸出變量推算出來，以實(shí)現(xiàn)反饋控制，或者將不可測(cè)的擾動(dòng)推算出來，以實(shí)現(xiàn)前饋控或者將不可測(cè)的擾動(dòng)推算出來，以實(shí)現(xiàn)前饋控制的一類控制系統(tǒng)制的一類控制系統(tǒng)。 第22頁/共113頁軟測(cè)量的工業(yè)應(yīng)用 過程優(yōu)化： 軟測(cè)量為過程優(yōu)化提供重要的調(diào)優(yōu)變量估軟測(cè)

21、量為過程優(yōu)化提供重要的調(diào)優(yōu)變量估計(jì)，成為優(yōu)化模型的一部分；計(jì)，成為優(yōu)化模型的一部分； 軟測(cè)量本身就是重要的優(yōu)化目標(biāo)，如質(zhì)量軟測(cè)量本身就是重要的優(yōu)化目標(biāo)，如質(zhì)量等，直接作為優(yōu)化模型使用。等，直接作為優(yōu)化模型使用。 根據(jù)不同的優(yōu)化模型，按照一定的優(yōu)化目根據(jù)不同的優(yōu)化模型，按照一定的優(yōu)化目標(biāo)，采取相應(yīng)的優(yōu)化方法，在線求出最佳操作標(biāo)，采取相應(yīng)的優(yōu)化方法，在線求出最佳操作參數(shù)條件，使系統(tǒng)運(yùn)行在最優(yōu)工作點(diǎn)處，實(shí)現(xiàn)參數(shù)條件，使系統(tǒng)運(yùn)行在最優(yōu)工作點(diǎn)處，實(shí)現(xiàn)自適應(yīng)優(yōu)化控制。自適應(yīng)優(yōu)化控制。第23頁/共113頁多元統(tǒng)計(jì)回歸分析 回歸分析：回歸分析：對(duì)具有相關(guān)關(guān)系的兩個(gè)或兩個(gè)以上變量之間數(shù)量變化的一般關(guān)系進(jìn)行測(cè)定，

22、確立一個(gè)相應(yīng)的數(shù)學(xué)表達(dá)式，以便從一個(gè)已知量來推測(cè)另一個(gè)未知量，為估算預(yù)測(cè)提供一個(gè)重要的方法。 回歸的種類：回歸的種類： 按自變量的個(gè)數(shù)分：一元回歸、多元回歸 按回歸線的形狀分：線性回歸、非線性回歸第24頁/共113頁多元線性回歸 一元回歸分析：一元回歸分析：研究的是兩個(gè)變量研究的是兩個(gè)變量x和和y之間的之間的相關(guān)關(guān)系，相關(guān)關(guān)系， 其中其中x、y都是隨機(jī)變量。都是隨機(jī)變量。 多元線性回歸分析：多元線性回歸分析：假設(shè)假設(shè)p個(gè)自變量為個(gè)自變量為xi (i=1, 2, , p)，因變量為，因變量為y，y可表示為自變量可表示為自變量xi的的線性組合，即：線性組合，即： 01 122.ppyxxxi待定的

23、回歸系數(shù)待定的回歸系數(shù)2(0,)N服從正態(tài)分布的測(cè)量誤差服從正態(tài)分布的測(cè)量誤差第25頁/共113頁 回歸函數(shù)系數(shù)的確定 多元線性回歸的目的多元線性回歸的目的就是通過自變量的就是通過自變量的n組測(cè)組測(cè)量估計(jì)出回歸系數(shù)量估計(jì)出回歸系數(shù) 。 用于建立軟測(cè)量模型時(shí)，將用于建立軟測(cè)量模型時(shí)，將p個(gè)自變量作為輔個(gè)自變量作為輔助變量，因變量助變量，因變量y為待測(cè)主導(dǎo)變量，呈上式表為待測(cè)主導(dǎo)變量，呈上式表示的線性關(guān)系，采用多元線性回歸估計(jì)出回歸示的線性關(guān)系，采用多元線性回歸估計(jì)出回歸系數(shù)系數(shù) ，建立線性回歸模型，并基于該軟測(cè)量，建立線性回歸模型，并基于該軟測(cè)量模型實(shí)現(xiàn)待測(cè)主導(dǎo)變量模型實(shí)現(xiàn)待測(cè)主導(dǎo)變量y的估計(jì)。

24、的估計(jì)。ii第26頁/共113頁回歸函數(shù)系數(shù)的確定 多元線性回歸的數(shù)學(xué)模型用矩陣表示為：多元線性回歸的數(shù)學(xué)模型用矩陣表示為：11121011121222221211(1) 1(1)11.1ppnnpnnnpnnpnpYXExxxyxxxyYXEyxxx 第27頁/共113頁回歸函數(shù)系數(shù)的確定 根據(jù)最小二乘估計(jì)原理，根據(jù)最小二乘估計(jì)原理， 的最小二乘估計(jì)值為：的最小二乘估計(jì)值為： 則得線性回歸方程（軟測(cè)量模型）為：則得線性回歸方程（軟測(cè)量模型）為：1()TTX XX Y01 1.ppyxx第28頁/共113頁主元分析和主元回歸 在研究工業(yè)過程時(shí)，為了全面了解和分析問題，在研究工業(yè)過程時(shí)，為了全面

25、了解和分析問題，通常記錄了許多與之有關(guān)的變量。這些變量雖然通常記錄了許多與之有關(guān)的變量。這些變量雖然不同程度的反映了過程的部分信息，但某些變量不同程度的反映了過程的部分信息，但某些變量之間可能存在相關(guān)性，即當(dāng)之間可能存在相關(guān)性，即當(dāng)X中存在線性相關(guān)的變中存在線性相關(guān)的變量時(shí)，量時(shí)， 不存在，不能采用多元線性回歸方不存在，不能采用多元線性回歸方法。若法。若X的變量接近線性關(guān)系，則多元線性回歸方的變量接近線性關(guān)系，則多元線性回歸方法計(jì)算不穩(wěn)定。為了解決線性回歸時(shí)由于數(shù)據(jù)共法計(jì)算不穩(wěn)定。為了解決線性回歸時(shí)由于數(shù)據(jù)共線性而導(dǎo)致病態(tài)協(xié)方差矩陣不可逆問題，以及在線性而導(dǎo)致病態(tài)協(xié)方差矩陣不可逆問題，以及在盡

26、可能保持原有信息的基礎(chǔ)上減少變量個(gè)數(shù)，簡(jiǎn)盡可能保持原有信息的基礎(chǔ)上減少變量個(gè)數(shù)，簡(jiǎn)化建模，可以采用統(tǒng)計(jì)學(xué)中的主元分析和主元回化建模，可以采用統(tǒng)計(jì)學(xué)中的主元分析和主元回歸方法。歸方法。1()TX X第29頁/共113頁主元分析和主元回歸 主元回歸方法主元回歸方法是基于對(duì)數(shù)據(jù)矩陣是基于對(duì)數(shù)據(jù)矩陣X所進(jìn)行的主所進(jìn)行的主元分析，其元分析，其基本思想基本思想是：先運(yùn)用主元分析從數(shù)是：先運(yùn)用主元分析從數(shù)據(jù)矩陣據(jù)矩陣X中提取主元，他們是原有變量的線性中提取主元，他們是原有變量的線性組合，且彼此相交，其中前組合，且彼此相交，其中前k個(gè)主元在滿足正個(gè)主元在滿足正交約束的條件下，已包含了絕大部分信息量，交約束的條

27、件下，已包含了絕大部分信息量，而剩下的那些主元基本上不含有多少有用的信而剩下的那些主元基本上不含有多少有用的信息，將這些剩下的主元略去，可以消除多元線息，將這些剩下的主元略去，可以消除多元線性回歸存在的問題，并使模型降階。然后，采性回歸存在的問題，并使模型降階。然后，采用前用前k個(gè)主元作為新的自變量進(jìn)行回歸，獲得個(gè)主元作為新的自變量進(jìn)行回歸，獲得新的回歸模型。新的回歸模型。 第30頁/共113頁主元分析和主元回歸 對(duì)多元線性回歸模型對(duì)多元線性回歸模型 假設(shè)輸入數(shù)據(jù)矩陣假設(shè)輸入數(shù)據(jù)矩陣X（mn維）已列零均值化或標(biāo)維）已列零均值化或標(biāo)準(zhǔn)化，定義準(zhǔn)化，定義X的協(xié)方差矩陣為的協(xié)方差矩陣為: 對(duì)其進(jìn)行正

28、交分解對(duì)其進(jìn)行正交分解 其中其中 是是 的的m個(gè)個(gè)特征值按特征值按降序排列構(gòu)成的對(duì)角矩陣（降序排列構(gòu)成的對(duì)角矩陣（ ）；）； 是特征矩陣，由與特征值相對(duì)應(yīng)的特征向量組成是特征矩陣，由與特征值相對(duì)應(yīng)的特征向量組成 YXE()1TX Xcov Xm()Tmmcov XP DP12(,)mDdiag ()cov X12,mmPp pp12m第31頁/共113頁主元分析和主元回歸 定義定義 為第為第k個(gè)主元的方差貢獻(xiàn)率，個(gè)主元的方差貢獻(xiàn)率， 為前為前k個(gè)主元的累積方差貢獻(xiàn)率。根據(jù)累積方差貢個(gè)主元的累積方差貢獻(xiàn)率。根據(jù)累積方差貢獻(xiàn)率（一般選取獻(xiàn)率（一般選取85%）或通過交叉校驗(yàn)決定主元個(gè)或通過交叉校驗(yàn)決

29、定主元個(gè)數(shù)。如選擇前數(shù)。如選擇前k個(gè)個(gè)主元，對(duì)主元，對(duì)X進(jìn)行正交分解：進(jìn)行正交分解： 其中其中T是主元矩陣（或評(píng)分矩陣、投影矩陣），其元是主元矩陣（或評(píng)分矩陣、投影矩陣），其元素稱為主元向量；素稱為主元向量；P是負(fù)載矩陣，其元素稱為負(fù)載向是負(fù)載矩陣，其元素稱為負(fù)載向量量 11()mkiikTXP111()kmijij1212 , ,TkkkppXTPt ttp第32頁/共113頁主元分析和主元回歸 根據(jù)上式，可得主元回歸方程：根據(jù)上式，可得主元回歸方程： 基于最小二乘估計(jì)可得基于最小二乘估計(jì)可得B的估計(jì)值為：的估計(jì)值為： 由于由于 可得采用原多元線性回歸方程形式的回歸系數(shù)估計(jì)可得采用原多元線性

30、回歸方程形式的回歸系數(shù)估計(jì)為：為： TkYTPETBE1()TTBT TT YTkPB1()TTkP T TT Y第33頁/共113頁主元分析和主元回歸 說明：說明：對(duì)矩陣對(duì)矩陣X進(jìn)行主元分解，本質(zhì)上是對(duì)矩陣進(jìn)行主元分解，本質(zhì)上是對(duì)矩陣 進(jìn)行特征向量分析。矩陣進(jìn)行特征向量分析。矩陣X的負(fù)載向量的負(fù)載向量pi實(shí)際上就是實(shí)際上就是矩陣矩陣A的特征向量，將矩陣的特征向量，將矩陣A的特征值按從大到小順序的特征值按從大到小順序排列，排列， ，這些特征值對(duì)應(yīng)的特征向量即，這些特征值對(duì)應(yīng)的特征向量即為矩陣為矩陣X的負(fù)載向量的負(fù)載向量pi 。若原自變量間存在復(fù)共線性，。若原自變量間存在復(fù)共線性，則矩陣則矩陣A

31、的第的第k個(gè)以后的特征值個(gè)以后的特征值 已接近于已接近于0，第，第k個(gè)以后的主元向量個(gè)以后的主元向量 的取值也幾乎為的取值也幾乎為0，去掉這些向量對(duì)信息的損失很小，并同時(shí)消除了，去掉這些向量對(duì)信息的損失很小，并同時(shí)消除了復(fù)共線性的影響。由于一般復(fù)共線性的影響。由于一般k遠(yuǎn)小于遠(yuǎn)小于m，主元回歸實(shí)，主元回歸實(shí)際上實(shí)現(xiàn)了際上實(shí)現(xiàn)了 的線性變換的線性變換TAX X12m1,km1,kmttmkRR第34頁/共113頁主元分析和主元回歸 算法步驟：算法步驟： （1）數(shù)據(jù)預(yù)處理，對(duì)）數(shù)據(jù)預(yù)處理，對(duì)X、Y按列標(biāo)準(zhǔn)化按列標(biāo)準(zhǔn)化 （2）求相關(guān)矩陣）求相關(guān)矩陣R （3）求）求R的特征值和特征向量的特征值和特征向

32、量P （4）根據(jù)特征值從大到小重新排列特征值和特征向）根據(jù)特征值從大到小重新排列特征值和特征向量量P （5）計(jì)算主元貢獻(xiàn)率）計(jì)算主元貢獻(xiàn)率 （6）計(jì)算累積主元貢獻(xiàn)率，當(dāng)其大于）計(jì)算累積主元貢獻(xiàn)率，當(dāng)其大于85%，記錄主，記錄主元個(gè)數(shù)元個(gè)數(shù)k （7）計(jì)算主元矩陣）計(jì)算主元矩陣 （8）計(jì)算回歸）計(jì)算回歸系數(shù)系數(shù)1()TTkP T TT YkTXP第35頁/共113頁系統(tǒng)辨識(shí)方法 系統(tǒng)辨識(shí)的定義系統(tǒng)辨識(shí)的定義： 系統(tǒng)辨識(shí)就是在輸入輸出數(shù)據(jù)的基礎(chǔ)上，從給定系統(tǒng)辨識(shí)就是在輸入輸出數(shù)據(jù)的基礎(chǔ)上，從給定的模型類中確定一個(gè)與所測(cè)系統(tǒng)等價(jià)的模型的模型類中確定一個(gè)與所測(cè)系統(tǒng)等價(jià)的模型 該定義明確了系統(tǒng)辨識(shí)三要素：

33、該定義明確了系統(tǒng)辨識(shí)三要素： - 輸入和輸出數(shù)據(jù)輸入和輸出數(shù)據(jù) 基礎(chǔ)基礎(chǔ) - 模型類模型類 尋找模型的范圍尋找模型的范圍 - 等價(jià)準(zhǔn)則等價(jià)準(zhǔn)則 優(yōu)化目標(biāo)優(yōu)化目標(biāo) 系統(tǒng)辨識(shí)的實(shí)質(zhì)就是從一組模型類中選擇一個(gè)模型，按照某種準(zhǔn)則，使之能最好地?cái)M合所關(guān)心的實(shí)際過程的動(dòng)態(tài)特性第36頁/共113頁系統(tǒng)辨識(shí)的步驟 系統(tǒng)辨識(shí)的步驟系統(tǒng)辨識(shí)的步驟：第37頁/共113頁系統(tǒng)辨識(shí)的步驟 系統(tǒng)辨識(shí)的框圖系統(tǒng)辨識(shí)的框圖：第38頁/共113頁系統(tǒng)辨識(shí)方法分類 非參數(shù)模型的辨識(shí)和參數(shù)模型的辨識(shí)：非參數(shù)模型的辨識(shí)和參數(shù)模型的辨識(shí)： 非參數(shù)模型的辨識(shí)方法也稱為經(jīng)典辨識(shí)方法，這類辨識(shí)方法獲得的模型是非參數(shù)模型，它在假定被辨識(shí)系統(tǒng)是

34、線性的前提下，通過對(duì)其施加特定的輸入信號(hào)，測(cè)定其相應(yīng)的輸出響應(yīng)，以求得被辨識(shí)系統(tǒng)的非參數(shù)模型，然后經(jīng)過適當(dāng)?shù)臄?shù)學(xué)處理，轉(zhuǎn)化為系統(tǒng)的參數(shù)模型傳遞函數(shù)。主要的方法有：脈沖響應(yīng)法、階躍響應(yīng)法、頻率響應(yīng)法、相關(guān)分析法和譜分析法等。 第39頁/共113頁系統(tǒng)辨識(shí)方法分類 參數(shù)模型的辨識(shí)方法也稱為現(xiàn)代辨識(shí)方法，這類辨識(shí)方法必須事先假定一種模型結(jié)構(gòu)，通過極小化模型與系統(tǒng)之間的誤差準(zhǔn)則來估計(jì)模型的參數(shù)。如果模型結(jié)構(gòu)事先無法確定，則必須利用模型結(jié)構(gòu)辨識(shí)方法首先確定模型的結(jié)構(gòu)參數(shù)（如階次、純延遲等），然后再進(jìn)一步估計(jì)其參數(shù)。主要的方法有：最小二乘法、極大似然法、預(yù)報(bào)誤差法等。第40頁/共113頁系統(tǒng)辨識(shí)方法分類

35、不同辨識(shí)目的對(duì)模型和辨識(shí)的要求：不同辨識(shí)目的對(duì)模型和辨識(shí)的要求： 第41頁/共113頁數(shù)學(xué)模型的分類 數(shù)學(xué)模型的分類方法有很多，通過對(duì)數(shù)學(xué)模型的分類，數(shù)學(xué)模型的分類方法有很多，通過對(duì)數(shù)學(xué)模型的分類，有助于按照具體的應(yīng)用目的確定一個(gè)合適的模型：有助于按照具體的應(yīng)用目的確定一個(gè)合適的模型： 從概率的角度分：確定性模型、隨機(jī)性模型從概率的角度分：確定性模型、隨機(jī)性模型 按模型與時(shí)間的關(guān)系分：靜態(tài)模型、動(dòng)態(tài)模型按模型與時(shí)間的關(guān)系分：靜態(tài)模型、動(dòng)態(tài)模型 按時(shí)間刻度分：連續(xù)時(shí)間模型、離散時(shí)間模型按時(shí)間刻度分：連續(xù)時(shí)間模型、離散時(shí)間模型 按參數(shù)與時(shí)間的關(guān)系分：定常模型、時(shí)變模型按參數(shù)與時(shí)間的關(guān)系分：定常模型

36、、時(shí)變模型 按參數(shù)與輸入輸出的關(guān)系分：線性模型、非線性按參數(shù)與輸入輸出的關(guān)系分：線性模型、非線性模型模型 按模型的表達(dá)形式分：參數(shù)模型、非參數(shù)模型按模型的表達(dá)形式分：參數(shù)模型、非參數(shù)模型 按參數(shù)的性質(zhì)分：集中參數(shù)模型、分布參數(shù)模型按參數(shù)的性質(zhì)分：集中參數(shù)模型、分布參數(shù)模型 按輸入輸出個(gè)數(shù)分：按輸入輸出個(gè)數(shù)分：SISO模型、模型、MIMO模型模型第42頁/共113頁數(shù)學(xué)模型的分類 離散時(shí)間系統(tǒng)的數(shù)學(xué)模型：離散時(shí)間系統(tǒng)的數(shù)學(xué)模型： 動(dòng)態(tài)的離散系統(tǒng)輸入、輸出采樣值序列u(k)和y(k)之間的關(guān)系可以表示成如下的n階線性差分方程： 也稱為自回歸滑動(dòng)也稱為自回歸滑動(dòng)平均平均（Auto-regressiv

37、e moving average）模型，簡(jiǎn)稱）模型，簡(jiǎn)稱ARMA模型模型 對(duì)上式進(jìn)行對(duì)上式進(jìn)行Z變換，在零初始條件下輸出變量的變換，在零初始條件下輸出變量的Z變變換對(duì)輸入變量的換對(duì)輸入變量的Z變換之比，就是該離散系統(tǒng)的脈沖傳變換之比，就是該離散系統(tǒng)的脈沖傳遞函數(shù)：遞函數(shù)：第43頁/共113頁數(shù)學(xué)模型的分類 離散時(shí)間系統(tǒng)的數(shù)學(xué)模型：離散時(shí)間系統(tǒng)的數(shù)學(xué)模型： 記： 則：則： 對(duì)隨機(jī)系統(tǒng)，考慮噪聲的影響，則有：對(duì)隨機(jī)系統(tǒng)，考慮噪聲的影響，則有： 其中其中e(k)為噪聲項(xiàng)。為噪聲項(xiàng)。第44頁/共113頁數(shù)學(xué)模型的分類 離散時(shí)間系統(tǒng)的數(shù)學(xué)模型：離散時(shí)間系統(tǒng)的數(shù)學(xué)模型： 根據(jù)噪聲的情況，模型可分為如下幾種

38、： （1）MA模型模型 （2）AR模型模型 （3）ARMA模型模型上式總稱為上式總稱為ARMAX模型，也稱為模型，也稱為CARMA模型（帶控模型（帶控制量的制量的ARMA模型）模型）第45頁/共113頁最小二乘法 最小二乘法是數(shù)學(xué)家高斯于最小二乘法是數(shù)學(xué)家高斯于1795年首先提出的，當(dāng)年首先提出的，當(dāng)時(shí)高斯是利用它來確定行星的軌道參數(shù)。高斯提出：時(shí)高斯是利用它來確定行星的軌道參數(shù)。高斯提出：未知量的最大可能的值是這樣一個(gè)數(shù)值，它使各次未知量的最大可能的值是這樣一個(gè)數(shù)值，它使各次實(shí)際觀測(cè)和計(jì)算值之間的差值的平方乘以度量其精實(shí)際觀測(cè)和計(jì)算值之間的差值的平方乘以度量其精確度的數(shù)值以后的和為最小。這一

39、估計(jì)方法的特點(diǎn)確度的數(shù)值以后的和為最小。這一估計(jì)方法的特點(diǎn)是計(jì)算原理簡(jiǎn)單。此后，最小二乘法被用來解決許是計(jì)算原理簡(jiǎn)單。此后，最小二乘法被用來解決許多技術(shù)問題。針對(duì)它的各種應(yīng)用場(chǎng)合，提出了相應(yīng)多技術(shù)問題。針對(duì)它的各種應(yīng)用場(chǎng)合，提出了相應(yīng)的數(shù)值計(jì)算方法。根據(jù)各種特定的要求，對(duì)最小二的數(shù)值計(jì)算方法。根據(jù)各種特定的要求，對(duì)最小二乘法本身也進(jìn)行了修正和改進(jìn)。乘法本身也進(jìn)行了修正和改進(jìn)。第46頁/共113頁最小二乘法 在辨識(shí)和參數(shù)估計(jì)領(lǐng)域，最小二乘法已經(jīng)是一種基本的重要估計(jì)方法。它既可以用于動(dòng)態(tài)系統(tǒng)也可用于靜在辨識(shí)和參數(shù)估計(jì)領(lǐng)域，最小二乘法已經(jīng)是一種基本的重要估計(jì)方法。它既可以用于動(dòng)態(tài)系統(tǒng)也可用于靜態(tài)系統(tǒng)

40、，既可用于線性系統(tǒng)也可用于非線性系統(tǒng)，既可用于離線估計(jì)也可用于在線估計(jì)，既可用于參數(shù)模態(tài)系統(tǒng)，既可用于線性系統(tǒng)也可用于非線性系統(tǒng)，既可用于離線估計(jì)也可用于在線估計(jì)，既可用于參數(shù)模型的辨識(shí)也可用于非參數(shù)模型的辨識(shí)。型的辨識(shí)也可用于非參數(shù)模型的辨識(shí)。第47頁/共113頁一般最小二乘法 辨識(shí)問題的提法：辨識(shí)問題的提法： 設(shè)被辨識(shí)系統(tǒng)的數(shù)學(xué)模型為：設(shè)被辨識(shí)系統(tǒng)的數(shù)學(xué)模型為：記記考慮到噪聲的影響，有：考慮到噪聲的影響，有：辨識(shí)問題就是已知系統(tǒng)階數(shù)辨識(shí)問題就是已知系統(tǒng)階數(shù)n和和L組輸入輸出觀測(cè)數(shù)據(jù)組輸入輸出觀測(cè)數(shù)據(jù)u(k), y(k) (k=1,2,L)的情況下，估計(jì)的情況下，估計(jì)A(z-1), B(z-

41、1)的系數(shù)使的系數(shù)使 最小。最小。21( )Lie k第48頁/共113頁一般最小二乘法 最小二乘求解：最小二乘求解： 將模型寫成最小二乘的形式：將模型寫成最小二乘的形式： 其中：其中： 令令 ，共，共N次觀測(cè)，可得矩次觀測(cè)，可得矩陣形式如下：陣形式如下： 其中其中第49頁/共113頁一般最小二乘法 最小二乘求解：最小二乘求解： 引入最小二乘準(zhǔn)則：引入最小二乘準(zhǔn)則： 其中：其中： 稱為模型殘差或方程誤差。稱為模型殘差或方程誤差。 可見，模型殘差包含兩個(gè)誤差因素：一是參數(shù)估計(jì)帶可見，模型殘差包含兩個(gè)誤差因素：一是參數(shù)估計(jì)帶來的擬合誤差；二是隨機(jī)噪聲帶來的誤差來的擬合誤差；二是隨機(jī)噪聲帶來的誤差第

42、50頁/共113頁一般最小二乘法 最小二乘求解：最小二乘求解： 最小二乘估計(jì)是在殘差平方和準(zhǔn)則函數(shù)極小意思下的最小二乘估計(jì)是在殘差平方和準(zhǔn)則函數(shù)極小意思下的最優(yōu)估計(jì)，即按照準(zhǔn)則函數(shù)：最優(yōu)估計(jì)，即按照準(zhǔn)則函數(shù)： 來確定估計(jì)值來確定估計(jì)值 。求。求J對(duì)對(duì) 的偏導(dǎo)數(shù)并令其等于的偏導(dǎo)數(shù)并令其等于0，得：得： 即：即： 上式稱為正則方程，當(dāng)上式稱為正則方程，當(dāng) 非奇異時(shí)，可得最小非奇異時(shí)，可得最小二乘估計(jì)值：二乘估計(jì)值： 第51頁/共113頁加權(quán)最小二乘法 如果準(zhǔn)則函數(shù)取為加權(quán)函數(shù)，即：如果準(zhǔn)則函數(shù)取為加權(quán)函數(shù)，即： 其中其中 稱為加權(quán)因子，對(duì)所有的稱為加權(quán)因子，對(duì)所有的k， 都必須都必須是正數(shù)。是正數(shù)

43、。 極小化上述準(zhǔn)則得到的估計(jì)值稱為加權(quán)最小二乘估計(jì)：極小化上述準(zhǔn)則得到的估計(jì)值稱為加權(quán)最小二乘估計(jì)： 式中式中W為為 一對(duì)稱正定陣，若取一對(duì)稱正定陣，若取W = I，則，則 即最小二乘法是加權(quán)最小二乘法的一種特例。即最小二乘法是加權(quán)最小二乘法的一種特例。 第52頁/共113頁遞推最小二乘法 一次完成算法的缺陷：一次完成算法的缺陷： 矩陣矩陣 求逆的計(jì)算量大，存儲(chǔ)量也大求逆的計(jì)算量大，存儲(chǔ)量也大 每增加一次觀測(cè)量，都必須重新計(jì)算每增加一次觀測(cè)量，都必須重新計(jì)算 如果出現(xiàn)如果出現(xiàn)列相關(guān)，即不滿秩的情況，列相關(guān)，即不滿秩的情況， 為病為病態(tài)矩陣，則不能得到最小二乘估計(jì)值態(tài)矩陣，則不能得到最小二乘估計(jì)

44、值 解決這些問題的辦法是把它化成解決這些問題的辦法是把它化成遞推算法遞推算法，依觀測(cè)，依觀測(cè)次序的遞推算法就是每獲得一次新的觀測(cè)數(shù)據(jù)就修正次序的遞推算法就是每獲得一次新的觀測(cè)數(shù)據(jù)就修正一次參數(shù)估計(jì)值，新的估計(jì)值在老的估計(jì)值基礎(chǔ)上修一次參數(shù)估計(jì)值，新的估計(jì)值在老的估計(jì)值基礎(chǔ)上修正而成，這樣不僅無需矩陣求逆，減少計(jì)算量和存儲(chǔ)正而成，這樣不僅無需矩陣求逆，減少計(jì)算量和存儲(chǔ)量，而且可以實(shí)現(xiàn)在線辨識(shí)。量，而且可以實(shí)現(xiàn)在線辨識(shí)。第53頁/共113頁遞推最小二乘法 記記N次觀測(cè)數(shù)據(jù)組成的向量方程為：次觀測(cè)數(shù)據(jù)組成的向量方程為： 上式的最小二乘解為：上式的最小二乘解為： 記記 則：則： 如果再增加如果再增加1

45、組新的觀測(cè)值組新的觀測(cè)值 ，則又增，則又增加加1個(gè)方程，由個(gè)方程，由N+1個(gè)方程組成都向量方程為：個(gè)方程組成都向量方程為： 其中其中 第54頁/共113頁遞推最小二乘法 由此得到新的參數(shù)估計(jì)值：由此得到新的參數(shù)估計(jì)值： 式中：式中： 應(yīng)用矩陣求逆公式應(yīng)用矩陣求逆公式 可得可得 與與 的遞推關(guān)系如下：的遞推關(guān)系如下： 第55頁/共113頁遞推最小二乘法 由此得到：由此得到： 式中式中 為增益矩陣，記為為增益矩陣，記為 ，而，而 為預(yù)報(bào)誤差為預(yù)報(bào)誤差第56頁/共113頁 遞推最小二乘法 綜合上述推導(dǎo)，可得遞推最小二乘估計(jì)算法如下：綜合上述推導(dǎo)，可得遞推最小二乘估計(jì)算法如下： 遞推過程如下：遞推過程

46、如下： 第57頁/共113頁遞推最小二乘法 遞推算法的停機(jī)準(zhǔn)則可按下式選取：遞推算法的停機(jī)準(zhǔn)則可按下式選取： 式中式中 為參數(shù)向量為參數(shù)向量 的第的第i個(gè)元素在個(gè)元素在N+1次的遞推計(jì)算結(jié)果，次的遞推計(jì)算結(jié)果， 為給定的表示精度要求的某一正為給定的表示精度要求的某一正數(shù)。數(shù)。第58頁/共113頁最小二乘遺忘因子法 數(shù)據(jù)飽和現(xiàn)象：數(shù)據(jù)飽和現(xiàn)象： 所謂數(shù)據(jù)飽和現(xiàn)象，就是隨著時(shí)間的推移，采集的數(shù)所謂數(shù)據(jù)飽和現(xiàn)象，就是隨著時(shí)間的推移，采集的數(shù)據(jù)越來越多，新數(shù)據(jù)提供的信息被舊數(shù)據(jù)所淹沒。如果據(jù)越來越多，新數(shù)據(jù)提供的信息被舊數(shù)據(jù)所淹沒。如果辨識(shí)算法對(duì)新、舊數(shù)據(jù)給予相同的信度，則隨著從新數(shù)辨識(shí)算法對(duì)新、舊數(shù)

47、據(jù)給予相同的信度，則隨著從新數(shù)據(jù)中獲得的信息量下降，算法就會(huì)慢慢失去修正能力，據(jù)中獲得的信息量下降，算法就會(huì)慢慢失去修正能力，這時(shí)參數(shù)估計(jì)值可能還偏離真值較遠(yuǎn)就無法更新了。對(duì)這時(shí)參數(shù)估計(jì)值可能還偏離真值較遠(yuǎn)就無法更新了。對(duì)時(shí)變過程來說，它將導(dǎo)致參數(shù)估計(jì)值不能跟蹤時(shí)變參數(shù)時(shí)變過程來說，它將導(dǎo)致參數(shù)估計(jì)值不能跟蹤時(shí)變參數(shù)的變化。的變化。 這是因?yàn)檫@是因?yàn)镻0正定，而正定，而 即即 由此可知，由此可知，PN是遞減的正定陣。隨著遞推次數(shù)的增加，是遞減的正定陣。隨著遞推次數(shù)的增加，會(huì)導(dǎo)致會(huì)導(dǎo)致 ，所以增益陣，所以增益陣GN+1也將隨著也將隨著N的增加而逐漸趨于零向量，從而使的增加而逐漸趨于零向量，從而使

48、RLS算法失去修正能算法失去修正能力。力。第59頁/共113頁最小二乘遺忘因子法 遺忘因子法：遺忘因子法： 基本思想：對(duì)舊數(shù)據(jù)加上遺忘因子，按指數(shù)加權(quán)來使基本思想：對(duì)舊數(shù)據(jù)加上遺忘因子，按指數(shù)加權(quán)來使得舊數(shù)據(jù)的作用衰減。得舊數(shù)據(jù)的作用衰減。 最小二乘估計(jì)值為：最小二乘估計(jì)值為： 指標(biāo)函數(shù)為指標(biāo)函數(shù)為 新增觀測(cè)新增觀測(cè)yN+1之后的數(shù)據(jù)陣之后的數(shù)據(jù)陣 則加衰減因子則加衰減因子后的數(shù)據(jù)陣為后的數(shù)據(jù)陣為第60頁/共113頁最小二乘遺忘因子法 可得如下遞推公式：可得如下遞推公式：第61頁/共113頁最小二乘遺忘因子法 令令 稱為遺忘因子，遺忘因稱為遺忘因子，遺忘因子必須是接近于子必須是接近于1的正數(shù)，

49、通常選擇的正數(shù)，通常選擇 。遺忘因子法的遞推算法（遺忘因子法的遞推算法（RFF）可歸納為：）可歸納為：第62頁/共113頁基于參數(shù)辨識(shí)的軟測(cè)量基本原理 基于辨識(shí)的軟測(cè)量方法就是把軟測(cè)量轉(zhuǎn)化為對(duì)對(duì)象的基于辨識(shí)的軟測(cè)量方法就是把軟測(cè)量轉(zhuǎn)化為對(duì)對(duì)象的模型辨識(shí)，把可以獲知的參數(shù)作為輔助變量，在對(duì)象模型辨識(shí)，把可以獲知的參數(shù)作為輔助變量，在對(duì)象模型結(jié)構(gòu)已知的情況下，把對(duì)象模型參數(shù)作為主導(dǎo)變模型結(jié)構(gòu)已知的情況下，把對(duì)象模型參數(shù)作為主導(dǎo)變量，對(duì)其進(jìn)行參數(shù)辨識(shí)，辨識(shí)結(jié)果就是參數(shù)軟測(cè)量值。量，對(duì)其進(jìn)行參數(shù)辨識(shí)，辨識(shí)結(jié)果就是參數(shù)軟測(cè)量值。 假設(shè)過程數(shù)學(xué)模型為：假設(shè)過程數(shù)學(xué)模型為： 對(duì)于大多數(shù)過程模型，模型參數(shù)對(duì)于

50、大多數(shù)過程模型，模型參數(shù) 不一定有明確的物理意義，但是它們和特定的或難測(cè)不一定有明確的物理意義，但是它們和特定的或難測(cè)的物理參數(shù)有著一定的隱含關(guān)系，從而為軟測(cè)量提供的物理參數(shù)有著一定的隱含關(guān)系，從而為軟測(cè)量提供了間接途徑。了間接途徑。(1)( )(1)()101( )( ).( )( )( ).( )nmnmy ta yta ytb u tbutb ut1201,.,.,nma aa b bb第63頁/共113頁基本原理 設(shè)模型參數(shù)和物理參數(shù)的間接關(guān)系為：設(shè)模型參數(shù)和物理參數(shù)的間接關(guān)系為： 辨識(shí)獲得模型參數(shù)的估計(jì)值辨識(shí)獲得模型參數(shù)的估計(jì)值 ，求取對(duì)應(yīng)的被測(cè)參，求取對(duì)應(yīng)的被測(cè)參數(shù)數(shù) 。基本過程如

51、下圖所示：。基本過程如下圖所示：( )g p1( )pg第64頁/共113頁基于人工神經(jīng)網(wǎng)絡(luò)的軟測(cè)量方法第65頁/共113頁神經(jīng)網(wǎng)絡(luò)的基本概念 人工神經(jīng)元模型： 人工神經(jīng)元模型是生物神經(jīng)元的抽象和模擬。通常一個(gè)神人工神經(jīng)元模型是生物神經(jīng)元的抽象和模擬。通常一個(gè)神經(jīng)元可能有多個(gè)輸入端，經(jīng)元可能有多個(gè)輸入端， 但只有一個(gè)輸出端，一般是多輸入但只有一個(gè)輸出端，一般是多輸入單輸出的非線性器件，這個(gè)輸出值是對(duì)所有輸入值處理后的結(jié)單輸出的非線性器件，這個(gè)輸出值是對(duì)所有輸入值處理后的結(jié)果。果。 Wij : x2 x1 xn : : xi j yj f(.) sj W1j W2j Wnj 輸入信號(hào)連接權(quán)閾值處

52、理單元凈值轉(zhuǎn)移函數(shù)輸出第66頁/共113頁神經(jīng)網(wǎng)絡(luò)的基本概念 人工神經(jīng)元輸入與輸出之間的關(guān)系： 轉(zhuǎn)換函數(shù)的作用： 控制輸入對(duì)輸出的激活作用控制輸入對(duì)輸出的激活作用 對(duì)輸入、輸出進(jìn)行函數(shù)轉(zhuǎn)換對(duì)輸入、輸出進(jìn)行函數(shù)轉(zhuǎn)換 將可能無限域的輸入轉(zhuǎn)換成指定的有限范圍內(nèi)的輸將可能無限域的輸入轉(zhuǎn)換成指定的有限范圍內(nèi)的輸出出1njijijisW x( )jjyf s第67頁/共113頁神經(jīng)網(wǎng)絡(luò)的基本概念 幾種常見的轉(zhuǎn)換函數(shù)： 閾值型：閾值型： 線性型：線性型： 雙曲函數(shù)：雙曲函數(shù)： Sigmoid型：型： 高斯型：高斯型： 1 s0( ) 0 s0yf s 1 0( ) 1 0syf ss( )yf sks( )

53、tanh( )yf ss1( )1 exp()yf ss22( )exp()syf s第68頁/共113頁神經(jīng)網(wǎng)絡(luò)的基本概念第69頁/共113頁神經(jīng)網(wǎng)絡(luò)的特點(diǎn) 并行分布處理能力并行分布處理能力 非線性映射能力非線性映射能力 通過訓(xùn)練進(jìn)行學(xué)習(xí)通過訓(xùn)練進(jìn)行學(xué)習(xí) 可以硬件實(shí)現(xiàn)可以硬件實(shí)現(xiàn)第70頁/共113頁神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)類型 前饋型神經(jīng)網(wǎng)絡(luò)（Feed forward）： * 神經(jīng)元分層排列，可有多層神經(jīng)元分層排列，可有多層 * 每層神經(jīng)元只接受前層神經(jīng)元的輸入每層神經(jīng)元只接受前層神經(jīng)元的輸入 * 同層神經(jīng)元之間無連接同層神經(jīng)元之間無連接第71頁/共113頁神經(jīng)網(wǎng)絡(luò)的結(jié)構(gòu)類型 反饋型神經(jīng)網(wǎng)絡(luò)（Feed

54、back）： * 全反饋型：內(nèi)部前向，輸出反饋到輸入全反饋型：內(nèi)部前向，輸出反饋到輸入 * 層內(nèi)互連型：層間元相互連接層內(nèi)互連型：層間元相互連接第72頁/共113頁神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式： * 有監(jiān)督學(xué)習(xí)：需要有個(gè)教師提供期望或目標(biāo)輸需要有個(gè)教師提供期望或目標(biāo)輸出信號(hào)，系統(tǒng)根據(jù)期望的和實(shí)際的網(wǎng)絡(luò)輸出間的差出信號(hào)，系統(tǒng)根據(jù)期望的和實(shí)際的網(wǎng)絡(luò)輸出間的差來調(diào)整神經(jīng)元連接的權(quán)值來調(diào)整神經(jīng)元連接的權(quán)值第73頁/共113頁神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式： * 無監(jiān)督學(xué)習(xí)：不需要知道期望輸出，在不需要知道期望輸出，在訓(xùn)練過程中，只要向神經(jīng)網(wǎng)絡(luò)提供輸入模式，訓(xùn)練過程中，只要向神

55、經(jīng)網(wǎng)絡(luò)提供輸入模式，神經(jīng)網(wǎng)絡(luò)就能夠自動(dòng)地適應(yīng)連接權(quán)神經(jīng)網(wǎng)絡(luò)就能夠自動(dòng)地適應(yīng)連接權(quán)第74頁/共113頁神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方式： * 強(qiáng)化學(xué)習(xí)：不需要給出目標(biāo)輸出，它采不需要給出目標(biāo)輸出，它采用一個(gè)評(píng)論員來評(píng)價(jià)與給定輸入相對(duì)應(yīng)的神用一個(gè)評(píng)論員來評(píng)價(jià)與給定輸入相對(duì)應(yīng)的神經(jīng)網(wǎng)絡(luò)輸出的優(yōu)度經(jīng)網(wǎng)絡(luò)輸出的優(yōu)度第75頁/共113頁神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法： * Hebb學(xué)習(xí)規(guī)則 - - 如果兩個(gè)神經(jīng)元同時(shí)興奮如果兩個(gè)神經(jīng)元同時(shí)興奮( (即同時(shí)被激活即同時(shí)被激活) )，則，則它們之間的突觸連接加強(qiáng)它們之間的突觸連接加強(qiáng) - - Hebb學(xué)習(xí)規(guī)則是一種無監(jiān)督的學(xué)習(xí)規(guī)則，常學(xué)習(xí)

56、規(guī)則是一種無監(jiān)督的學(xué)習(xí)規(guī)則，常用于自組織網(wǎng)絡(luò)或特征提取網(wǎng)絡(luò)用于自組織網(wǎng)絡(luò)或特征提取網(wǎng)絡(luò) ijijv v第76頁/共113頁神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)方法 人工神經(jīng)網(wǎng)絡(luò)的學(xué)習(xí)算法： * Delta學(xué)習(xí)規(guī)則 - - 用已知樣本作為教師對(duì)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí)用已知樣本作為教師對(duì)網(wǎng)絡(luò)進(jìn)行學(xué)習(xí) - - 學(xué)習(xí)規(guī)則可由二次誤差函數(shù)的梯度法導(dǎo)出學(xué)習(xí)規(guī)則可由二次誤差函數(shù)的梯度法導(dǎo)出 - - 誤差校正學(xué)習(xí)規(guī)則實(shí)際上是一種梯度方法誤差校正學(xué)習(xí)規(guī)則實(shí)際上是一種梯度方法 ,ijjijjjF yy 第77頁/共113頁BP神經(jīng)網(wǎng)絡(luò) BP（Back Propagation）網(wǎng)絡(luò)結(jié)構(gòu)： * 多層前饋神經(jīng)網(wǎng)絡(luò)，其神經(jīng)元的變換函數(shù)是多層前饋神經(jīng)網(wǎng)絡(luò)

57、，其神經(jīng)元的變換函數(shù)是S型型函數(shù)函數(shù) * 權(quán)值的調(diào)整采用反向傳播的學(xué)習(xí)算法權(quán)值的調(diào)整采用反向傳播的學(xué)習(xí)算法 * 輸出量是輸出量是0到到1之間的連續(xù)量，它可實(shí)現(xiàn)從輸入之間的連續(xù)量，它可實(shí)現(xiàn)從輸入到輸出的任意的非線性映射到輸出的任意的非線性映射1( )( )(1)01( )( )00,1qnqqqiijjjqqqiisxx ( )( )( )1()1qiqqiisxf se第78頁/共113頁BP神經(jīng)網(wǎng)絡(luò) BP學(xué)習(xí)算法： * 屬于Delta算法，是一種監(jiān)督式的學(xué)習(xí)算法 *主要思想： 對(duì)于對(duì)于q個(gè)輸入學(xué)習(xí)樣本：個(gè)輸入學(xué)習(xí)樣本：P1,P2,Pq，已知與其對(duì)，已知與其對(duì)應(yīng)的輸出樣本為：應(yīng)的輸出樣本為：T

58、1,T2,Tq 使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小使網(wǎng)絡(luò)輸出層的誤差平方和達(dá)到最小 用網(wǎng)絡(luò)的實(shí)際輸出用網(wǎng)絡(luò)的實(shí)際輸出A1,A2,Aq, 與目標(biāo)矢量與目標(biāo)矢量T1,T2,Tq之間的誤差修改其權(quán)值，使之間的誤差修改其權(quán)值，使Am與期望與期望的的Tm,(ml,q)盡可能接近盡可能接近第79頁/共113頁BP神經(jīng)網(wǎng)絡(luò) BP學(xué)習(xí)算法：由兩部分組成 正向傳播過程中，輸入信息從輸入層經(jīng)隱含層逐層計(jì)算傳向輸出層，每一層正向傳播過程中，輸入信息從輸入層經(jīng)隱含層逐層計(jì)算傳向輸出層，每一層神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài)神經(jīng)元的狀態(tài)只影響下一層神經(jīng)元的狀態(tài) 如果在輸出層未得到期望的輸出，則計(jì)算輸出層的誤差變化值，

59、然后轉(zhuǎn)向反如果在輸出層未得到期望的輸出，則計(jì)算輸出層的誤差變化值，然后轉(zhuǎn)向反向傳播，通過網(wǎng)絡(luò)將誤差信號(hào)沿原來的連接通路反傳回來修改各層神經(jīng)元的向傳播，通過網(wǎng)絡(luò)將誤差信號(hào)沿原來的連接通路反傳回來修改各層神經(jīng)元的權(quán)值直至達(dá)到期望目標(biāo)權(quán)值直至達(dá)到期望目標(biāo)第80頁/共113頁BP神經(jīng)網(wǎng)絡(luò) BP學(xué)習(xí)算法推導(dǎo)： 網(wǎng)絡(luò)關(guān)于第p個(gè)樣本的誤差函數(shù)為： 網(wǎng)絡(luò)關(guān)于所有樣本的誤差函數(shù)為： 權(quán)值的調(diào)整是沿著誤差的負(fù)梯度方向進(jìn)行調(diào)整，即： 對(duì)于輸出層有：()211()2QnQppipiiEdx1PpiEE(1)( )( )kkD k()()()()()()QQpppipiQQQQijpipiijEExswxsw()()(

60、1)()()QQQpipipipjdxfsx ()(1)QQpipjx 第81頁/共113頁BP神經(jīng)網(wǎng)絡(luò) BP算法推導(dǎo)：因此輸出層權(quán)值調(diào)整公式為：對(duì)于隱層：(先考慮 層)()()(1)()pQQQijpipjQijEwxw 1Q(1)(1)(1)(1)(1)(1)QQpppipiQQQQijpipiijEExswxsw()(1)(1)()(1)(1)(1)1QQQQnppkpipiQQQQkpkpipiijEsxssxsw ()()(1)(2)1()QnQQQQpkkipipjkwfsx(1)(2)QQpipjx 第82頁/共113頁4.2 BP神經(jīng)網(wǎng)絡(luò) BP算法推導(dǎo)：依次類推，可求得第q層：