1、智能檢測理論與技術第1頁，共43頁，2022年，5月20日，1點50分，星期四第二章內容回顧一、系統類別與模型二、檢測系統的模型三、檢測系統靜態特性四、檢測系統動態特性五、基于機理的智能檢測第2頁，共43頁，2022年，5月20日，1點50分，星期四3.1 回歸分析方法概述第三章 基于回歸分析的智能檢測 回歸分析回歸分析是一種簡單、實用而且成熟的確定變量間相關關系的方法。以最小二乘原理為基礎的回歸技術常用于線性模型的擬合。 線性關系 線性回歸 非線性回歸 自變量數量 一元回歸分析 多元回歸分析第3頁，共43頁，2022年，5月20日，1點50分，星期四3.1 回歸分析方法概述第三章 基于回歸分

2、析的智能檢測 回歸分析第4頁，共43頁，2022年，5月20日，1點50分，星期四3.1 回歸分析方法概述第三章 基于回歸分析的智能檢測 回歸分析 線性化 在實踐中，幾個變量間的關系并不限于線性關系，更廣泛地存在著非線性的相關關系。在解決非線性回歸的問題中，可以采用下面兩種線性化方法： 通過變量變換的方法，把非線性關系化成線性關系。需要確定曲線的函數類型。 如果實際問題的曲線類型不易判斷時，可采用多項式進行逼近。因為任意曲線都可以近似地用多項式表示。非線性回歸一般都可以轉化為線性回歸。第5頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能

3、檢測 線性回歸 一元線性回歸 兩個變量x、Y (隨機變量)，x確定后，Y 按一定統計規律取值，有隨機性。Y的數學期望E(Y )代替Y，研究E(Y )和x的關系，近似表示x和Y的關系。回歸函數： 一元線性回歸函數： 其中i為待定系數，稱為回歸系數。 則隨機變量Y可以表示為線形部分y和隨機部分的疊加，即: 其中為隨機變量。第6頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 線性回歸 多元線性回歸 假設因變量Y(隨機變量)的均值E(Y )=y可以表示成自變量xi ：1ip 的線性組合，多元線性回歸，即：其中i為待定系數，稱為p元線性回歸

4、函數的回歸系數。第7頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸函數系數的估計 一元回歸系數確定，n 次獨立觀測 設0和1分別為0和1的估計，則Y關于x的線性回歸方程表示為 根據偏差最小準則，即最小二乘原理有第8頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸函數系數的估計 最小值存在，可以證明0和1分別為0和1的最小方差無偏估計。第9頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸函數系

5、數的估計 可以證明0和1分別為0和1的最小方差無偏估計，亦稱最優線性無偏估計。 多元線性回歸第10頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 顯著性檢驗 對于一元線性回歸， 1反映自變量x對隨機變量Y的影響程度， 1大說明影響顯著，有顯著影響說明回歸合理，回歸效果好。如無影響，應選擇有影響的自變量重新回歸。 顯著性檢驗方法 F 檢驗法：檢驗自變量和因變量之間是否存在線性關系。 t 檢驗法：檢驗每個自變量對因變量的影響是否顯著。 相關系數檢驗法：復相關系數衡量回歸方程擬合品質， 偏相關系數評價每個自變量對因變

6、量的作用。第11頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 F 檢驗法 假設： 如果H0成立，則不能認為X與y有線性相關關系。 檢驗統計量：第12頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 F 檢驗法 式中：回歸離差平方和，反映回歸值與平均值的偏差，揭示y與X的線性關系所引起的數據波動。 殘差平方和，反映觀測值與回歸值的偏差，揭示試驗誤差和非線性關系對試驗結果所引起的數據波動。總離差平方和，反映觀測值與平均值的偏差程度。

7、第13頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測SST第14頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 F 檢驗法 對給定的顯著性水平 （一般取1%或5%），有： - 當 時，拒絕 H0，即可認為變量y與X 有線性相關關系。 - 當 時，接受 H0 ，即可認為變量y與X沒有線性相關關系。 - 一般當 時，則認為可以用X的線性模型來擬合 y，即模型通過了F 檢驗。第15頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分

8、析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 t 檢驗法 假設： 如果H0成立，則不能認為xi與y有線性相關關系。 檢驗統計量：第16頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 t 檢驗法 對給定的顯著性水平 （一般取1%或5%），有： - 當 時，拒絕 H0，即可認為xi對y有影響。 - 當 時，接受 H0 ,即可認為xi對y無關重要， 應該從回歸方程中剔除。第17頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗

9、 相關系數檢驗法衡量回歸方程的擬合品質：定義復相關系數R（ ），R 越接近于1，表明方程擬合得越好。（R2稱為復判定系數）第18頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸系數顯著性檢驗 相關系數檢驗法評價自變量 xj 對因變量 y 的作用：定義偏相關系數Vj ， Vj越大，說明 xj 對 y 的作用越顯著。第19頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸變量的選擇回歸效果不顯著的原因： 影響y 的因素除了自變量xi (i =1, 2, , p)之外

10、，還有其他不可忽略的因素; y與自變量xi (i =1, 2, , p)之間的關系不是線性的; y與自變量xi (i =1, 2, , p)之間無關。相關系數第20頁，共43頁，2022年，5月20日，1點50分，星期四3.2 線性回歸分析方法第三章 基于回歸分析的智能檢測 回歸變量的選擇 回歸變量選擇 選擇恰當，獲得最優經驗回歸函數，否則，影響回歸函數質量，抵消顯著變量的作用。 選擇原則 包括所有顯著變量； 自變量個數盡可能少 ，減少計算量。 可以證明，相關系數檢驗，F檢驗和t檢驗三種檢驗方法的檢驗效果是一樣的。第21頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分

11、析的智能檢測第三章 基于回歸分析的智能檢測 回歸分析 變量分析 石化系統 物料平衡，能量平衡 系統機理分析 系統先驗知識第22頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 回歸模型 過程系統回歸模型 石化系統 物料平衡，能量平衡 系統機理模型 系統先驗知識第23頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 回歸建模方法 過程系統回歸建模 石化系統 物料平衡，能量平衡 系統動力學模型 系統先驗知識第24頁，共43頁，2022年，5月20日，1點50分，星

12、期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 選定回歸變量 回歸變量 顯著性檢驗 建立系統回歸模型 優化回歸模型 智能檢測模型估計被測量第25頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 多元逐步回歸 主元分析法 部分最小二乘法為了避免矩陣求逆運算，可以采用遞推最小二乘，為了防止數據飽和還可以采用帶遺忘因子的最小二乘法。第26頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回

13、歸模型的智能檢測原理 多元逐步回歸 （“最優回歸方程”技術） 多元逐步回歸是從與y有關的變量中選取對y有顯著影響的變量來建立回歸方程的一種常用算法。 基本思想：對全部自變量按其對因變量影響程度的大小，從大到小依次逐個地引入回歸方程，而且隨時對回歸方程當前所含的全部自變量進行檢驗，看其對因變量的作用是否顯著。不顯著則立即加以剔除。只有在回歸方程中所含的所有因子對因變量作用都顯著時，才考慮引入新的因子，繼而對它進行檢驗。如此往復輸入、剔除，直至無法引入新變量或剔除老變量為止。 第27頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測

14、 基于回歸模型的智能檢測原理 主元分析法 在研究工業過程時，為了全面了解和分析問題，通常記錄了許多與之有關的變量。這些變量雖然不同程度的反映了過程的部分信息，但某些變量之間可能存在相關性，即當X中存在線性相關的變量時， 不存在，不能采用多元線性回歸方法。若X的變量接近線性關系，則多元線性回歸方法計算不穩定。為了解決線性回歸時由于數據共線性而導致病態協方差矩陣不可逆問題，以及在盡可能保持原有信息的基礎上減少變量個數，簡化建模，可以采用統計學中的主元分析和主元回歸方法。第28頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回

15、歸模型的智能檢測原理 主元分析法 主元分析法是一種將多個相關變量轉化為少數幾個相互獨立的變量的有效地分析方法。 基本思想：主元分析的最終目的是在數據表中找到能概括原數據表中的信息或者能將一個高維空間進行降維處理。主元回歸解決了由于輸入變量間的線性相關而引起的計算問題。同時，由于忽略了那些次要的主元，還起到了抑制測量噪聲對模型系統影響的作用。 第29頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 主元分析法算法步驟 （1）數據預處理，對X、Y按列標準化 （2）求相關矩陣R （3）求R的特征值和特征向

16、量P （4）根據特征值從大到小重新排列特征值和特征向量P （5）計算主元貢獻率 （6）計算累積主元貢獻率，當其大于85%，記錄主元個數k （7）計算主元矩陣 （8）計算回歸系數第30頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 部分最小二乘法（第二代回歸分析方法） PLS是化學計量專家為了解決預測建模的問題，根據啟發式推理和直覺提出來的。PLS方法將高維數據空間投影到低維特征空間，得到相互正交的特征向量，再建立特征向量之間的一元線性回歸關系。正交特征投影使PLS有效地克服了普通最小二乘回歸的共線

17、性問題。同時PLS方法將多元回歸問題轉化為若干個一元回歸，適用于樣本數較少且變量數較多的過程建模。與主元回歸相比，PLS在選取特征向量時強調輸入對輸出的預測作用，去除了對回歸無益的噪聲，使模型包含最少的變量數，因此PLS具有更好的魯棒性和預測穩定性。第31頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 部分最小二乘法（第二代回歸分析方法） 部分最小二乘回歸法可以集多元回歸分析，典型相關分析和主元分析的基本功能為一體，將建模預測類型的數據分析方法和非模型式的數據認識分析方法有機的結合起來。 基本思想

18、：部分最小二乘回歸法與普通多元回歸分析方法在思路上的主要區別就是它在回歸建模過程中采用了信息綜合與篩選技術。還有就是它不直接考慮因變量集合與自變量集合的回歸模型，而是在變量系統中提取若干對系統具有最佳解釋能力的新綜合變量。 第32頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 PLS在統計應用中的重要性 PLS是一種多因變量對多自變量的回歸建模方法； PLS可以較好地解決許多以往普通多元回歸解決不了的問題： - 更好地解決多重相關性在系統建模中的不良影響； - 不用受到樣本點數太少的限制。 PLS

19、實現了多種數據分析方法的綜合應用。第33頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 選用減一線粘度的數據，有181組數據，每組數據5個輸入，1個粘度數據的輸出。采用多元回歸方法：減一線粘度的回歸方程可寫作： y= -0.083214x1+ 0.013419x2+ 0.029689x3+ 38.005939x4+ 7.886674x5其中：x1減壓塔塔頂溫度 ；x2減壓塔塔頂真空度；x3減一線溫度；x4減一線收率；x5常壓塔收率；y減一線粘度第34頁，共43頁，2022年，5月20日，1點50分

20、，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理減一線粘度擬合第35頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 為了衡量回歸效果，計算下面幾個量： 離差平方和: 40.337322 平均標準偏差: 0.472079 復相關系數: 0.833725總偏差平方和T第36頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理 選用減一線粘度的數據，有181組數據，每組數據5個輸入，1個粘度數據的輸出。采用主元分析回歸方法： 先將輸入矩陣進行標準化處理后，通過非線性迭代部分最小二乘算法（NIPALS）來進行主元分析，在5組輸入中提取出4個主元。然后按照主元回歸的方法得到系統模型的參數。第37頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測 基于回歸模型的智能檢測原理主元分析法擬合第38頁，共43頁，2022年，5月20日，1點50分，星期四3.3 基于回歸分析的智能檢測第三章 基于回歸分析的智能檢測