任任務§§?預測控制? 確定性關系自由落體運動中，位移與時的關非確定性關 之間有關壓人的身高和體之的關關系，這種關系不能用能退而求其次，研究 “統計意義XX1,X2,...,XX1,X2,...,XfX1,X2,...,Xp1包括隨機因素)ε.于是YYfX1,X2,...,Xp1??X1,X2,...,XpfX1,X2,...,Xp1數的合理X1X2X 的關、控制 “研究一個變量和其他變量的統計關系(函數形式消費 a=?yy01x12x2p1xp1模型設量ｙ與p-1個自變量稱此模型為線性回歸分析中被回歸的變量稱為因變量，影 其 稱為回歸參數或回歸系數nn組觀測值（稱為樣本數據式（式（2.5）亦可寫成矩陣則式（2.5）可YX式（2.6）稱為線性回歸模型的矩陣形式YYX求解回歸模型的系數β據Y和?b0b1x1b2x2bp11．回歸參數β 分別乘估計值()即為因變量y與自變量x1,x2,…xp-1計稱為估計值，或擬合值或回歸值真真實值與回歸值之間的越小越好!→于是對全部觀察值（試驗值） 整整理p個未知數p個方程組成的方程組計這里令這里令B(XTX)1X回歸方程中參數β2．2．誤差方 的估?式中，I為n階單位 ,n的§§2統計推斷與?X,X,..., X1,X2,...,X存在1.1.nnSSE (yy?2 殘差平方和（誤平方和SSR (?n2i回歸平方分析分析 、SSE、SSR之間的關系即由此可知，SSR越大．X1,X2,...,Xp1的線性函X1,X2,...,Xp1 定定R2SSR1以衡量線性回歸模型的擬臺優度．事實上，描述了由自變量的線性函數值所能反映的Y的總變化量的比例．稱為復相關系數。R2越大，說明Y與X,X,..., 的線?2.2.22.2.2X1,X2,...,XXk數顯著性檢驗2.2.32.2.3X1,X2,...,Xp4、樣本的原因?????林 會存在一定的相關性，這種相關性會使變量的信息有所“ ”于是．人們希望對這些彼此相關的變星加以“改造”，用為數較少的、信息互不的新變量來反映原變量提供的大部分信息，例如，在服裝定型的研究中，要加工一件上例如，在服裝定型的研究中，要加工一件上衣，需要測量身長、袖長、領圍、袖圍、 、圍、肋圍、肩寬、肩厚、背寬等十幾項指標，顯然可以看出上述這些指標之間有一定相關關系。現在的問題是如何從這些指標中綜合出較少的幾個主要指標，由此根據這少數幾個主要指標，使加工出來的上衣能適合大多數人的體型，也就是說，這幾個綜合指標已充分把握了上衣的主要特征。事實上，服裝廠加工上衣是根據衣長、 、型號（肥、瘦）這三個綜合指標，使加工出來的上衣能適合絕大多數人穿用。的思想下產生的處理數據的統計方法．二者均是通過構造原變量的適當的線性組合提取不同情息，主成分分析著眼于考慮變量的“分散性”信息，而典型相關分析則立足于識別和量化二組§4.1§4.1主成分我們將 個特征變綜合可能少的幾個綜合性變量而且要求這些新的綜合能充分反的信息，又能個特既個綜合變量互不相關 思想．設有二維隨機向量X(X1,X2)對其進行nXi(xi1,xi2)(i1, 關系數的絕對值為1，則作為平面上的點，Xi(xi1,xi2標系x1ox2逆時針旋轉一個角度θ得到新的坐標系y1oy2，使坐標軸Oy1與lOy1YY1X1cosX2xPiyixxiyi1xi1cosxi2這這相當于對原變量(X1,X2)做線性Y1X1cosX2y1xi1cosxi2因此我們使可用一維 量Y1代替原來量二維 xOy1軸旋轉至觀測點具有最大分散性xPiyi1xi1cosxi2yi2xi1sinxi2令新變量令新變量Y1和Y2為Y1X1cosX2Y2X1sinX2則它們均為原變量X1和X2且Var(Y1)（Var表示方差） 如果數據在2方向上的分散性很小，則可近似地用1的相應觀測值代替原二維變量X1，X2)的觀測值，達到降低數據維數的目的． 綜上可知，主成分分析即構造原變量的一系列線性組合，使其方差(或觀測值的樣本方差)達到最大． 下面我們分別討論總體主成分和樣本主成分的定義及求法．§§4.1.2設X(X, ,...,XTpCov(X)( E((XE(X))(XE(X))Tijp按照主成分分析的思想，我們首先構造X2，…，XpY1a11X1a12X2 a1pXY1a11X1a12X2 a1p12,Var(Y1)Var(aTX)aT a1Ta11,即222+ap1由此，a1所確定的YaTX為 的第一主CovCov(Y,Y) X, X)TTT 21 a ，Y2a21X1a22X2 a2p按按照主成分分析思想，問題轉化MaxVar(Y)=aT aaT aTa 量YaTX為 設X(X, ,...,X 的協方差矩陣．其特T值按大小順序排列為 e1,e2,...,ep，則X的 ekpXp,k1,2,...,T其中，e=(eee k Var(Y)Var(eX)a,k1,2,...TTk Cov(Y,Y)Cov(eX,eX)TTTeT kje0,j為前m個（mp）主成分的累積