《應用多元分析》第三版ppt第二章大綱CATALOGUE目錄數據矩陣與多元分布多元正態分布及其性質多元正態總體均值向量和協方差矩陣估計判別分析與聚類分析初步主成分分析及其應用因子分析模型及其求解方法01數據矩陣與多元分布由多個變量的觀測值按一定順序排列而成的矩陣，行表示觀測個體，列表示變量。數據矩陣定義數據矩陣類型數據矩陣性質根據數據類型不同，可分為連續型、離散型和混合型數據矩陣。具有維度、秩、跡等基本性質，是進行多元統計分析的基礎。030201數據矩陣基本概念03多元分布的矩包括均值向量、協方差矩陣和相關系數矩陣等，用于描述多元分布的數字特征。01多元分布定義描述多個隨機變量聯合分布情況的概率分布，是一元分布的推廣。02多元正態分布最常見的一種多元分布，具有很多良好的性質，如線性變換不變性、獨立性與不相關性等。多元分布及其性質01樣本各變量的均值構成的向量，是總體均值向量的估計。樣本均值向量02反映樣本各變量之間協方差關系的矩陣，是總體協方差矩陣的估計。樣本協方差矩陣03具有無偏性、一致性等優良性質，是進行多元統計分析的重要工具。樣本均值向量與協方差矩陣的性質樣本均值向量與協方差矩陣數據標準化處理提高數據分析的準確性和可靠性；消除指標之間的量綱影響；避免數值問題，如計算過程中的溢出等。數據標準化的意義將數據按比例縮放，使之落入一個小的特定區間，以去除數據的單位限制，將其轉化為無量綱的純數值，便于不同單位或量級的指標能夠進行比較和加權。數據標準化定義包括Z-score標準化、最小-最大標準化、小數定標標準化等。數據標準化的方法02多元正態分布及其性質二元正態分布從二維隨機變量的分布出發，介紹二元正態分布的定義、性質及其圖像。多元正態分布將二元正態分布的概念推廣到多維情況，給出多元正態分布的定義和性質。密度函數與分布函數詳細解釋多元正態分布的密度函數和分布函數，以及它們的性質和特點。多元正態分布定義期望、方差和協方差介紹多元正態分布的期望、方差和協方差等數字特征，以及它們與分布的關系。線性變換不變性闡述多元正態分布在線性變換下的不變性，即經過線性變換后仍為多元正態分布。獨立性與相關性討論多元正態分布中各個分量之間的獨立性和相關性，以及它們對分布的影響。多元正態分布性質在給定部分分量的條件下，推導多元正態分布的條件分布，并討論其性質和應用。條件分布通過積分或其他方式，求出多元正態分布中部分分量的邊緣分布，并討論其與其他分量的關系。邊緣分布結合實例，介紹條件分布和邊緣分布在統計推斷、回歸分析等領域的應用。應用舉例條件分布與邊緣分布獨立性、相關性與不相關性獨立性概念明確多元隨機變量獨立性的定義和性質，以及獨立性在多元正態分布中的特殊性質。相關性度量介紹相關系數、協方差矩陣等度量多元隨機變量相關性的方法和指標，以及它們在多元正態分布中的應用。不相關性與獨立性關系討論不相關性與獨立性之間的關系和區別，特別是在多元正態分布中的表現和解釋。應用舉例結合實例，闡述獨立性、相關性和不相關性在多元統計分析中的實際應用和意義。03多元正態總體均值向量和協方差矩陣估計樣本均值向量作為均值向量估計對于多元正態總體，其均值向量可以通過樣本均值向量進行估計，樣本均值向量是各個樣本點在每個維度上的均值組成的向量。樣本均值向量的性質樣本均值向量是總體均值向量的無偏估計，當樣本量增加時，樣本均值向量依概率收斂于總體均值向量。樣本均值向量的應用在實際應用中，可以通過抽取一定數量的樣本，計算樣本均值向量來估計總體的均值向量。樣本均值向量的定義樣本協方差矩陣的定義對于多元正態總體，其協方差矩陣可以通過樣本協方差矩陣進行估計，樣本協方差矩陣是各個樣本點在各個維度上的偏差乘積的平均值組成的矩陣。樣本協方差矩陣的性質樣本協方差矩陣是總體協方差矩陣的無偏估計，當樣本量增加時，樣本協方差矩陣依概率收斂于總體協方差矩陣。樣本協方差矩陣的應用在實際應用中，可以通過抽取一定數量的樣本，計算樣本協方差矩陣來估計總體的協方差矩陣，從而了解總體各個維度之間的相關性和變異程度。010203樣本協方差矩陣作為協方差矩陣估計一致性隨著樣本量的增加，樣本均值向量和樣本協方差矩陣都依概率收斂于總體參數的真實值，即它們具有一致性。有效性在無偏估計量中，樣本均值向量和樣本協方差矩陣具有最小的方差，即它們是最有效的無偏估計量。無偏性樣本均值向量和樣本協方差矩陣都是總體參數的無偏估計量，即它們的期望值等于總體參數的真實值。估計量性質置信區間對于總體均值向量和協方差矩陣的估計，可以構造置信區間來表示估計的可靠程度。置信區間是指在一定置信水平下，總體參數落入的區間范圍。假設檢驗在實際應用中，常常需要對總體參數進行假設檢驗，即根據樣本信息對總體參數做出推斷。例如，可以檢驗兩個總體的均值向量是否有顯著差異，或者檢驗總體協方差矩陣是否等于某個給定的矩陣。置信區間與假設檢驗04判別分析與聚類分析初步123判別分析是一種統計方法，用于判斷一個或多個定量變量的取值對樣本所屬類別的影響，進而對未知類別的樣本進行預測。判別分析定義判別函數是用于描述各類別之間差異的函數，通常由樣本的定量變量和類別變量構成。判別函數判別準則是用于評價判別效果的指標，如誤判率、準確率等。判別準則判別分析基本概念聚類分析是一種無監督學習方法，用于將樣本劃分為若干個類別，使得同一類別內的樣本相似度較高，不同類別間的樣本相似度較低。聚類分析定義常見的聚類方法包括K-means聚類、層次聚類、密度聚類等。聚類方法聚類效果評價通常使用輪廓系數、Calinski-Harabasz指數等指標。聚類效果評價聚類分析基本概念距離與相似度度量方法距離度量距離度量是衡量樣本間相似度的一種方法，常見的距離度量方法包括歐氏距離、曼哈頓距離、切比雪夫距離等。相似度度量相似度度量是衡量樣本間相似程度的另一種方法，常見的相似度度量方法包括余弦相似度、皮爾遜相關系數等。類別數確定類別數的確定通常需要根據實際問題和數據特點進行綜合考慮，可以使用一些統計方法或可視化工具進行輔助判斷。類別命名與解釋對劃分出的各類別進行命名和解釋，以便于理解和應用。類別劃分原則類別劃分應遵循同一類別內差異最小、不同類別間差異最大的原則。類別劃分標準05主成分分析及其應用線性變換與降維通過線性變換將原始變量轉換為新的綜合變量，實現數據降維。方差最大化主成分分析旨在找到使新變量方差最大的方向，以保留盡可能多的原始信息。不相關主成分各主成分之間相互獨立，即協方差為0，避免信息重疊。主成分分析基本原理協方差矩陣或相關矩陣根據原始數據計算協方差矩陣或相關矩陣。主成分表達式將特征向量按對應特征值大小排序，得到各主成分的表達式。特征值與特征向量求解協方差矩陣或相關矩陣的特征值和特征向量。主成分求解方法通常選擇累計貢獻率達到80%或85%以上的前幾個主成分。累計貢獻率Kaiser準則建議保留特征值大于1的主成分。特征值大于1通過繪制碎石圖（ScreePlot）觀察主成分變化的拐點，確定主成分個數。碎石圖主成分個數選擇標準主成分得分將原始數據代入主成分表達式，計算各樣本在各主成分上的得分。主成分解釋結合專業知識，對主成分的實際意義進行解釋，如某主成分可能代表某種經濟現象或社會現象。主成分應用將主成分得分作為新的變量，用于聚類、回歸、評價等多元分析方法。主成分得分及解釋03020106因子分析模型及其求解方法因子分析基本概念通過降維技術，將多個相關變量轉化為少數幾個不相關的綜合指標，即因子。因子分析假設條件包括變量間的相關性、因子載荷的特殊性等。因子分析數學模型描述觀測變量與因子之間的關系，包括因子載荷、公因子方差等概念。因子分析模型介紹通過主成分分析，將原始變量轉換為新的主成分，進而求解因子載荷矩陣。主成分法基于概率統計原理，通過最大化樣本數據的似然函數來估計因子載荷矩陣。最大似然法如最小二乘法、迭代法等，可根據具體情況選擇使用。其他方法因子載荷矩陣求解方法使因子載荷矩陣結構簡化，便于對因子進行解釋和命名。因子旋轉目的包括正交旋轉和斜交旋轉兩大類，具體方法如方差最大法、四次方最大法等。因子旋轉方法根據旋轉后的因子載荷矩陣，結合專業知識和實際背景，對因子進行解釋和命名。因子解釋與命名因子旋轉與解釋因子得分概念