第五章因子分析第一節因子分析簡介第二節基本原理第三節求解初始因子第四節解釋因子第五節因子值及其應用第六節研究實例參見郭志剛主編，《社會統計分析方法—SPSS軟件應用》第三章，中國人民大學出版社1999第一節因子分析簡介因子分析(FactorAnalysis,也稱因素分析)是一種數據化簡技術1、考察一組變量之間的協方差或相關系數結構2、解釋這些變量與為數較少的因子(即不可觀測的潛變量)之間的關聯分類探索性因子分析(ExploratoryFactorAnalysis,EFA)驗證性因子分析(ConfirmatoryFactoryAnalysis,CFA）——也稱為實證性因子分析、證實性因子分析、確定性因子分析)。共同點1、理論基礎：普通因子分析模型2、主要目的：濃縮數據——通過對諸多變量的相關性研究,用假想的少數幾個變量(因子、潛變量)來表示原來變量(觀測變量)的主要信息。不同1、基本思想不同因子分析的基本思想是要尋找公共因子,以達到數據化簡的目的。探索性因子分析：找出影響觀測變量的因子個數,以及各個因子和各個觀測變量之間的相關程度,以試圖揭示一套相對比較大的變量的內在結構。研究者的假定是每個指標變量都與某個因子匹配,而且只能通過因子載荷憑知覺推斷數據的因子結構。驗證性因子：決定事前定義因子的模型擬合實際數據的能力,以試圖檢驗觀測變量的因子個數和因子載荷是否與基于預先建立的理論的預期一致。指標變量是基于先驗理論選出的,而因子分析是用來看它們是否如預期的一樣。先驗假設：每個因子都與一個具體的指示變量子集對應,并且至少要求預先假設模型中因子的數目,但有時也預期哪些變量依賴哪個因子。2、應用前提不同探索性因子分析沒有先驗信息,而驗證性因子分析有先驗信息。探索性因子分析是在事先不知道影響因子的基礎上,完全依據樣本數據,利用統計軟件以一定的原則進行因子分析,通過因子載荷憑知覺推斷數據的因子結構，最后得出因子的過程。適合于在沒有理論支持的情況下對數據的試探性分析。這就需要用驗證性因子分析來做進一步檢驗驗證性因子分析基于預先建立的理論,要求事先假設因子結構,其先驗假設是每個因子都與一個具體的指示變量子集對應,以檢驗這種結構是否與觀測數據一致。也就是在上述數學模型中,首先要根據先驗信息判定公共因子數m,同時還要根據實際情況將模型中某些參數設定為某一定值。這樣,驗證性因子分析也就充分利用了先驗信息,在已知因子的情況下檢驗所搜集的數據資料是否按事先預定的結構方式產生作用。3、理論假設不同探索性因子分析的假設主要包括:①所有的公共因子都相關(或都不相關);②所有的公共因子都直接影響所有的觀測變量;③特殊(唯一性)因子之間相互獨立;④所有觀測變量只受一個特殊(唯一性)因子的影響;⑤公共因子與特殊因子(唯一性)相互獨立。驗證性因子分析克服了探索性因子分析假設條件約束太強的缺陷,其假設主要包括:①公共因子之間可以相關,也可以無關;②觀測變量可以只受一個或幾個公共因子的影響,而不必受所有公共因子的影響;③特殊因子之間可以相關,還可以出現不存在誤差因素的觀測變量;④公共因子與特殊因子之間相互獨立4、分析步驟不同探索性因子分析主要有以下七個步驟:①收集觀測變量:通常采用抽樣的方法,按照實際情況收集觀測變量數據。②構造相關矩陣:根據相關矩陣可以確定是否適合進行因子分析。③確定因子個數:可根據實際情況事先假定因子個數,也可以按照特征根大于1的準則或碎石準則來確定因子個數。④提取因子:可以根據需要選擇合適的因子提取方法,如主成分方法、加權最小平方法、極大似然法等。⑤因子旋轉:由于初始因子綜合性太強,難以找出實際意義,因此一般都需要對因子進行旋轉(常用的旋轉方法有正交旋轉、斜交旋轉等),以便于對因子結構進行合理解釋。⑥解釋因子結構:可以根據實際情況及負載大小對因子進行具體解釋。⑦計算因子得分:可以利用公共因子來做進一步的研究,如聚類分析、評價等。驗證性因子分析主要有以下六個步驟:①定義因子模型:包括選擇因子個數和定義因子載荷。因子載荷可以事先定為0、或者其它自由變化的常數,或者在一定的約束條件下變化的數(比如與另一載荷相等)。②收集觀測值:根據研究目的收集觀測值。③獲得相關系數矩陣:根據原始資料數據獲得變量協方差陣。④擬合模型:這里需要選擇一種方法(如極大似然估計、漸進分布自由估計等)來估計自由變化的因子載荷。⑤評價模型:當因子模型能夠擬合數據時,因子載荷的選擇要使模型暗含的相關矩陣與實際觀測矩陣之間的差異最小。常用的統計參數有:卡方擬合指數(χ2)、比較擬合指數(CFI)、擬合優度指數(GFI)和估計誤差均方根(RMSEA)。根據Bentler(1990)的建議標準,χ2≤3.0、CFI≥0.90、GFI≥0.85、RMSE≤0.05,則表明該模型的擬合程度是可接受的。⑥修正模型:如果模型擬合效果不佳,應根據理論分析修正或重新限定約束關系,對模型進行修正,以得到最優模型。5、主要應用范圍不同探索性因子分析:①尋求基本結構,解決多元統計分析中的變量間強相關問題;②數據化簡。驗證性因子分析允許研究者將觀察變量依據理論或先前假設構成測量模式,然后評價此因子結構和該理論界定的樣本資料間符合的程度。因此,主要應用于以下三個方面:①驗證量表的維度或面向性(dimensionality),或者稱因子結構,決定最有效因子結構;②驗證因子的階層關系;③評估量表的信度和效度。假設觀測變量之間相關是因為他們共享公因子。很多觀測變量少數因子代替濃縮探索性因子分析思路目的：化簡數據方式：研究眾多變量之間的內部依賴關系，探求觀測數據中的基本結構，并用少數幾個假想變量（因子）表示基礎數據結構實質：研究如何以最少的信息丟失把眾多觀測變量濃縮為少數幾個因子將每個觀測變量用一組因子的線性組合表示：xi=ai1f1+ai2f2+…+aimfm+ui(i=1,2,…,k)(1)f1，f2，…，fm

叫做公因子(Commonfactors)，它們是各個觀測變量所共有的因子，解釋了變量之間的相關。(2)ui稱為特殊因子(Uniquefactor)，它是每個觀測變量所特有的因子，相當于多元回歸中的殘差項，表示該變量不能被公因子所解釋的部分。(3)aij稱為因子負載(Factorloadings)，它是第i個變量在第j個公因子上的負載，相當于多元回歸分析中的標準回歸系數（i=1,…,k;j=1,…,m）。第二節（探索性）因子分析原理一、模型

因子分析模型公因子個數小于等于觀測變量數1、因子負載（factorloading）反映了因子和變量之間的相關程度，當公因子之間完全不相關時，等于變量和因子之間的相關系數。二、概念大多數情況下，人們往往假設公因子之間的關系是彼此正交的（orthogonal），即不相關——因子負載不僅表示了觀測變量如何由因子線性表示，而且反映了因子和變量間的相關程度2、公因子方差(Communality)

又稱共同度、公共方差，指觀測變量方差中由公因子決定的比例。當公因子之間彼此正交時，公因子方差等于和該變量有關的因子負載的平方和，用公式表示為：hi2=ai12+ai22+…+aim2（行平均和）變量方差＝公因子方差＋特殊因子方差值越大，變量能被因子說明的程度越高意義：說明如果用公因子替代觀測變量后，原來每個變量的信息被保留的程度3、因子貢獻(Contributions)

反映每個公因子對數據的解釋能力，用該因子所解釋的總方差來衡量。因子貢獻：因子負載列平方和即：數據輸出中的特征值更常用指標：每個因子所解釋的方差（因子貢獻）占所有變量總方差的比例（即：因子貢獻或特征值除以變量個數——即總方差，因為標準化變量的標準差和方差均為1）衡量公因子的相對重要性公因子累積解釋方差比例，判斷因子分析效果1、檢查相關矩陣是否適合做因子分析（變量間應高度相關>0.3）2、提取因子3、因子旋轉4、計算因子值三、因子分析的步驟變量：間距測度及以上。樣本規模：至少是變量數的5倍判斷數據是否適合做

因子分析1、反映象相關矩陣(Anti-imagecorrelationmatrix)。其元素等于負的偏相關系數。2、巴特利特球體檢驗(Bartletttestofsphericity)零假設為相關矩陣是單位陣（說明變量間不相關）3、KMO(Kaiser-Meyer-OlkinMeasureofSamplingAdequacy)測度。該測度從比較觀測變量之間的簡單相關系數和偏相關系數的相對大小出發，【0，1】。當所有變量之間的偏相關系數的平方和，遠遠小于簡單相關系數的平方和時，KMO值接近1.0.9以上，非常好;0.6，差;0.8以上，好;0.5，很差;0.7，一般;0.5以下，不能接受該矩陣中各項值應該比較小。因為這說明變量間存在大量的重疊影響（公因子）應該通過檢驗數(純)量矩陣（標量矩陣）稱為單位矩陣（或單位陣）.有時也記作E.全為1為數量矩陣或標量陣。當時，記作

第三節求解初始因子目的：確定能夠解釋觀測變量之間相關關系的最小因子個數主成分分析：獨立的數據化簡技術。因子分析將其結果作為初始因子解（特征值）公因子分析：主軸因子法、極大似然法、最小二乘法、alpha法一、主成分分析法把給定的一組（k個）相關變量通過線性變換轉換成另一組不相關的變量，這些新的變量按照方差依次遞減的順序排列。轉換中保持變量的總方差不變，使第一個變量具有最大的方差，稱為第一主成分，第二個變量方差次大，且和第一個變量不相關，稱為第二主成分，依次類推，k個變量有k個主成分1、主成分的幾何意義最長的軸：第一主成分次長的軸：第二主成分……2、主成分的求解數學工具：特征方程做法：通過求解觀測變量相關矩陣的特征方程，得到k個特征值和對應的k個單位特征向量，把k個特征值從大到小排列，它們分別代表k個主成分所解釋的觀測變量的方差主成分是觀測變量的線性組合，線性組合的權數即為相應的單位特征向量中的元素1）特征值準則：保留特征值大于等于1的因子2）碎石檢驗準則（SCREETESTCRITERION）——因子特征值隨因子個數變化的散點圖曲線變平開始的前一點被認為是提取的最大因子數因子累計解釋方差的比例超過70-80%。3）直接指定因子個數。3、確定因子個數二、公因子分析法從解釋變量的方差出發，假設變量的方差能完全被主成分所解釋從解釋變量之間的相關關系出發，假設觀測變量之間的相關能完全被公因子解釋但變量的方差不一定完全被公因子解釋，這樣每個變量被公因子所解釋的方差不再是1，而是公因子方差求解因子解時，只考慮公因子方差主成分法公因子法公因子方差的估計主軸因子法最小二乘法最大似然法a因子提取法映象分析法方法選擇依據：目的＋對變量方差的了解程度——以最少的因子最大程度地解釋原始數據中的方差/知道特殊因子和誤差帶來的方差很小主成分分析法——為了確定數據結構，而且并不了解變量方差公因子分析法解很接近第四節解釋因子求得因子解后，大多數因子都和很多變量有關，無法很好地說明其實際含義一、思路因子旋轉的目的:通過改變坐標軸的位置，重新分配各個因子所解釋的方差的比例，使因子結構更簡單，更易于解釋。

因子旋轉不改變模型對數據的擬合程度，不改變每個變量的公因子方差因子旋轉方法Rotation正交旋轉(OrthogonalRotation):

因子軸之間仍然保持90度角，即因子之間是不相關的。斜交旋轉（ObliqueRotation):

因子軸之間不必是90度角，即因子之間可以是相關的。四次方最大法－QUARTIMAX

方差最大法－VARIMAX

等量最大法－EQUIMAX二、正交旋轉方法

目標：簡化因子負載矩陣的行和列，使因子負載向0,1兩極分化因子模式和因子結構因子模式(Factorpattern)矩陣：因子負載矩陣因子結構(Factorstructure)矩陣：因子和變量之間的相關矩陣。在斜交旋轉中，因子負載不再等于因子和變量之間的相關系數，因子結構和因子模式之間是有區別的。二者關系：

S=BWS因子結構矩陣B因子模式矩陣W斜交因子之間的相關系數矩陣斜交因子解三、斜交旋轉方法

數據化簡，把很多變量濃縮成少數幾個因子，對因子的確切含義不在意——正交旋轉得到理論上有意義的因子——斜交四、選擇旋轉方法

理論上斜交優于正交但實際上正交應用更為廣泛默認：方差最大