多目標(biāo)決策前面章節(jié)中討論的問題是只有單一決策目標(biāo)的問題。在經(jīng)濟(jì)、管理領(lǐng)域中，有許多的決策對象或問題，往往具有多個(gè)（兩個(gè)或兩個(gè)以上）決策目標(biāo)，需要予以同時(shí)或綜合考慮，盡可能多地滿足多個(gè)目標(biāo)。比如：企業(yè)的經(jīng)營計(jì)劃決策，要同時(shí)達(dá)到產(chǎn)品產(chǎn)量、成本、利潤、資源消耗等都是最優(yōu)或滿意；企業(yè)的綜合評估、企業(yè)資信評級也必須分析多個(gè)價(jià)值因素，予以綜合評價(jià)。這些問題的決策就是多目標(biāo)決策（MultipleObjectiveDecision）。1概述多目標(biāo)決策是指，當(dāng)決策對象具有多個(gè)價(jià)值目標(biāo)時(shí)，要從若干個(gè)可行方案（解）中選擇一個(gè)滿意方案（解）或者要對各個(gè)方案作出優(yōu)序的決策方法。其特征是：（1）決策對象所有的多個(gè)價(jià)值目標(biāo)，往往是不同經(jīng)濟(jì)意義或不同事理意義的一些因素（要素），其量綱因而也可能不相同，而且彼此可能還存在相互沖突，即有的是以最大最優(yōu)，有的卻以最小最優(yōu)。（2）要同時(shí)滿足所有目標(biāo)都達(dá)到最優(yōu)，往往很難，或不可能，因而多半只能求得滿意解，或者只滿足其中主要目標(biāo)最優(yōu)，其他目標(biāo)次優(yōu)，甚至予以放棄。2若對多目標(biāo)決策問題的某可行方案與其他可行方案兩兩比較時(shí)，其決策解一般有三種可能結(jié)果：（1）某方案的所有目標(biāo)都達(dá)到了最優(yōu)，稱為完全最優(yōu)解，這種情形極少。（2）某方案的所有目標(biāo)都是最劣的，稱為劣解，即是可淘汰的方案。（3）某方案的目標(biāo)有優(yōu)有劣，既不能肯定該方案為最優(yōu)，也不能將其淘汰，稱這種方案為非劣解，或有效解或帕累托最優(yōu)解。3多目標(biāo)決策方法，主要包括如下內(nèi)容：（1）化多為少法。將多個(gè)目標(biāo)的問題化成為一個(gè)目標(biāo)的問題，然后用單目標(biāo)方法求解。最常用的是線性加權(quán)法：將m個(gè)目標(biāo)分別轉(zhuǎn)化為效用值；再設(shè)法確定目標(biāo)的權(quán)重，則問題轉(zhuǎn)化為求單一標(biāo)量的極值，其中4（2）目標(biāo)規(guī)劃法——當(dāng)所有目標(biāo)函數(shù)和約束條件皆為線性時(shí)，可用目標(biāo)規(guī)劃法（GoalProgramming）。（3）DEA方法——數(shù)據(jù)包絡(luò)分析。（4）AHP方法——層次分析。（5）主成分分析法（多元統(tǒng)計(jì)分析）。（6）因子分析法（多元統(tǒng)計(jì)分析）。（7）基于人工神經(jīng)網(wǎng)絡(luò)BP算法的評估方法。等等。5目標(biāo)規(guī)劃的基本概念目標(biāo)規(guī)劃與線性規(guī)劃不同，它不是追求最大利潤或最小成本，而是在決策者擬定某些目標(biāo)的前提下，提出與實(shí)現(xiàn)目標(biāo)差距最小的行動(dòng)方案。下面以例1為例來說明目標(biāo)規(guī)劃中的一些基本概念。6例1某企業(yè)生產(chǎn)并銷售甲、乙兩種產(chǎn)品，每種產(chǎn)品需經(jīng)過A、B兩道工序，所需的加工時(shí)間、企業(yè)的最大生產(chǎn)能力及每種產(chǎn)品的單位價(jià)格、單位利潤如下表13-1。現(xiàn)企業(yè)決策者提出兩個(gè)目標(biāo)：（1）總產(chǎn)值期望每天達(dá)到5000元；（2）總利潤期望每天達(dá)到1000元。試問：產(chǎn)品A、B每天各安排生產(chǎn)多少，才能使這兩個(gè)目標(biāo)都能得到最大限度的滿足？7表13-1

產(chǎn)

品

單

耗工

序每千克產(chǎn)品所需加工時(shí)間每天最大生產(chǎn)能力甲乙（小時(shí)）工序A（小時(shí)/千克）2130工序B（小時(shí)/千克）1224單位價(jià)格（元/千克）200370單位利潤（元/千克）30808一、正、負(fù)偏差變量目標(biāo)規(guī)劃是將各個(gè)目標(biāo)寫成約束條件。對于每個(gè)優(yōu)化目標(biāo)都需預(yù)先給出該目標(biāo)的一個(gè)預(yù)定指標(biāo)——既定值。該既定值可來自某方面的規(guī)定，也可主觀上酌情而定。9如在例1中的兩個(gè)目標(biāo)值：總產(chǎn)值期望每天達(dá)到5000元，以及總利潤期望每天達(dá)到1000元。有了既定值，目標(biāo)的實(shí)際值與既定值之間就要產(chǎn)生偏差，所以引入衡量目標(biāo)達(dá)到程度的偏差變量和。代表高于原定第i個(gè)目標(biāo)的數(shù)額，叫作超額，也稱作正偏差變量；代表低于原定第i個(gè)目標(biāo)的數(shù)額，叫作不足額，也稱作負(fù)偏差變量。兩者統(tǒng)稱為偏差變量，并且都采用正值，即。對于一個(gè)目標(biāo)來說，兩者不可能同時(shí)發(fā)生，即其中必有一個(gè)等于0，因而。10優(yōu)化結(jié)果，若時(shí)，表示第i個(gè)目標(biāo)預(yù)定值與實(shí)際達(dá)成值無偏差，恰好達(dá)成；當(dāng)時(shí)，表示第i個(gè)目標(biāo)有超額量，實(shí)際達(dá)成值要比預(yù)定值大；當(dāng)時(shí)，表示第i個(gè)目標(biāo)有不足額量，第i個(gè)目標(biāo)實(shí)際達(dá)成值要比預(yù)定值小。在例1中，設(shè)分別表示產(chǎn)品甲、乙的日產(chǎn)量（單位：千克）。現(xiàn)按照決策者的意志，考慮111．總產(chǎn)值目標(biāo)約束

式中

——總產(chǎn)值超過5000元的超額量；

——總產(chǎn)值不足5000元的不足量。122．總利潤目標(biāo)約束

式中

——總利潤超過1000元的超額量；

——總利潤不足1000元的不足量。133．A工序日生產(chǎn)能力約束

4．B工序日生產(chǎn)能力約束

以上，14二、目標(biāo)的優(yōu)先等級和權(quán)系數(shù)1．目標(biāo)的優(yōu)先等級目標(biāo)決策的一個(gè)重要特點(diǎn)，就是決策者的意志，即決策者可以根據(jù)各個(gè)目標(biāo)在經(jīng)營管理上的重要性，排出優(yōu)先等級。15在目標(biāo)規(guī)劃中，以優(yōu)先序數(shù)來表示決策中的優(yōu)先等級。不是數(shù)值，它只表示把m個(gè)目標(biāo)分成k個(gè)等級，處于前面的優(yōu)先等級一定重要于后面的優(yōu)先等級，即，它表示大大優(yōu)于。在目標(biāo)規(guī)劃求解過程中，必須嚴(yán)格地按照目標(biāo)優(yōu)先等級的次序考慮問題。只有在高級目標(biāo)得到滿足時(shí)，才能考慮低級目標(biāo)。如果在考慮低級目標(biāo)的運(yùn)算過程中，發(fā)現(xiàn)與高級目標(biāo)矛盾或沖突時(shí)，必須無條件地服從高一級目標(biāo)。16在目標(biāo)規(guī)劃求解過程中，必須嚴(yán)格地按照目標(biāo)優(yōu)先等級的次序考慮問題。只有在高級目標(biāo)得到滿足時(shí)，才能考慮低級目標(biāo)。如果在考慮低級目標(biāo)的運(yùn)算過程中，發(fā)現(xiàn)與高級目標(biāo)矛盾或沖突時(shí)，必須無條件地服從高一級目標(biāo)。17在例1中，按照決策者的意志，考慮第一目標(biāo)，總產(chǎn)值達(dá)到5000元。于是，應(yīng)要求盡可能小，最好，而對則無要求。因此，在目標(biāo)函數(shù)中應(yīng)有。其中僅僅是一種符號，它表示要把極小化偏差變量列為第一重要目標(biāo)。18第二目標(biāo)，總利潤達(dá)到1000元。于是，應(yīng)要求盡可能小，最好，而對則無要求。因此，在目標(biāo)函數(shù)中應(yīng)有。其中也僅僅是一種符號，它表示要把極小化偏差變量列為第二重要目標(biāo)。192．目標(biāo)的權(quán)系數(shù)除去用優(yōu)先序數(shù)表示各個(gè)目標(biāo)之間優(yōu)先等級之外，有時(shí)同一等級幾個(gè)子目標(biāo)的重要性也不相同，通常可用加權(quán)的方法，表示同一優(yōu)先等級各子目標(biāo)之間的次序，即對同一等級各目標(biāo)的偏差變量與乘以不同的權(quán)因子與，其中與是某些正數(shù)，與統(tǒng)稱為優(yōu)先權(quán)系數(shù)或稱權(quán)因子。20在例1中，如果決策者認(rèn)為總產(chǎn)值與總利潤可以作為同一等級目標(biāo)，又根據(jù)以往產(chǎn)銷狀況判斷，產(chǎn)值每增加4元，利潤可相應(yīng)地增加1元，即產(chǎn)值每減小4元，利潤減少1元。此時(shí)，就必須在目標(biāo)函數(shù)中的兩個(gè)偏差變量賦于相應(yīng)的權(quán)系數(shù)，以反映這一點(diǎn)，即乘上系數(shù)4，乘上系數(shù)1，那么目標(biāo)函數(shù)是求最小。需要注意的是，對于不同等級的目標(biāo)，度量單位可以不同，但是同一等級的幾個(gè)子目標(biāo)，度量單位必須相同。21三、目標(biāo)函數(shù)目標(biāo)規(guī)劃把要求達(dá)到的目標(biāo)變作約束條件，為此引入偏差變量與，而把總偏差量作為新的目標(biāo)函數(shù)，把總偏差最小作為目的。這樣就把多目標(biāo)問題化為使總偏差量最小的單一目標(biāo)問題了。22在例1中，按決策者的要求，把總產(chǎn)值作為第一目標(biāo)，則目標(biāo)函數(shù)中應(yīng)有一項(xiàng)。把總利潤作為第二目標(biāo)，則目標(biāo)函數(shù)中應(yīng)有一項(xiàng)。這樣，例1的目標(biāo)函數(shù)為

目標(biāo)規(guī)劃是求在滿足所有約束條件下，求決策變量的值，使目標(biāo)函數(shù)Z值最小。若，則表示所有目標(biāo)值都能達(dá)到；若，則表示至少有一個(gè)預(yù)定的目標(biāo)值沒有達(dá)到。因?yàn)椋圆豢赡苡械那闆r。23經(jīng)過上述分析，例1的目標(biāo)規(guī)劃問題的數(shù)學(xué)模型可表示為

s.t.①②③④

24四、約束條件目標(biāo)規(guī)劃的約束條件通常由兩部分組成。一部分是由目標(biāo)約束條件組成，它們是由決策者預(yù)先擬定的目標(biāo)轉(zhuǎn)變成的。如上述問題中的約束方程式①，②。另一部分是資源約束條件，如上述問題中的約束方程式③，④。稱約束方程①，②為“軟約束”，而稱約束方程式③，④為“硬約束”。所謂“硬約束”就是硬性規(guī)定“必須滿足”的約束，而不管它實(shí)際上是否能滿足。這就是在線性規(guī)劃問題中通用的。25在線性規(guī)劃的有些問題中，沒有可行解，就是因?yàn)檎也坏綕M足全部約束條件的解。這在市場經(jīng)濟(jì)條件下，某種意義上講，它反映了一種僵化了的決策思想，它使問題毫無變通的回旋余地。針對“硬約束”的缺點(diǎn)，目標(biāo)規(guī)劃中一律采用“軟約束”。所謂“軟約束”就是希望“盡可能滿足”的約束。這種“軟約束”實(shí)際上可能會(huì)恰好滿足，也可能會(huì)不滿足，甚至超額滿足。為了衡量“軟約束”的滿足程度，對上述問題中的約束方程式③，④也引入偏差變量和。

26其中

——甲、乙兩種產(chǎn)品日使用A工序超過30小時(shí)的超額量；

——甲、乙兩種產(chǎn)品日使用A工序不足30小時(shí)的不足量；

——甲、乙兩種產(chǎn)品日使用B工序超過24小時(shí)的超額量；

——甲、乙兩種產(chǎn)品日使用B工序不足24小時(shí)的不足量。27于是，問題（5.1）可以寫成

s.t.

從計(jì)算簡便以及初始可行基的確定考慮，在用單純形法解目標(biāo)規(guī)劃時(shí)，通常對硬約束條件（資源限制條件）只引入負(fù)偏差變量，而不引入正偏差變量。28目標(biāo)規(guī)劃模型一、建立模型的步驟建立目標(biāo)規(guī)劃的數(shù)學(xué)模型可分為兩步。（一）建立多目標(biāo)線性規(guī)劃模型1．確定決策變量；2．建立各約束條件方程或不等式（資源限制）；3．建立各個(gè)有關(guān)的目標(biāo)函數(shù)。29（二）將多目標(biāo)線性規(guī)劃模型化為目標(biāo)規(guī)劃模型1．確定每個(gè)目標(biāo)的目標(biāo)值（決策者的愿望）；2．對每個(gè)目標(biāo)引入正、負(fù)偏差變量，建立目標(biāo)約束方程，將其并入約束條件中去；3．對所有的約束方程引入正、負(fù)偏差變量使成為等式（即使原約束方程是等式也可以引入偏差變量）；4．按一定優(yōu)先等級與優(yōu)先系數(shù)，以及對各項(xiàng)目標(biāo)的具體要求，建立目標(biāo)函數(shù)。30例1某公司經(jīng)銷兩種貨物，售出每噸甲貨物可盈利202元，乙貨物可盈利175元，各種貨物每噸所占用的流動(dòng)資金為683元，公司現(xiàn)有流動(dòng)資金1200萬元，貨物經(jīng)銷中有8.48%的損耗。公司的決策者希望下月能達(dá)到以下目標(biāo)。（1）第一目標(biāo)：盈利5030000元以上；（2）第二目標(biāo)：經(jīng)銷甲貨物5000噸以上；（3）第三目標(biāo)：經(jīng)銷乙貨物18000噸以上；（4）第四目標(biāo)：經(jīng)銷損耗在1950噸以下。試問應(yīng)怎樣決策？31解設(shè)分別表示下月經(jīng)銷甲、乙貨物的噸數(shù)。由問題首先建立多目標(biāo)線性規(guī)劃模型。

s.t.

32再由決策者的要求，建立目標(biāo)規(guī)劃模型。

s.t.（利潤）（甲貨物）（甲貨物）（損耗）（資金占用）

33其中是盈利超過和不足503萬元的偏差變量；是經(jīng)銷甲貨超過和不足5000噸的偏差變量；是經(jīng)銷乙貨超過和不足18000噸的偏差變量；是經(jīng)銷損耗超過和不足1950噸的偏差變量；是資金占用超過和不足1200萬元的偏差變量。34二、目標(biāo)規(guī)劃模型的矩陣形式目標(biāo)規(guī)劃模型的矩陣形式可以寫成如下標(biāo)準(zhǔn)形式。

s.t.

其中為目標(biāo)的優(yōu)先等級（共K級）；

分別為第i個(gè)目標(biāo)值的正、負(fù)偏差變量；35

分別為級目標(biāo)中的權(quán)系數(shù)；

為第i個(gè)目標(biāo)中，的相應(yīng)系數(shù)；

為決策變量；

為決策者預(yù)定的第i個(gè)目標(biāo)的目標(biāo)值。36例2將下列目標(biāo)規(guī)劃模型寫成矩陣形式

s.t.

37解

38

s.t.39矩陣中的第一行為第一等級P1中正偏差變量的權(quán)系數(shù)2，1，0；第二行為第二等級P2中正偏變量的權(quán)系數(shù)0，0，0。矩陣中的第一行為第一等級P1中負(fù)偏差變量的權(quán)系數(shù)0，0，0；第二行為第二等級P2中負(fù)偏變量的權(quán)系數(shù)0，0，1。40目標(biāo)規(guī)劃的解法圖解法、單純形法，具體從略。41主成分分析一、什么是主成分分析及基本思想1．什么是主成分分析在實(shí)際問題中，研究多指標(biāo)（變量）問題是經(jīng)常遇到的，然而在多數(shù)情況下，不同指標(biāo)之間具有一定相關(guān)性。由于指標(biāo)較多再加上指標(biāo)之間有一定的相關(guān)性，勢必增加了分析問題的復(fù)雜性。主成分分析就是設(shè)法將原來指標(biāo)重新組合成一組新的互相無關(guān)的幾個(gè)綜合指標(biāo)來代替原來指標(biāo)，同時(shí)根據(jù)實(shí)際需要從中可取幾個(gè)較少的綜合指標(biāo)盡可能多地反映原來指標(biāo)的信息。42這種將多個(gè)指標(biāo)化為少數(shù)互相無關(guān)的綜合指標(biāo)的統(tǒng)計(jì)方法叫做主成分分析或稱主分量分析。也是數(shù)學(xué)上處理降維的一種方法，例如，某人要做一件上衣要測量很多尺寸，如身長、袖長、胸圍、腰圍、肩寬、肩厚等十幾項(xiàng)指標(biāo)，但某服裝廠要生產(chǎn)一批新型服裝絕不可能把尺寸的型號分得過多，而是從多種指標(biāo)中綜合成幾個(gè)少數(shù)的綜合指標(biāo)，做為分類的型號，利用主成分分析將十幾項(xiàng)指標(biāo)綜合成3項(xiàng)指標(biāo)，一項(xiàng)是反映長度的指標(biāo)，一項(xiàng)是反映胖瘦的指標(biāo)，一項(xiàng)是反映特體的指標(biāo)。在商業(yè)經(jīng)濟(jì)中用主成分分析可將復(fù)雜的一些數(shù)據(jù)綜合成幾個(gè)商業(yè)指數(shù)形式，如物價(jià)指數(shù)等等。43主成分分析除了可以單獨(dú)用來處理上面所討論的這一類問題外，還可以與其它方法結(jié)合起來使用，例如與回歸分析結(jié)合起來就是主成分回歸，它可以克服回歸問題中由于自變量之間的高度相關(guān)而產(chǎn)生的分析困難。442．基本思想主成分分析就是設(shè)法將原來眾多具有一定相關(guān)性的指標(biāo)（比如p個(gè)指標(biāo)），重新組合成一組新的相互無關(guān)的綜合指標(biāo)來代替原來指標(biāo)。通常數(shù)學(xué)上的處理就是將原來p個(gè)指標(biāo)作線性組合，作為新的綜合指標(biāo)，但是這種線性組合，如果不加限制，則可以有很多，我們應(yīng)該如何去選取呢？如果將選取的第一個(gè)線性組合即第一個(gè)綜合指標(biāo)記為F1，自然希望F1盡可能多的反映原來指標(biāo)的信息，這里的“信息”用什么來表達(dá)？最經(jīng)典的方法就是用F1的方差來表達(dá)，即Var（F1

）越大，表示包含的信息越多。45因此在所有的線性組合中所選取的F1應(yīng)該是方差最大的，故稱為第一主成分。如果第一主成分不足以代表原來p個(gè)指標(biāo)的信息，再考慮選取F2即選第二個(gè)線性組合，為了有效地反映原來信息，F(xiàn)1已有的信息就不需要再出現(xiàn)在F2中，用數(shù)學(xué)語言表達(dá)就是要求Cov(F1

,F2

)=0，稱F2為第二主成分，依此類推可以造出第三，四，……，第p個(gè)主成分。46不難想象這些主成分之間不僅不相關(guān)，而且它們的方差依次遞減。因此在實(shí)際工作中，就挑選前幾個(gè)最大主成分，雖然這樣做會(huì)損失一部分信息，但是由于它使我們抓住了主要矛盾，并從原始數(shù)據(jù)中進(jìn)一步提取了某些新的信息，因而在某些實(shí)際問題的研究中得益比損失大，這種既減少了變量的數(shù)目又抓住了主要矛盾的做法有利于問題的分析和處理。47二、主成分分析的數(shù)學(xué)模型及幾何解釋1．?dāng)?shù)學(xué)模型設(shè)有n個(gè)樣品，每個(gè)樣品觀測p項(xiàng)指標(biāo)（變量）：，得到原始數(shù)據(jù)資料陣：

其中

48用數(shù)據(jù)矩陣X的p個(gè)向量（即p個(gè)指標(biāo)向量）作線性組合（即綜合指標(biāo)向量）為：

簡寫成（注意：是n維向量，所以也是n維向量。）49上述方程組要求：

且系數(shù)由下列原則決定：（1）與不相關(guān)；（2）是的一切線性組合（系數(shù)滿足上述方程組）中方差最大的，是與不相關(guān)的一切線性組織中方差最大的，…，是與都不相關(guān)的的一切線性組合中方差最大的。50如何求滿足上述要求的方程組的系數(shù)呢？下一節(jié)將會(huì)看到每個(gè)方程式中的系數(shù)向量，不是別的而恰好是X的協(xié)差陣的特征值所對應(yīng)的特征向量，也就是說，數(shù)學(xué)上可以證明使Var（F1）達(dá)到最大，這個(gè)最大值是在的第一個(gè)特征值所對應(yīng)特征向量處達(dá)到。依此類推使達(dá)到最大值是在的第p個(gè)特征值所對應(yīng)特征向量處達(dá)到。51這里要說明兩點(diǎn)：一個(gè)是數(shù)學(xué)模型中為什么作線性組合？基于兩種原因：①數(shù)學(xué)上容易處理；②在實(shí)踐中效果很好。另一個(gè)要說明的是每次主成分的選取使最大，如果不加限制就可使，則就無意義了，而常用的限制是要求。522．主成分的幾何意義從代數(shù)學(xué)觀點(diǎn)看主成分就是p個(gè)變量的一些特殊的線性組合，而在幾何上這些線性組合正是把構(gòu)成的坐標(biāo)系旋轉(zhuǎn)產(chǎn)生的新坐標(biāo)系，新坐標(biāo)軸使之通過樣品變差最大的方向（或說具有最大的樣品方差）。下面以最簡單的二元正態(tài)變量來說明主成分的幾何意義。53設(shè)有n個(gè)樣品，每個(gè)樣品有p個(gè)變量，它們的綜合變量記為。當(dāng)p=2時(shí)，原變量是設(shè)，它們有下圖的相關(guān)關(guān)系：54對于二元正態(tài)分布變量，n個(gè)點(diǎn)的散布大致為一個(gè)橢圓，若在長軸方向取坐標(biāo)軸F1，在短軸方向取F2，這相當(dāng)于在平面上作一個(gè)坐標(biāo)變換，即按逆時(shí)針方向旋轉(zhuǎn)角度，根據(jù)旋軸變換公式新老坐標(biāo)之間有關(guān)系。

55我們看到是原變量的線性組合，用矩陣表示是

顯然且是正交矩陣，即56從上圖還容易看出二維平面上的n個(gè)點(diǎn)的波動(dòng)（可用方差表示）大部分可以歸結(jié)為在F1軸上的波動(dòng)，而在F2軸上的波動(dòng)是較小的。如果上圖的橢圓是相當(dāng)扁平的，那么我們可以只考慮F1方向上的波動(dòng)，忽略F2方向的波動(dòng)。這樣一來，二維可以降為一維了，只取第一個(gè)綜合變量F1即可。而F1是橢圓的長軸。一般情況，p個(gè)變量組成p維空間，n個(gè)樣品就是p維空間的n個(gè)點(diǎn)，對p元正態(tài)分布變量來說，找主成分的問題就是找p維空間中橢球體的主軸問題。57三、主成分的推導(dǎo)及性質(zhì)在下面推導(dǎo)過程中，要用到線性代數(shù)中的兩個(gè)定理先作一下復(fù)習(xí)：定理一若A是階實(shí)對稱陣，則一定可以找到正交陣U使，其中是A的特征根58

定理二若上述矩陣A的特征根所對應(yīng)的單位特征向量為令則實(shí)對稱A屬于不同特征根所對應(yīng)的特征向量是正交的即。591．主成分的推導(dǎo)設(shè)其中，，求主成分就是尋找X的線性函數(shù)使相應(yīng)的方差盡可能地大即使

達(dá)到最大值，且。60設(shè)協(xié)差陣的特征根為，相應(yīng)的單位特征向量為，可以證明：的主成分就是以的特征向量為系數(shù)的線性組合，它們互不相關(guān)，其方差為的特征根。61由于的特征根，所以有：。了解這一點(diǎn)也就可以明白為什么主成分的名次是按特征根取值大小的順序排列的。在解決實(shí)際問題時(shí)，一般不是取p個(gè)主成分，而是根據(jù)累計(jì)貢獻(xiàn)率的大小取前k個(gè)。62定義稱第一主成分的貢獻(xiàn)率為，由于，所以

。因此第一主成分的貢獻(xiàn)率就是第一主成分的方差在全部方差中的比值。這個(gè)值越大，表明第一主成分綜合信息的能力越強(qiáng)。63前兩個(gè)主成分的累計(jì)貢獻(xiàn)率定義為，前k個(gè)主成分的累計(jì)貢獻(xiàn)率定義為。如果前k個(gè)主成分的貢獻(xiàn)率達(dá)到85%，表明取前k個(gè)主成分基本包含了全部測量指標(biāo)所具有的信息，這樣既減少了變量的個(gè)數(shù)又便于對實(shí)際問題的分析和研究。值得指出的是：當(dāng)協(xié)差陣未知時(shí)，可用其估計(jì)值S（樣本協(xié)差陣）來代替。64設(shè)原始資源陣為：

則其中65而相關(guān)系數(shù)陣：其中顯然當(dāng)原始變量標(biāo)準(zhǔn)化后，則

66實(shí)際應(yīng)用時(shí)，往往指標(biāo)的量綱不同，所以在計(jì)算之前先消除量綱的影響，而將原始數(shù)據(jù)標(biāo)準(zhǔn)化，這樣一來S和R相同。因此一般求R的特征根和特征向量，并且不妨取。因?yàn)檫@時(shí)的R與只差一個(gè)系數(shù)，顯然與的特征根相差n倍，但它們的特征向量不變，它并不影響求主成分。672．主成分的主要性質(zhì)（略）68四、計(jì)算步驟及實(shí)例設(shè)有n個(gè)樣品，每個(gè)樣品觀測p個(gè)指標(biāo)，將原始數(shù)據(jù)寫成矩陣

1．將原始數(shù)據(jù)標(biāo)準(zhǔn)化。這里為書寫方便，不妨設(shè)上述矩陣已標(biāo)準(zhǔn)化了。2．建立變量的相關(guān)系數(shù)陣：不妨設(shè)693．求R的特征根及相應(yīng)的單位特征向量：

4．寫出主成分

實(shí)例（略）70因子分析一、什么是因子分析及基本思想因子分析的形成和發(fā)展有相當(dāng)長的歷史，最早用以研究解決心理學(xué)和教育學(xué)方面的問題，由于計(jì)算量大，又缺少高速計(jì)算的設(shè)備使因子分析的應(yīng)用和發(fā)展受到很大的限制，甚至停滯了很長時(shí)間。后來由于電子計(jì)算機(jī)的出現(xiàn)，才使因子分析的理論研究和計(jì)算問題，有了很大的進(jìn)展。目前這一方法的應(yīng)用范圍已十分廣泛，在經(jīng)濟(jì)學(xué)、社會(huì)學(xué)、考古學(xué)、生物學(xué)、醫(yī)學(xué)、地質(zhì)學(xué)以及體育科學(xué)等各個(gè)領(lǐng)域都取得了顯著的成績。711．什么是因子分析因子分析是主成分分析的推廣和發(fā)展，它也是將具有錯(cuò)綜復(fù)雜關(guān)系的變量（或樣品）綜合為數(shù)量較少的幾個(gè)因子，以再現(xiàn)原始變量與因子之間的相互關(guān)系，同時(shí)根據(jù)不同因子還可以對變量進(jìn)行分類，它也是屬于多元分析中處理降維的一種統(tǒng)計(jì)方法。72例如，某公司對100名招聘人員的知識和能力進(jìn)行測試，出了50道題的試卷，其內(nèi)容包括的面較廣，但總的來講可歸納為六個(gè)方面：語言表達(dá)能力、邏輯思維能力、判斷事物的敏捷和果斷程度、思想修養(yǎng)、興趣愛好、生活常識等，我們將每一個(gè)方面稱為因子，顯然這里所說的因子不同于回歸分析中因素，因?yàn)榍罢呤潜容^抽象的一種概念，而后者有著極為明確的實(shí)際意義，如人口密度、工業(yè)總產(chǎn)值、產(chǎn)量等。73假設(shè)100人測試的分?jǐn)?shù)可以用上述六個(gè)因子表示成線性函數(shù)：

其中表示六個(gè)因子，它對所有是共有的因子，通常稱為公共因子，它們的系數(shù)稱為因子載荷，它表示第i個(gè)應(yīng)試人員在六個(gè)因子方面的能力。是第i個(gè)應(yīng)試人的能力和知識不能被前六個(gè)因子包括的部分，稱為特殊因子，通常假定，仔細(xì)觀察這個(gè)模型與回歸模型在形式上有些相似，實(shí)質(zhì)很不同。這里的的值未知的，并且有關(guān)參數(shù)的統(tǒng)計(jì)意義更不一樣。74因子分析的任務(wù)，首先是估計(jì)出和方差，然后將這些抽象因子賦予有實(shí)際背景的解釋。利用綜合出的少數(shù)因子，以再現(xiàn)原始變量和因子之間的相互關(guān)系，以達(dá)到降維和對原始變量進(jìn)行分類的目的。752．基本思想因子分析的基本思想是通過變量（或樣品）的相關(guān)系數(shù)矩陣（對樣品是相似系數(shù)矩陣）內(nèi)部結(jié)構(gòu)的研究，找出能控制所有變量（或樣品）的少數(shù)幾個(gè)隨機(jī)變量去描述多個(gè)變量（或樣品）之間的相關(guān)（相似）關(guān)系，但在這里，這少數(shù)幾個(gè)隨機(jī)變量是不可觀測的，通常稱為因子。然后根據(jù)相關(guān)性（或相似性）的大小把變量（或樣品）分組，使得同組內(nèi)的變量（或樣品）之間相關(guān)性（或相似性）較高，但不同組的變量相關(guān)性（或相似性）較低。76

從全部計(jì)算過程來看作R型因子分析與作Q型因子分析都是一樣的，只不過出發(fā)點(diǎn)不同，R型從相關(guān)系數(shù)矩陣出發(fā)，Q型從相似系數(shù)陣出發(fā)都是對同一批觀測數(shù)據(jù)，可以根據(jù)其所要求的目的決定用哪一類型的因子分析。77二、因子分析的數(shù)學(xué)模型1．?dāng)?shù)學(xué)模型（正交因子模型）因子分析數(shù)學(xué)模型用矩陣表示：

78簡記為

且滿足：；，即F和是不相關(guān)的；79即不相關(guān)且方差皆為1。即不相關(guān)，且方差不同。80其中是可實(shí)測的p個(gè)指標(biāo)所構(gòu)成p維隨機(jī)向量，是不可觀測的向量，F(xiàn)稱為X的公共因子或潛因子，即前面所說的綜合變量，可以把它們理解為在高維空間中的互相垂直的m個(gè)坐標(biāo)軸；稱為因子載荷是第i個(gè)變量在第j個(gè)公共因子上的負(fù)荷，如果把變量看成m維因子空間中的一個(gè)向量，則表示在坐標(biāo)軸上的投影，矩陣A稱為因子載荷矩陣；稱為X的特殊因子，通常理論上要求的協(xié)方差陣是對角陣，中包括了隨機(jī)誤差。81因子分析的目的就是通過模型以F代替X，由于