1、第8章判別分析一、判別分析簡(jiǎn)介一、判別分析簡(jiǎn)介 判別分析是一種應(yīng)用性很強(qiáng)的統(tǒng)計(jì)方法。它通常是根據(jù)已有的數(shù)據(jù)資料，來建立一種判別方法，然后再來判斷一個(gè)新的樣品歸屬于哪一類。 例如，醫(yī)院擁有以往就診的各種病人的資料，包括他們的心率、血壓、體溫、化驗(yàn)指標(biāo)等很多數(shù)據(jù)。現(xiàn)在有一個(gè)新的病人來醫(yī)院就診，對(duì)他也測(cè)量了相關(guān)的指標(biāo)數(shù)據(jù)，要判斷他患有哪一種病，這就屬于一個(gè)判別歸類的問題。又如，在礦產(chǎn)勘探中積累了豐富的地質(zhì)資料，現(xiàn)在某地區(qū)新采到了一個(gè)巖石標(biāo)本，要從它的基本特征判斷該地區(qū)有無礦產(chǎn)，是貧礦還是富礦，則也需要進(jìn)行判別分析。二、一般判別分析二、一般判別分析1、距離判別法、距離判別法 距離判別法是通過計(jì)算距離函

2、數(shù)來進(jìn)行判別，即樣品與哪個(gè)總體之間的距離最近，則判斷它屬于哪個(gè)總體。如何衡量樣品與總體間的這種抽象的距離？我們一般利用馬氏距離來描述。 二、一般判別分析二、一般判別分析2、Bayes判別法判別法 前一節(jié)介紹距離判別法十分簡(jiǎn)便實(shí)用，但是也存在一些缺點(diǎn)。例如，距離判別法沒有考慮到關(guān)于總體的先驗(yàn)概率，而且沒有考慮可能出現(xiàn)錯(cuò)判而帶來的損失。Bayes判別法正是為了克服這些缺陷而提出來的一種判別方法。 Bayes判別法是基于Bayes統(tǒng)計(jì)的思想，即假定事先對(duì)所研究的對(duì)象有一定的了解，并通過先驗(yàn)概率分布來進(jìn)行描述，當(dāng)抽取樣本后，用樣本來修正先驗(yàn)概率分布，并得到后驗(yàn)概率分布，然后根據(jù)后驗(yàn)概率分布進(jìn)行各種統(tǒng)計(jì)

3、推斷。 Bayes判別法首先計(jì)算給定樣品屬于各個(gè)總體的條件概率，然后比較這些概率值的大小，將樣品判歸于條件概率最大的總體。 一般判別分析一般判別分析DISCRIM過程過程PROC DISCRIM DATA=數(shù)據(jù)集名 ; CLASS 分類變量名; VAR 變量名列表; PRIORS 概率值; BY 分組變量名;RUN;一般判別分析一般判別分析DISCRIM過程過程一般判別分析一般判別分析DISCRIM過程過程二、一般判別分析二、一般判別分析3、DISCRIM過程過程語句說明： （1）PROC語句用于規(guī)定開始運(yùn)行DISCRIM過程并指定要分析的數(shù)據(jù)集名。選項(xiàng)有： TESTDATA=數(shù)據(jù)集名指定需要

4、進(jìn)行分類的觀測(cè)組成的數(shù)據(jù)集。該數(shù)據(jù)集中定量變量的名稱必須和DATA=數(shù)據(jù)集中的定量變量的名稱相匹配。 METHOD=選項(xiàng)規(guī)定進(jìn)行分類的方法。 LIST規(guī)定對(duì)每個(gè)觀測(cè)顯示重新分類的結(jié)果。 TESTLIST規(guī)定顯示TESTDATA=數(shù)據(jù)集中觀測(cè)的分類結(jié)果。 二、一般判別分析二、一般判別分析3、DISCRIM過程過程 （2）CLASS語句用于規(guī)定分類變量，可以是數(shù)值型變量也可以是字符型變量。分類變量的不同取值則代表了不同的類別。 （3）VAR語句用于規(guī)定要分析的定量變量。若不使用此語句，則默認(rèn)分析數(shù)據(jù)集中所有的數(shù)值型變量。 （4）PRIORS語句用于規(guī)定各類別的先驗(yàn)概率。 （5）BY語句規(guī)定了分組變

5、量，它使得BY過程對(duì)分組內(nèi)進(jìn)行處理。在使用BY語句前，應(yīng)對(duì)數(shù)據(jù)集按照分組變量進(jìn)行排序。三、典型判別分析三、典型判別分析1、Fisher判別法判別法 典型判別分析采用了與主成分分析和典型相關(guān)分析類似的降維技術(shù)，以找到能最好概括類別區(qū)分的變量的線性組合。降維時(shí)要求同一類中的區(qū)別盡可能小，而不同類間的區(qū)別盡可能大。 典型判別分析典型判別分析CANDISC過程過程PROC CANDISC DATA=數(shù)據(jù)集名 ; CLASS 分類變量名; VAR 變量名列表; BY 分組變量名;RUN;典型判別分析典型判別分析CANDISC過程過程典型判別分析典型判別分析CANDISC過程過程典型判別分析典型判別分析D

6、ISCRIM過程過程PROC DISCRIM DATA=典型變量數(shù)據(jù)集; CLASS 分類變量名; VAR 典型變量名;RUN;四、逐步判別分析四、逐步判別分析1、基本原理、基本原理 逐步判別分析考察了p維指標(biāo)（即p個(gè)變量）對(duì)總體的區(qū)分能力是否顯著，對(duì)判別分類不起作用的變量則予以刪除，優(yōu)化了判別的效果。 逐步判別的基本思想與我們?cè)谏弦徽陆榻B的逐步回歸相似：在建立判別函數(shù)時(shí)逐個(gè)引入變量，每一步選擇都一個(gè)判別能力最顯著的變量進(jìn)入判別函數(shù)，同時(shí)對(duì)已有的變量也進(jìn)行檢驗(yàn)，將不顯著的變量剔除。直到在可選的變量中，既沒有變量被選入也沒有變量被刪除為止。這樣在最后得到的判別函數(shù)中，所有變量都是顯著的。通過使用

7、逐步判別法，提高了判別樣品的能力，也增強(qiáng)了判別函數(shù)的穩(wěn)定性。 STEPDISC過程過程PROC STEPDISC DATA=數(shù)據(jù)集名 ; CLASS 分類變量名; VAR 變量名列表; BY 分組變量;RUN;逐步判別分析逐步判別分析STEPDISC過程過程逐步判別分析逐步判別分析STEPDISC過程過程逐步判別分析逐步判別分析2、STEPDISC過程過程語句說明： （1）PROC語句用于規(guī)定運(yùn)行STEPDISC過程，并指定要分析的數(shù)據(jù)集名。選項(xiàng)有： METHOD=選項(xiàng)規(guī)定對(duì)判別函數(shù)中的變量進(jìn)行選擇的方法。 （2）CLASS語句用于規(guī)定分類變量，可以是數(shù)值型變量也可以是字符型變量。分類變量的不同取值則代表了不同的類別。 （3）VAR語句用于規(guī)定要篩選的定量變量。若不使用此語句，則默認(rèn)篩選數(shù)據(jù)集中所有的數(shù)值型變量。 （4）BY語句規(guī)定了分組變量，它使得BY過程對(duì)分組內(nèi)進(jìn)行處理。在使用BY語句前，應(yīng)對(duì)數(shù)據(jù)集按照分組變量進(jìn)行排序。 四、逐步判別分析四、逐步判別分析DISCRIM過程過程 在進(jìn)行逐步判別分析時(shí)，使用STEPDISC