可疑數據的取舍_第1頁
可疑數據的取舍_第2頁
可疑數據的取舍_第3頁
可疑數據的取舍_第4頁
可疑數據的取舍_第5頁
免費預覽已結束,剩余1頁可下載查看

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

1、如果您需要使用本文檔,請點擊下載按鈕下載!可疑數據的取舍21.3.3.1 可疑數據的取舍為了使分析結果更符合客觀實際,必須剔除明顯歪曲試驗結果的測定數據。正常數據總是有一定的分散性,如果人為刪去未經檢驗斷定其離群數據(Outliers)的測定值(即可疑數據),由此得到精密度很高的測定結果并不符合客觀實際。因此對可疑數據的取舍必須遵循一定原則。1. 取舍原則(1)測量中發現明顯的系統誤差和過失錯誤,由此而產生的分析數據應隨時剔除。(2)可疑數據的取舍應采用統計學方法判別,即離群數據的統計檢驗。2. 大樣本離群數據的取舍(三倍標準差法):根據正態分布密度函數,設測定值為Xi,可表示為Xi+3S X

2、i 3S。若Xi在Xi3S范圍內,此數據可用;若在Xi3S范圍外,此數據不可用,須舍棄(亦稱萊特準則)。該判斷的置信度在99.7%以上,但測定次數增多時,出現可疑值機會就隨之增加,應將取舍標準改變如下。先計算多次測定結果的平均值X和標準差S,再計算Z值: X=X1 + X2 + +Xn / n (n 為包括可疑值尾數在內的測定次數)S = X2 -(X)2/n / (n-1)Z=(X- X ) / S (X 為可疑值)然后查正態分布表,得對應于Z值的a值。如 n a0.1,則不舍棄。例如:土壤全氮的5次平行測定結果(gkg-1)為1.52,1.48,1.65,1.85,1.45。其中1.85為

3、可疑值,需判斷取舍。計算平均值X=1.59;S=0.164;Z=(1.851.59)/0.164=1.585。查正態分布表a=0.0565,na=50.0565=0.2825,因na0.1,可疑值1.85gkg-1不予舍棄。3. 小樣本離群數據取舍(n為有限數):有幾個統計檢驗方法來估測可疑數據,包括Dixon,Grubbs,Cochran和Youden檢驗法??梢詫σ粋€樣品,一批樣品,一臺儀器或一組數據中可疑數據的檢驗?,F介紹最常用的兩種方法。(1)狄克遜(Dixon)檢驗法:此法適用于一組測量值的一致性檢驗和剔除離群值,本法中對最小可疑值和最大可疑值進行檢驗的公式因樣本的容量n的不同而異,

4、檢驗方法如下:將一組測量數據從小到大順序排列為X1、X2X3,X1和Xn分別為最小可疑值和最大可疑值,按表21.3計算公式求Q值。根據表21.4中給定的顯著性水平a和樣本容量n查得臨界值Qa。若QQ0.05,則檢驗的可疑值為正常值;若Q0.05Q0.01,則可疑值為離群值,應舍去。表21.2 Dixon檢驗統計量Q計算公式n值范圍可疑值為最小值X1時可疑值為最大值Xn時37Q=(X2-X1)/(Xn-X1)Q=(Xn-Xn-1)/(Xn-X1)810Q=(X2-X1)/(Xn-1-X1)Q=(Xn-Xn-1)/(Xn-X2)1113Q=(X3-X1)/(Xn-1-X1)Q=(Xn-Xn-2)/

5、(Xn-X2)1425Q=(X3-X1)/(Xn-2-X1)Q=(Xn-Xn-2)/(Xn-X3)表21.3 Dixon檢驗臨界值表*顯著性水平n34567891011Q0.050.9410.7650.642 0.560 0.507 0.554 0.512 0.477 0.576Q0.010.9880.8890.7800.6980.637 0.683 0.635 0.597 0.679顯著性水平n121314151617181920Q0.050.5460.5210.5460.5250.5070.4900.4750.4620.450Q0.010.6420.6150.6410.6160.5950.

6、5770.5610.5470.535摘自農畜水產品品質化學分析,544頁。鮑士旦主編,中國農業出版社,1996,544。表21.4 Grubbs檢驗臨界值表*顯著性水平n34567891011T0.051.1531.4631.6721.8221.9382.0322.1102.1762.234T0.011.1551.4921.7491.9442.0972.2212.3232.4102.485顯著性水平n121314151617181920T0.052.2852.3312.3712.4092.4432.4752.5042.5322.557T0.012.5502.6072.6592.7052.747

7、2.7852.8212.8542.884* 摘自農畜水產品品質化學分析,544頁。鮑士旦主編,中國農業出版社,1996,544。(2)格魯勃斯(Grubbs)檢驗法:此法適用于檢驗多組測量值的均值的一致性和剔除多組測量值中的離群均值,也可以用于檢驗一組測量值一致性和剔除一組測量值中離群值。方法如下:在一組測量值中,依從小到大順序排列為X1,X2,X3Xn,若對最小值X1或最大值Xn可疑時,進行下列計算:T = (X -X1) / ST = ( Xn -X) / S式中X1為最小值,Xn為最大值,X為平均值,S為標準差。若根據測定次數(n)和給定的顯著性水平a,從表21.5查得Ta臨界值。若TT

8、0.05,則可疑值為正常值;若T0.05T0.01,則可疑值為離群值,應舍去。舍去離群值后,再計算X和S,再對第二個極值進行檢驗。 21.3.3.2 有效數字修約規則有效數字修約按國家標準GB1.1-81附錄C“數字修約規則”的規定進行,具體如下:1. 擬舍棄數字的最左一位數字小于5時,則舍去,即擬保留的末位數字不變。例如,將12.1498修約到一位小數得12.1;修約成兩位有效位數得12。2. 擬舍棄數字的最左一位數大于(或等于)5,而其右邊的數字并非全部為0時,則進一,即所擬保留的末位數字加一。例如,10.61和10.502修約成兩位有效數字均得11。3. 擬舍棄的數字的最左一位數為5,而

9、其右邊的數字皆為0時,若擬保留的末位數字為奇數則進一,為偶數(包括“0”)則舍棄。例如,1.050和0.350修約到一位小數時,分別得1.0和0.4。 4. 所擬舍棄的數字,若為兩位以上數字時不得連續多次修約,應按上述規定一次修約出結果。例如,將15.4546修約成兩位有效數字,應得15,而不能15.454615.45515.4615.516。取舍原則可簡記為:“四舍六入五留雙”或“四舍五入,奇進偶舍”。21.3.3.3 有效數字的運算規則1. 加法和減法運算規則:先將全部數字進行運算,而后對和或差修約,其小數點后有效數字的位數應與各數字中的小數點后的位數最少者相同。例如,4.007-2.0025-1.05=0.95450.95。2. 乘法和除法運算規則:先用全部數字進行運算,而后對積或商修約,其有效數字的位數應和參加運算的數中有效數字位數最小者相同。例如,7.783.486=27.1210827.1。3. 對數運算規則:進行對數運算時,對數值的有效數字位數只由尾數部分的

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論