化學分析中有效數字運用規范_第1頁
化學分析中有效數字運用規范_第2頁
化學分析中有效數字運用規范_第3頁
化學分析中有效數字運用規范_第4頁
化學分析中有效數字運用規范_第5頁
已閱讀5頁,還剩11頁未讀 繼續免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

1DB14/TXXXXX—XXXX化學分析中有效數字運用規范本標準規定了化學分析中有效數字運用規范,主要包括術語和定義、有效數字位數確定規則、數字修約及近似數計算規則。本標準適用于化學分析實驗室有效數字運用,并滿足RB/T214《檢驗檢測機構資質認定能力評價-檢驗檢測機構通用要求》對檢測結果的要求。本標準不適用于物理分析實驗室。然而,物理分析實驗室可將本標準的部分內容作為參考。2規范性引用文件下列文件對于本文件的應用是必不可少的。凡是注日期的引用文件,僅所注日期的版本適用于本文件。凡是不注日期的引用文件,其最新版本(包括所有的修改單)適用于本文件。GB/T8170—2008數字修約規則與極限數值的表示和判定GB/T19000—2016質量管理體系基礎和術語JJF1001—2011通用計量術語及定義3術語和定義GB/T19000—2016界定的以及下列術語和定義適用于本標準。JJF1001—2011通用計量術語及定義3.1有效數字significantfigure一個數,實際工作中能夠測量到的數字,包括最后一位估計的不確定的數字。注:一般情況下,不確定數字位于數字最后,且為1位,3.2直接測量directmeasurement直接從測量儀表讀數獲取被測量量值的方法。注:直接測量的特點是不需要對被測量與其他實測的量進3.3間接測量indirectmeasurement待測量是1個或多個直接測量的量,通過函數計算得到。3.4準確數accuratenumber一個數,能表示原來物體或事件的實際數量。2DB14/TXXXXX—XXXX3.5近似數approximatenumber一個與準確數相近的數,即經過四舍五入、進一法或去尾法等方法得到的一個與原始數據相差不大的一個數。3.6測量結果measurementresult,resultofmeasurement【JJF10015.1】與其他有用的相關信息一起賦予被測量的一組量值。4有效數字位數確定規則4.1有效數字視為無限位數的情形4.1.1有效數字視為無限位數的,系非測量,按計算式中需要而定。4.1.2化學反應基本單元的系數(如H2SO4中的,K2Cr2O7中的)、化學元素和原子團的化合價(或所帶電荷數)等。4.1.3我國法定計量單位、由法定計量單位構成的組合單位、由詞頭和以上單位所構成的十進倍數和分數單位、原子量、分子量(含原子團,如H20、NH等)以及化學反應基本單元的摩爾質量、阿佛加德羅常數值等。4.1.4用優級純試劑、高純試劑、基準試劑、標準物質等配制標準溶液時,其純度的有效數字位數;計量基準器具、高一級的計量標準器具所給出的量值,如國家標準物質給出的量值等;標準中規定的限值等。4.1.5常數和某些倍數、分數以及其他不連續物理量的數目,包含以下幾種情形:a)純凈單質和純凈化合物的化學組成的化學計量單元數,如單質Cu中的原子數目1和H2O中的原子數目2,1等;b)單標線量器、容器,如單標線移液管、移液器、容量瓶等的量值;c)數學中的常數π、e,各種計算公式中的系數,測定次數、統計數據的個數n,數理統計中的自由度f、各種臨界值以及其他取自手冊上的數據等。4.1.6其他未涉及到的情形,實驗室可參照上述條款及后文中的情形,以確定是否為無限位數。4.2有效數字為有限位數的情形4.2.1連續物理量,對具有連續分度的計量器具(如滴定管),在讀取和記錄測量結果時,應比其最小分度值再多估讀和記錄一位有效數字,或者說,測量結果的有效數字位數應達到其最小分度值的后一位,即保留、也只能保留一位可疑(不確定)數字。當最小分度值為次小分度值的0.1或0.2單位時,讀數的有效數字位數應達到次小分度值的百分位;當最小分度值為次小分度值的0.5單位時,讀數的有效數字位數應達到次小分度值的十分位。3DB14/TXXXXX—XXXX4.2.2統計計算量,統計計算中,以多次重復檢測結果的平均值作為最終的結果。其有效數字位數決定于用平均值的標準偏差計算的測量不確定度的有效數字位數。一般情況下,測量不確定度有效數字取1位,最多為2位。應把測量不確定度影響到的那l位數定為平均值的有效數字最后1位。注:本標準附錄A給出了統計計算量有效數字位數確4.2.3間接測量,間接測量中儀器顯示的原始數據,如色譜儀顯示的峰面積或峰高、ICP顯示的譜線強度、原子吸收光譜儀顯示的吸光度等,其有效數字位數應按附錄A給出的方法確定。4.2.4乘方和開方,當對一個數進行乘方或開方時,計算結果的有效數字位數與此數的有效數字位數相同。4.2.5對數和三角函數,小數點位數(不包括首數,首數用于定位,不是有效數字)應與真數的有效數字位數相同。示例:pH=2.08和cH+=8.3×10mol/L都是2位有效數字(4.2.6指數函數,指數函數10x或ex的有效數字位數和x小數點后的位數相同(包括緊接小數點后面的0)。示例:10=177827.9411.8×1010=1.1284959381.1284.2.7單位換算,如需通過系數將一個量值轉換成單位不同的新量值,系數應視為無限有效數字位數,轉換后量值的精度不能高于原量值。4.2.8標準溶液,標準溶液的有效數字,可根據前述原則確定。標準滴定溶液的有效數字位數基準物質稱量不能少于0.2g。標定時稱取的基準物質,取樣量要位于消耗待標定溶液20mL~40mL之間。質量數值<0.5g時,按精確至0.0lmg稱量,質量數值>0.5g時,按精確至0.lmg稱量。其有效數字位數取決于滴定管的有效數字位數,運算過程保留五位有效數字,濃度值報告四位有效數字。4.2.90的情形,數字中“0”可以是有效數字,也可以作為數字定位。數字之間的“0”和末尾的“0”都是有效數字,而數字前面所有的“0”只起定位作用。4.2.10科學計數法,對包含無效零的數和以“0”結尾的正整數,,應采用科學記數法,即記成±a×10n,其中1≤a<10,n是整數,一般只保留1位可疑數字,多余的數字按數字修約規則處理。5數據修約規則及近似數計算規則4DB14/TXXXXX—XXXX5.1數據修約按照GB/T8170-2008第3章的要求進行。5.2直接測量中有效數字確定規則應根據分析方法與儀器的準確度來決定,讀至儀器誤差所在的位置。注:本標準附錄B給出了部分玻璃量器有效數字應保留至小數點5.3間接測量中有效數字確定規則a)當所依據的國家及行業標準方法對測量結果有明確規定,按照標準方法確定測量結果的有效數字。b)對于檢測方法標準中未對檢測結果的表示提出有效數字規定的,應按照檢測方法標準的測定下限來確定測量結果的有效數字,并且測量結果的有效數字應該為2位或3位。c)對于未給出測定下限的標準方法,可以參考方法的檢出限來確定測量結果的有效數字。d)標準偏差和相對標準偏差一般取1位有效數字,最多取2位有效數字e)回歸方程中的相關系數一般取4位有效數字。f)校正因子一般應保留4位或5位有效數字。g)在一系列操作中,使用多種計量儀器(量器)時,有效數字以最少的一種計量儀器(量器)的位數表示。5.4間接測量中近似數計算規則5.4.1總則a)測量結果必須保留、也只能保留1位不確定數字。b)測量結果的表達應盡可能少的無效零,按4.2.10的要求,采用科學記數法。d)對于第一位有效數字≥8時,有效數字位數可以多計1位。e)一些倍數和分數的關系,如:水的分子量18.2中“2”是非測量所得到的數,有效位數可視為無限的。f)在實際運算中,先將各近似值修約到比有效數字位數最少者多保留1位有效數字,再將計算結果按相應規則處理。g)使用計算器計算時,可在運算過程中適當保留較多的位數,對中間結果不進行修約,只將最后結果修約到應保留的位數。5.4.2加減法a)幾個近似值相加減時,保留有效數字的位數,以小數點后位數最少的為準,即以絕對誤差最大的為準。b)當參與計算的數字帶有測量不確定度時,可通過計算最終結果的測量不確定度來確定最終結果的有效數字位數。c)當兩個很接近的近似數值相減時,其差的有效數字位數會有損失,因此,應注意組織好計算程序,盡量避免這種損失。5.4.3乘除法5DB14/TXXXXX—XXXXa)近似值相乘除時,保留有效數字的位數,以有效位數最少的數為準,即以相對誤差最大的數為b)當參與計算的各數附有測量不確定度時,可通過計算最終結果的不確定度,來決定最終結果的有效數字位數。示例:試計算近似數3.51×8.5的結果。解:3.51的絕對誤差=0.01,相對誤差=;8.5的絕對誤差=0.1,相對誤差=。后者大于前者,所以最終結果的有效數字應為2位,即:3.51×8.5=30(計算的實際結果為29.835,進舍后為30)。5.4.4其他情形a)近似數乘方或開方計算應符合4.2.4的規定。b)近似數對數和三角函數計算應符合4.2.5的規定。C)近似數指數計算應符合4.2.6的規定。6 1in-DB14/TXXXXX—XXXX 1in-(資料性附錄)統計計算量有效數字位數確定A.1前言使用液相色譜法檢測乳粉中三聚氰胺的含量。獨立重復稱取7個樣品,經前處理后上機檢測。讀取儀器的峰面積(mV·s)為:62.868,62.707,62.731,62.795,62.803,62.989,62.813。確定峰面積的有效數字保留位數。 A.2計算平均值x 按式A.1計算平均值x。 x1+x2+ x1+x2+......+xnn式中: x--重復檢測結果的平均值;xi--第i次檢測結果,i=1,2,3,......,n;n--重復檢測次數。本例中: x=62.815A.3計算標準偏差及測量不確定度標準偏差s按式A.2計算。s=式中符號意義同式A.1。本例中:s=0.0934平均值的標準偏差sx=。xi-x2...................本例中:7DB14/TXXXXX—XXXXsx=0.0353取置信概率為95﹪,ɑ=0.05(也可取置信概率為99﹪,ɑ=0.01以及其他置信水平自由度f=n-1=6,查GB/T4889-2008《數據的統計處理和解釋正態分布均值和方差的估計與檢驗》表A.2t分布分位數表(雙側檢驗情形),得到t(1-a2)(f)=2.4469)(f)根據JJF1059.1-2012《測量不確定度的評定與表示》中5.3.8的要求,將擴展不確定度修約到1位有效數字,即0.09,平均值的有效數字位數的確定:該數小數點后的位數應與測量不確定度相同,即62.82。故確認該方法中,從液相色譜儀讀取的峰面積的有效數字位數應保留到小數點后2位。8DB14/TXXXXX—XXXX(資料性附錄)玻璃量器的有效數字運用規則滴定管單位:mL125分度吸量管單位:mL125值小數點后4位小數點后4位位位位位位位位位位量筒單位:mL525位位位9DB14/TXXXXX—XXXX(資料性附錄)帶有測量不確定度的近似數計算C.1M=A+B-C。其中A=(56.2±0.1)kg,B=(1.264±0.003)kg,C=(5.72±0.06)kg。計算M并確定其有效數字。解:M=56.2+1.264-5.72=51.744kg計算求出M的不確定度:σM假定參與計算的3項相互獨立,則M的不確定度σM計算如下:σM===0.1M=(51.7±0.1)kg。C.2試計算M=AB/C的結果,其中A=3.31±0.01,B=6.5±0.2,C=21.943±0.004。解:M=AB/C==0.980σMσMM計算如下:=σM=M 222σAσBσC 222σAσBσC ++= 3.316.521.943σM=×M=0.980×=0.03最終結果M=0.98±0.03DBXX/XXXXX—XXXX參考文獻[1]王婧,測量數據有效數字位數的確定與運算的應用,計量與測試技術,2009年第27卷第6期.P57-60[2]項飛兵,關于日常檢驗工作中有效數字運算、數值修約和判定,質量與認證,2018年第10期。P81-82[3]陳紅霞,化學有效數字的運算法則和修約規則科技創新導報,2013年第5期,P181[4]封躍鵬等,檢測結果的數值修約

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經權益所有人同意不得將文件中的內容挪作商業或盈利用途。
  • 5. 人人文庫網僅提供信息存儲空間,僅對用戶上傳內容的表現方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論