有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序.docx_第1頁
有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序.docx_第2頁
有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序.docx_第3頁
有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序.docx_第4頁
有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序.docx_第5頁
已閱讀5頁,還剩1頁未讀 繼續(xù)免費閱讀

下載本文檔

版權說明:本文檔由用戶提供并上傳,收益歸屬內容提供方,若內容存在侵權,請進行舉報或認領

文檔簡介

1、有效數(shù)字取舍及數(shù)據(jù)修約計算管理程序文件目錄:1. 目的2適用范圍22. 職責2定義23. 主要內容2派生記錄74. 相關文件7附件75. 修訂歷史7目的編制人日期替代文件審核人日期生效日期QA審核人日期復審日期批準人日期頒發(fā)部門質量部分發(fā)部門質量部1份、質量控制室1份為規(guī)范和指導有效數(shù)字和數(shù)值的修約及其運算方法及技術要求,確保實驗結果的準確性,特制訂本程序。1. 適用范圍本程序適用于的質量控制室所有運算方法及技術要求。2. 職責質量控制室人員:負責該程序的起草,并按該程序要求執(zhí)行。質量控制室主任:負責該程序的審核,并對程序執(zhí)行效果進行監(jiān)督。質量總監(jiān):負責該程序的批準。4.定義5.主要內容有效數(shù)

2、字系指在檢驗工作中所能得到有實際意義的數(shù)值。其最后一位數(shù)字欠準是允許的,這種由可靠數(shù)字和最后一位不確定數(shù)字組成的數(shù)值,即為有效數(shù)字。最后一位數(shù)字的欠準程度通常只能是上下差1單位有效數(shù)字的定位(數(shù)位)是指確定欠準數(shù)字的位置。這個位置確定后,其后面的數(shù)字均為無效數(shù)字。欠準數(shù)字的位置可以是十進位的任何位數(shù),用10"來表示:n可以是正整數(shù),如n=1、101=10(十數(shù)位),102=100(百數(shù)位),.;n也可以是負數(shù),如n=.1、10-1=0.1(十分位),n=-2、102=0.01(百分位).。修約間隔是修約值的最小數(shù)值單位。數(shù)值修約是指通過省略原數(shù)值的最后若干位數(shù)字,調整所保留的末位數(shù)字

3、,使最后所得到的值最接近原數(shù)值的過程。5.1有效位數(shù)5.1.1在沒有小數(shù)位且以若干個零結尾的數(shù)值中,有效位數(shù)是從非零數(shù)字最左一位向右數(shù)得到的位數(shù)減去無效零(即僅為定位用的零)的個數(shù)。例35000中若有兩個無效零,則為三位有效位數(shù),應寫作350x102或3.50x104;若有三個無效零,則為兩位有效數(shù),應寫作35x103或3.5x104。5.1.2在其它十進位數(shù)中,有效數(shù)字是從非零數(shù)字最左一位向右數(shù)而得到的位數(shù)。例如3.2、0.32、0.0032均為兩位有效位數(shù)、0.320為三位有效位數(shù)、10.00為四位有效位數(shù),12.490為五位有效位數(shù)。5.1.3非連續(xù)型數(shù)值(如個數(shù)、分數(shù)、倍數(shù))是沒有欠準

4、數(shù)字的,其有效位數(shù)可視為無限多位;例如分子式“H2SO4”中的“2”和“4”是個數(shù)。常數(shù)tt、e和系數(shù)扼等數(shù)值的有效位數(shù)也可視為是無限多位;含量測定項下“每1ml的xxxx滴定液(0.1mol/L).”中的“0.1”為名義濃度,規(guī)定項下的“0.3g”或“1ml:25mg”中的“0.3”、“1”和“25”為標示量,其有效位數(shù)也均為無限多位;即在計算中,其有效位數(shù)應根據(jù)其他數(shù)值的最少有效位數(shù)而定。5.1.4pH值等對數(shù)值,其有效位數(shù)是由其小數(shù)點后的位數(shù)決定的,其整數(shù)部分只表明其真數(shù)的乘方次數(shù)。例如pH=11.26(H+=5.5x10-12mol/L),其有效位數(shù)只有兩位。5.1.5有效數(shù)字的首位數(shù)

5、字為8或9時,其有效位數(shù)可以多計一位。例如85%與115%,都可以看成是三位有效位數(shù);99.0%與101.0%都可以看成是四位有效數(shù)字。5.2數(shù)值修約及其進舍規(guī)則5.2.1修約間隔修約間隔的數(shù)值一經(jīng)確定,修約值即應為該數(shù)值的整數(shù)倍。例如指定修約間隔為0.1,修約值即應在0.1的整數(shù)倍中選取,也就是說,將數(shù)值修約到小數(shù)點后一位。5.2.2確定修約位數(shù)的表達方式1)指定數(shù)位指定修約間隔為10-n(n為正整數(shù)),或指明將數(shù)值修約到小數(shù)點后n位。指定修約間隔為1,或指明將數(shù)值修約到個數(shù)位。指定修約間隔為10n(n為正整數(shù)),或指明將數(shù)值修約到10n數(shù)位,或指明將數(shù)值修約到“十”、“百”、“千”.數(shù)位。

6、2)指定將數(shù)值修約成n位有效位數(shù)(n為正整數(shù))。3)在相對標準偏差(RSD)的求算中,其有效數(shù)位應為其1/3值的首位(非零數(shù)字),故通常為百分位或千分位。5.2.3進舍規(guī)則1)擬舍棄數(shù)字的最左一位數(shù)字小于5時,則舍去,即保留的各位數(shù)字不變。例1將12.1498修約到一位小數(shù)(十分位),得12.1。例2將12.1498修約成兩位有效位數(shù),得12。2)擬舍棄數(shù)字的最左一位數(shù)字大于5,或者是5,而其后跟有并非全部為0的數(shù)字時,則進一,即在保留的末位數(shù)字加1。例1將1268修約到百數(shù)位,得13x102。例2將1268修約到三位有效位數(shù),得127x10o例3將10.502修約到個數(shù)位,得11。3)擬舍棄

7、數(shù)字的最左一位數(shù)字為5,而右面無數(shù)字或皆為0時,若所保留的末位數(shù)為奇數(shù)(1,3,5,7,9)則進一,為偶數(shù)(2,4,6,8,0)則舍棄。例1修約間隔為0.1(或10)擬修約數(shù)值修約值1.0501.00.3500.4例2修約間隔為1000(或103)擬修約數(shù)值修約值25002x10335004x103例3將下列數(shù)值修約成兩位有效位數(shù)擬修約數(shù)值修約值0.03250.0323250032x1034)在相對標準偏差(RSD)中,采用“只進不舍”的原則,如0.163%、0.52%宜修約為0.17%、0.6%。5)不許連續(xù)修約擬修約數(shù)字應在確定修約位數(shù)后一次修約獲得結果,而不得多次按前面規(guī)則(5.2.4中

8、1)5.2.4中3)連續(xù)修約。例修約15.4546,修約間隔為1正確的做法為:15.4546-15;不正確的做法為:15.4546-15.455-15.46-15.5-16。6)為便于記憶,上述進舍規(guī)則可歸納成下列口訣:四舍六入五考慮,五后非零則進一,五后全零看五前,五前偶舍奇進一,不論數(shù)字多少位,都要一次修約成。5.3運算規(guī)則在進行數(shù)學運算時,對加減法和乘除法中有效數(shù)字的處理是不同的。5.3.1許多數(shù)值相加減時,所得和或差的絕對誤差必較任何一個數(shù)值的絕對誤差大,因此相加減時應以諸數(shù)值中絕對誤差最大(即欠準數(shù)字的數(shù)位最大)的數(shù)值為準,以確定其它數(shù)值在運算中保留的數(shù)位和決定計算結果的有效數(shù)位。5

9、.3.2許多數(shù)值相乘除時,所得積或商的相對誤差必較任何一個數(shù)值的相對誤差大,因此相乘除時應以諸數(shù)值中相對誤差最大(即有效位數(shù)最少)的數(shù)值為準,確定其他數(shù)值在運算中保留的數(shù)位和決定計算結果的有效數(shù)位。5.3.3在運算過程中,為減少舍入誤差,其他數(shù)值的修約可以暫時多保留一位,但運算得到結果時,再根據(jù)有效位數(shù)棄去多余的數(shù)字。例113.65+0.00823+1.633=?本例是數(shù)值相加減,在三個數(shù)值中13.65的絕對誤差最大,其最末一位數(shù)為百分位(小數(shù)點后二位),因此將其它各數(shù)均暫先保留至千分位。即把0.00823修約成0.008,1.633不變,進行運算:13.65+0.008+1.633=15.2

10、91最后對計算結果進行修約,15.291應只保留至百分位,而修約成15.29。例214.131x0.07654:0.78=?本例是數(shù)值相乘除,在三個數(shù)值中,0.78的有效位數(shù)最少,僅為兩位有效位數(shù),因此各數(shù)值均應暫保留三位有效位數(shù)進行運算,最后結果在修約為兩位有效位數(shù)。14.131x0.07654-eO.78=14.1x0.07654-0.78=1.084-0.78=1.38=1.4例3計算曲克蘆丁(C33H42O19)的分子量。在諸元素的乘積中,原子數(shù)的有效位數(shù)可視作無限多位,因此可根據(jù)各原子量的有效位數(shù)對乘積進行定位;而在各乘積的相加中,由于中國藥典規(guī)定分子量的數(shù)值保留到小數(shù)點后二位(百分

11、位),因此應將各元素的乘積修約到千分位(小數(shù)點后三位)后進行相加;再將計算結果修約到百分位,即得。12.011x33+1.00794x42+15.9994x19=396.363+42.33348+303.9886=396.363+42.333+303.989=742.685=742.695.4注意事項5.4.1正確記錄檢測所得的數(shù)值應根據(jù)取樣量,量具的精度,檢測方法的允許誤差和標準中的限度規(guī)定,確定數(shù)字的有效位數(shù)(或數(shù)位),檢測值必須與測量的準確度相符合,記錄全部準確數(shù)字和一位欠準數(shù)字。5.4.2正確掌握和運用規(guī)則,進行計算時,應執(zhí)行進舍規(guī)則和運算規(guī)則,如用計算器進行計算,也應將計算結果經(jīng)修約后再記錄下來。如由工作站出的數(shù)據(jù),可按有效數(shù)值修約原則修約后判定。5.4.3要根據(jù)取樣的要求,選擇相應的量具。1)“精密稱定”系指稱取重量應準確到所取重量的0.1%,可根據(jù)稱量選用分析天平或半微量分析天平;“精密量取”應選用符合國家標準的移液管;必要時應加校正值。2)“稱定”(或“量取”)系指稱取的重量(或量取的容量)應準確至所取重量(或容量)的百分之一。3)取用量“約xx”時,系指取用量不得超過規(guī)定量的100±10%o4)取用量的精度未作特殊規(guī)定時,應根據(jù)其數(shù)值的有效數(shù)位選用與之相應量

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內容里面會有圖紙預覽,若沒有圖紙預覽就沒有圖紙。
  • 4. 未經(jīng)權益所有人同意不得將文件中的內容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內容的表現(xiàn)方式做保護處理,對用戶上傳分享的文檔內容本身不做任何修改或編輯,并不能對任何下載內容負責。
  • 6. 下載文件中如有侵權或不適當內容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準確性、安全性和完整性, 同時也不承擔用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論