一、有效數字及其有效數字的保留
1、有效數字的定義
我們把通過直讀獲得的準確數字叫做可靠數字;把通過估讀得到的那部分數字叫做存疑數字。把測量結果中能夠反映被測量大小的帶有一位存疑數字的全部數字叫有效數字。有效數字指,保留末一位不準確數字,其余數字均為準確數字。有效數字的最后一位數值是可疑值。
如:0.2014為四位有效數字,最末一位數值4是可疑值,而不是有效數值。
再如:1g、1.000g其所表明的量值雖然都是1,但其準確度是不同的,其分別表示為準確到整數位、準確到小數點后第三位數值。因此有效數值不但表明了數值的大小,同時反映了測量結果的準確度。
2、有效數字的保留
由于有效數字最末一位是可疑值,而不是準確值。因此,計算過程中,計算的結果應比標準極限或技術指標規定的位數要求多保留一位,最后的報出值應與標準對定的位數相一致。
如:在標準的極限數值(或技術指標)的表示中,×× ≧95 表明結果要求保留到整數位。因此,計算結果一定要保留到小數點后一位,最后再修約到整數位,如計算結果為94.6報出結果為95(-);因為94.6結果的0.6為可疑值,要想保留到整數位結果為準確值,計算結果必須要多保留一位。
如,分析天平的分辨率為0.1mg(即我們常說的萬分之一天平),如果我們稱取的量是10.4320g,則實際的稱取結果結果為10.4320±0.0002g(萬分之一的天平誤差)。
如GB/T 601-2016《化學試劑 標準滴定溶液的制備》,要求報出結果取4位有效數字,因此在標定計算結果中,應保留5位有效數字,最后再修約到4位有效數字(如果直接保留到4位有效數字,實際上是保留了三位有效數字,因最后一位是可疑值,則由標準溶液的濃度的不準確,會引進系統誤差。
二、“0” 在數字中的作用
“0”作為一個特殊的數字,在數值的不同的位置,有著不同的作用,只有明確了“0”在數字中的作用,才能更好的掌握有效數字及其加減乘除的運算規則。“0”在數字中不同的位置,有不用的作用,根據“0”在數字的位置,起三種作用。即定位(無效)、定值(有效)及不確定作用。
1、定位(無效)
當“0”在小數點后,又在數字之前(前提:小數點前為“0”)時,為定位。如:0.0001(數字前4個零) 0.02040(數字前2個零)均為定位作用。
2、定值(有效)
當“0”在小數點后的數值中間或數尾(前提:小數點前必為“0”)時。如:0.00204 0.300020;當“0”在小數點后,而小數點前為非“0”時。如1.000 1.0204,均為有效作用。
3、不確定作用:當“0”在整數后
如:4500 有效數值是幾位?回答是:不確定。將4500用三位有效數字表示:0.450×104 4.50×103 。將4500用四位有效數字表示:0.4500×104 、45.00×102。
三、數字修約規則(GB/T 8170)
1、數字修約規則
“四舍五入法”是我們所熟悉的求近似數的方法。它深深地印在我們的腦海里,只要一遇到求近似數的問題,馬上就會想到“四舍五入法”?墒,在實驗中,經常要對大量的數據進行統計分析。如果仍用“四舍五入法”取近似值,就不夠精確。
世界上的許多國家已廣泛采用“四舍六入法”。我國國家科委于1955年就作了推薦!八纳崃敕ā笨梢愿爬椋骸八纳崃胛蹇紤],五后非零就進一,五后皆零看奇偶,五前為偶應舍去,五前為奇要進一!本褪钦f,如果省略的尾數最高位是4或小于4,就將尾數都舍去;如果省略的尾數最高位是6或大于6,去掉尾數后,要向它的前一位進1;如果省略的尾數最高位是5,那就要根據具體情況而定。如果5后不都是0,將尾數略去后要向它的前一位進1;如果5后面都是0,就看它的前一位是單數還是雙數,5的前一位是雙數,就將尾數舍去;5的前一位是單數,舍去尾數后要向它的前一位進1。
2、檢驗結果的修約
根據技術標準的指標要求,在原始記錄中,通常檢驗計算的結果應比標準規定的位數要多保留一位,但被多保留的一位數值,應該體現出修約的情況,或一步修約到位,但不能存在連續修約的現象。
a)檢驗結果修約后,應體現出修約的情況。
如:標準值 ××<0.5
檢測結果為:0.456, 第1步修約:0.46(-) (四舍六入),報出值:0.5(-) 判定:合格。
如:標準值 ×× ≥15
檢測結果為:14.55,第1步修約:14.6(-), 報出值:15(-),按全數值比較法(15(-))判定不合格、按修約值比較法(15)判定合格。
14.55(5后非零要進一。講評:在擬舍棄的數字中即14.55的第一個“5”,雖然“5”前為偶數,但“5”后非“0”,所以要進一。)
如,若檢驗結果為:14.35,第1步修約:14.4(+) (修約原則,四舍六入) 報出結果:14。
最終的報出結果只有修約到標準值上時,才用+、-表示。
b)一步修約到位 (這種修約更直接和更直觀)。
例題:將下列結果修約到整數位
檢測結果 報出值
15.4546 15
16.5203 17
17.5000 18
14.5500 15
10.5020 11
c)不準連續修約。
擬修約數字應在確定修約位數后,應一次修約獲得結果,而不準多次修約即連續修約。
如15.4546 一次修約結果為:15。
※ 連續修約:15.455 — 15.46-15.5-16
※ 按多保留一位的修約法:15.5(-)
因為。5(-),即修約后到5(-) ,但不足5(<5),所以不進,最終結果為15。
四、數值的修約方法
1、數值的修約方法有兩種,即修約值比較法和全數值比較法
a)修約值比較法:數值修約后,體現不出數值的修約情況;
b)全數值比較法:數值修約后,能夠體現出數值的修約情況。
2、如何選擇修約值的方法
a)當檢測項目牽涉到衛生指標、安全指標等,應首選用全數值比較法;
b)只有當檢測結果修約到標準值上時,方采用全數值比較法。
由上表可以看出,一般情況下全數值比較法嚴于修約值比較法。