手機(jī)版
1 有效數(shù)字的定義
有效數(shù)字指，保留末一位不準(zhǔn)確數(shù)字，其余數(shù)字均為準(zhǔn)確數(shù)字。有效數(shù)字的最后一位數(shù)值是可疑值。
如：0.2014為四位有效數(shù)字，最末一位數(shù)值4是可疑值，而不是有效數(shù)值。
再如：1g、1.000g其所表明的量值雖然都是1，但其準(zhǔn)確度是不同的，其分別表示為準(zhǔn)確到整數(shù)位、準(zhǔn)確到小數(shù)點(diǎn)后第三位數(shù)值。因此有效數(shù)值不但表明了數(shù)值的大小，同時(shí)反映了測(cè)量結(jié)果的準(zhǔn)確度。
2 有效數(shù)字的保留
由于有效數(shù)字最末一位是可疑值，而不是準(zhǔn)確值。因此，計(jì)算過(guò)程中，計(jì)算的結(jié)果應(yīng)比標(biāo)準(zhǔn)極限或技術(shù)指標(biāo)規(guī)定的位數(shù)要求多保留一位，最后的報(bào)出值應(yīng)與標(biāo)準(zhǔn)對(duì)定的位數(shù)相一致。
如：在標(biāo)準(zhǔn)的極限數(shù)值(或技術(shù)指標(biāo))的表示中，××≧95 表明結(jié)果要求保留到整數(shù)位。因此，計(jì)算結(jié)果一定要保留到小數(shù)點(diǎn)后一位，最后再修約到整數(shù)位，如計(jì)算結(jié)果為94.6報(bào)出結(jié)果為95(-);因?yàn)?4.6結(jié)果的0.6為可疑值，要想保留到整數(shù)位結(jié)果為準(zhǔn)確值，計(jì)算結(jié)果必須要多保留一位。
如，分析天平的分辨率為0.1mg(即我們常說(shuō)的萬(wàn)分之一天平)，如果我們稱取的量是10.4320g.，則實(shí)際的稱取結(jié)果結(jié)果為10.4320±0.0002g(萬(wàn)分之一的天平誤差)。因?yàn)樵倬_的儀器設(shè)備都有誤差，因此，在重量法中，如果檢驗(yàn)方法中要求：直至恒重，即前后兩次差不大于0.0002g即為恒重了。(講電子天平的準(zhǔn)確度)
如GB/T 601《化學(xué)試劑標(biāo)準(zhǔn)滴定溶液的制備》，要求保留4為有效數(shù)字，因此在標(biāo)定計(jì)算結(jié)果中，應(yīng)保留5位有效數(shù)字，最后再修約到4為有效數(shù)字(如果直接保留到4為有效數(shù)字，實(shí)際上是保留了三位有效數(shù)字，因最后一位是可疑值，則由標(biāo)準(zhǔn)溶液的濃度的不準(zhǔn)確，會(huì)引進(jìn)系統(tǒng)誤差。
二“0” 在數(shù)字中的作用
“0”作為一個(gè)特殊的數(shù)字，在數(shù)值的不同的位置，有著不同的作用，只有明確了“0”在數(shù)字中的作用，才能更好的掌握有效數(shù)字及其加減乘除的運(yùn)算規(guī)則。“0”在數(shù)字中不同的位置，有不用的作用，根據(jù)“0”在數(shù)字的位置，起三種作用。即定位(無(wú)效)、定值(有效)及不確定作用。
2.1 定位(無(wú)效)
當(dāng)“0”在小數(shù)點(diǎn)后，又在數(shù)字之前(前提：小數(shù)點(diǎn)前為“0”)時(shí)，為定位。如：0.0001(數(shù)字前4個(gè)零)0.02040(數(shù)字前2個(gè)零)均為定位作用;
2.2 定值(有效)
當(dāng)“0”在小數(shù)點(diǎn)后的數(shù)值中間或數(shù)尾(前提：小數(shù)點(diǎn)前必為“0”)時(shí)。如：0.002040.300020
當(dāng)“0”在小數(shù)點(diǎn)后，而小數(shù)點(diǎn)前為非“0”時(shí)。如1.000 1.0204
均為有效作用
2.3 不確定作用：當(dāng)“0”在整數(shù)后
如：4500有效數(shù)值是幾位?回答是：不確定
將4500用三為有效數(shù)字表示：0.450×104 4.50×103
將4500用四為有效數(shù)字表示：0.4500×104 45.00×102
三數(shù)字修約規(guī)則(GB8170)
3.1 數(shù)字修約規(guī)則 例題：將下列各數(shù)修約到小數(shù)點(diǎn)后一位數(shù)。
修約前 修約后
四舍六入五考慮， 12.44 12.4
12.46 12.5
五的情況有三種：12.35 12.4
五后為零看前位，12.45 12.4
五前為奇要進(jìn)一 12.451 12.5
五前為偶要舍去，
五后非零則進(jìn)一。
3.2 檢驗(yàn)結(jié)果的修約
根據(jù)技術(shù)標(biāo)準(zhǔn)的指標(biāo)要求，在原始記錄中，通常檢驗(yàn)計(jì)算的結(jié)果應(yīng)比標(biāo)準(zhǔn)規(guī)定的位數(shù)要多保留一位，但被多保留的一位數(shù)值，應(yīng)該體現(xiàn)出修約的情況，或一步修約到位，但不能存在連續(xù)修約的現(xiàn)象
a)檢驗(yàn)結(jié)果修約后，應(yīng)體現(xiàn)出修約的情況
如 標(biāo)準(zhǔn)值 ××<0.5
檢測(cè)結(jié)果為：0.456 第1步修約：0.46(-)(四舍六入)
報(bào)出值：0.5(-) 判定：合格
如：標(biāo)準(zhǔn)值 ×× ≥15
檢測(cè)結(jié)果為：14.55 第1步修約：14.6(-) 報(bào)出值：15(-)
按全數(shù)值比較法(15(-))判定不合格、按修約值比較法(15)判定合格
14.55(5后非零要進(jìn)一。講評(píng)：在擬舍棄的數(shù)字中即14.55的第一個(gè)“5”，雖然“5”前為偶數(shù)，但“5”后非“0”，所以要進(jìn)一。)
如，若檢驗(yàn)結(jié)果為：14.35
第1步修約：14.4(+) (修約原則，四舍六入) 報(bào)出結(jié)果：14
最終的報(bào)出結(jié)果只有修約到標(biāo)準(zhǔn)值上時(shí)，才用+、-表示。
例題：將檢驗(yàn)結(jié)果保留到整數(shù)位
檢測(cè)值 修約值 報(bào)出值
15.4546 15.5(-) 15
16.5203 16.5(+) 17
17.5000 17.5 18
10.5020 10.5(+) 11
由以上例題可見(jiàn)，被多保留的數(shù)字 的修約原則仍是是四舍六五單雙
b)一步修約到位 (這種修約更直接和更直觀)
例題：將下列結(jié)果修約到整數(shù)位
檢測(cè)結(jié)果 報(bào)出值
15.4546 15
16.5203 17
17.5000 18
14.5500 15
10.5020 11
c)不準(zhǔn)連續(xù)修約
擬修約數(shù)字應(yīng)在確定修約位數(shù)后，應(yīng)一次修約獲得結(jié)果，而不準(zhǔn)多次修約即連續(xù)修約。
如15.4546一次修約結(jié)果為：15
※ 連續(xù)修約：15.455 — 15.46-15.5-16
※ 按多保留一位的修約法：15.5(-)
因?yàn)?5(-)
即修約后到5(-) ，但不足5(<5)，所以不進(jìn)，最終結(jié)果為15。
四數(shù)值的修約方法
4.1 數(shù)值的修約方法有兩種，即修約值比較法和全數(shù)值比較法
a)修約值比較法：數(shù)值修約后，體現(xiàn)不出數(shù)值的修約情況;
b)全數(shù)值比較法：數(shù)值修約后，能夠體現(xiàn)出數(shù)值的修約情況。
4.2 如何選擇修約值的方法
a)當(dāng)檢測(cè)項(xiàng)目牽涉到衛(wèi)生指標(biāo)、安全指標(biāo)等，應(yīng)首選用全數(shù)值比較法;
b)只有當(dāng)檢測(cè)結(jié)果修約到標(biāo)準(zhǔn)值上時(shí)，方采用全數(shù)值比較法。
由上表可以看出，一般情況下全數(shù)值比較法嚴(yán)與修約值比較法。
五加減乘除運(yùn)算規(guī)則
5.1加減法運(yùn)算規(guī)則
在參與運(yùn)算的各數(shù)中，以小數(shù)點(diǎn)后位數(shù)最少的的為準(zhǔn)，其余各數(shù)均修約成比位數(shù)最少的要多一位，最終結(jié)果與位數(shù)最少的相一致。(與小數(shù)點(diǎn)位數(shù)有關(guān))
例題1：
12.455 + 23.1 +14.345
= 12.46 + 23.1 +14.34
= 49.90
≈49.9
例題2：
2.155 + 0.0012 +10.445 + 25.1
= 2.16 + 0.00 +10.44 + 25.1
= 37.70
≈37.7
例題3：
1.000 + 0.125 +9.555 + 0.1
= 1.00 + 0.12 +9.56 + 0.1
= 10.78
≈10.8
例題4：
0.999 + 1.0 +14.999 + 24.450
= 1.00+ 1.0 + 15.00+ 24.45
= 41.45
≈41.4
例題5：
0.1 + 10.515 +0.001 + 10.000
= 0.1 + 10.52 +0.00 + 10.00
= 26.62
≈26.6
5.2 乘除(乘方、開(kāi)方)法
在參與運(yùn)算的各數(shù)中，以有效位數(shù)最少的為準(zhǔn)，其余各數(shù)均修約成比有效位數(shù)最少的要多一位，最終結(jié)果與有效位數(shù)最少的相一致。(與有效位數(shù)有關(guān))
例題1：
10.54 × 1.001 ×0.10
= 10.5 × 1.00 ×0.10
= 1.05
≈1.0
例題2：
0.1 × 1.00 × 0.101× 10.145
= 0.1 × 1.0 × 0.10× 10
= 0.10
≈0.1
例題3：
0.999 × 1.00 ×10.04 × 0.0010
= 1.00 ×1.00 × 10.0× 0.0010
= 0.0100
= 0.010
例題4：
2.24 × 0.5 × 0.554× 0.5451
= 2.2 × 0.5 × 0.55×0.55
= 0.33
≈0.3
例題5：
2.5 × 2.451 × 2.255
= 2.5 × 2.45 × 2.26
= 13.8
≈14
