一. 有效數字及其運算規則
1. 有效數字的意義和位數
(1)有效數字:所有準確數字和一位可疑數字(實際能測到的數字)
(2)有效位數及數據中的“ 0 ”
1.0005, 五位有效數字
0.5000, 31.05% 四位有效數字
0.0540, 1.86 三位有效數字
0.0054, 0.40% 兩位有效數字
0.5, 0.002% 一位有效數字
2. 有效數字的表達及運算規則
(1)記錄一個測定值時,只保留一位可疑數據,
(2)整理數據和運算中棄取多余數字時,采用“數字修約規則”:
四舍六入五考慮
五后非零則進一
五后皆零視奇偶
五前為奇則進一
五前為偶則舍棄
不許連續修約
(3)加減法:以小數點后位數最少的數據的位數為準,即取決于絕對誤差最大的數據位數;
(4)乘除法:由有效數字位數最少者為準,即取決于相對誤差最大的數據位數;
(5)對 數:對數的有效數字只計小數點后的數字,即有效數字位數與真數位數一致;
(6)常 數:常數的有效數字可取無限多位;
(7)第一位有效數字等于或大于 8 時,其有效數字位數可多算一位;
(8)在計算過程中,可暫時多保留一位有效數字;
(9)誤差或偏差取 1~2 位有效數字即可。
二. 可疑數據的取舍
1. Q-檢驗法 (3~10次測定適用,且只有一個可疑數據)
(1) 將各數據從小到大排列:x1, x2, x3……xn ;
(2)計算 (x大-x小), 即 (xn -x1);
(3)計算 ( x可-x鄰),
(4)計算舍棄商 Q 計 =ô x可-x鄰ô/ xn -x1
(5)根據 n 和 P 查 Q 值表得 Q表
(6)比較 Q表 與 Q 計
若: Q 計 ³ Q表 可疑值應舍去
Q 計 < Q表 可疑值應保留
2. G檢驗法(Grubbs 法)
設有n各數據,從小到大為x1, x2, x3,…… xn;
其中 x1 或 xn為可疑數據:
(1) 計算 (包括可疑值x1、 xn在內)、∣x可疑-∣及S;
(2) 計算G:
(3) 查G值表得Gn,P
(4) 比較G計與Gn,P:
若 G計 ³ Gn,P則舍去可疑值;
G計 < Gn,P則保留可疑值。
三. 分析數據的顯著性檢驗
1. 平均值()與標準值(m)之間的顯著性檢驗 —— 檢查方法的準確度
(20)
若 t計 ³ t0.95, n 則 與 m 有顯著性差異(方法不可靠)
t計 < t0.95, n 則 與 m 無顯著性差異(方法可靠)
2. 兩組平均值的比較
(1)先用F 檢驗法檢驗兩組數據精密度 S1(小)、S2(大) 有無顯著性差異(方法之間)
(21)
若此 F計 值小于表中的F(0.95) 值,說明兩組數據精密度S1、S2無顯著性差異,反之亦反。
(2)再用 t 檢驗法檢驗兩組平均值之間有無顯著性差異
(22)
查 t0.95 (f=n1+n2)
若 t計 ³ t0.95, n 則 說明兩平均值有顯著性差異
t計 < t0.95, n 則 說明兩平均值無顯著性差異