一、有效數(shù)字及運算法則

　　1.有效數(shù)字
　　在質量檢驗工作中，測得的絕大部分數(shù)據是屬于連續(xù)型的量，其數(shù)值的末一位一般具有一定的誤差或不確定性。故對末一位數(shù)字可認為是不準確或可疑的，稱為“可疑數(shù)字” 或叫“欠準數(shù)字”，而其前邊各數(shù)所代表的數(shù)量，則均為準確知道的，稱為“可靠數(shù)字”。我們稱此時所記數(shù)字均為有效數(shù)字。就是說有效數(shù)字是“可疑數(shù)字”和“可靠數(shù)字”的總稱。也可以說從第一個不為零的數(shù)字開始至末位數(shù)字被稱為有效數(shù)字。
　　至于“可疑數(shù)字”的欠準程度，則有±1、±2、±5的不同約定。也有為了與數(shù)字修約規(guī)則一致，約定不超過可疑數(shù)字半個單位的，這時如果寫出數(shù)字0.5就表示其真值在0.45～0.55之間。所謂約定就是說沒有統(tǒng)一的規(guī)定可循。在質量檢驗的具體工作中，一般是根據檢測的具體條件決定，包括所用儀器的精度、方法的精確度等。必要時，可在觀測值的后面加上欠準程度，如：原油閃點38℃±1℃，硫的相對原子質量32.064±0.003等。
　　2.有效數(shù)字運算法則
　　用觀測值計算分析結果時，就要進行有效數(shù)字的運算，運算應遵守有關法則。
　　(1)幾個觀測值相加減時，結果的有效數(shù)字應以各觀測值的最大可疑位數(shù)為準，即以小數(shù)位數(shù)最少的為準。例如：求12.23與0.1234之和。應以12.23為準，即和應為12.35。因為12.23的小數(shù)點后第二位上的3是可疑的，即使0.1234的小數(shù)點后第三位是可靠數(shù)字，對求得的和也沒有意義。
　　(2)觀測值相乘、除時，積、商有效數(shù)字的位數(shù)一般應與有效數(shù)字位數(shù)最少的觀測值相同。例如，0.15×9.6876的正確結果是1.5，而不是1.45314。但這個規(guī)則只能說適用于一般情況，在特殊情況下就不適用。確定積、商有效數(shù)字位數(shù)的普遍適用的規(guī)則，是它們的相對誤差應與因數(shù)中最大的相對誤差相當。
　　(3)對觀測值進行乘方和開方時，求得乘冪的位數(shù)應不超過觀測值本身的位數(shù)，且冪次愈高，乘冪誤差愈大，應留的位數(shù)愈少；求得方根的位數(shù)應至少與觀測值本身的位數(shù)相同，且開方的次數(shù)愈高，方根誤差愈小，應留的位數(shù)愈多。
　　(4)觀測值的對數(shù)小數(shù)點后所取的位數(shù)，應不多于觀測值有效數(shù)字的位數(shù)。
　　例如，
　　1g901.2=2.95482……
　　按約定，對數(shù)的下限和上限是
　　1g901.1=2.95477……
　　1g901.3=2.95486……
　　可見，對數(shù)的前四位是可靠數(shù)字，第五位欠準程度是±1，可以把對數(shù)表示為五位有效數(shù)字，即
　　1g901.2=2.9548
　　(5)關于有效數(shù)字的修約，應按照國家標準GB 8170—87《數(shù)值修約規(guī)則》進行。
　　(6)在運算過程中可以多保留一位有效數(shù)字。因為偶然會發(fā)生連續(xù)“舍”或連續(xù)“進” 的情況而影響最后結果。當然，最后結果的位數(shù)仍應按(1)、(2)、(3)、(4)、(5)條的規(guī)定處理。
　　把(1)、(2)、(3)、(4)四條規(guī)則概括起來可以知道，進行加、減、乘、除運算，一般都要分成三步：
　?、侔迅鲾?shù)修約到比最后結果的位數(shù)多一位。
　?、谶M行加、減、乘、除運算。
　?、圩詈髮τ嬎憬Y果進行修約。
　　如果在全部運算中除加、減、乘、除外還有乘方、開方、求對數(shù)的運算，則應按(3)、(4)條的規(guī)定，用求上、下限的方法確定乘冪、方根、對數(shù)有效數(shù)字的位數(shù)，再把它們納入①、②、③三個步驟中，求出最后結果。
　　(7)在所有計算式中，如根號2、1／2等數(shù)字，不連續(xù)物理量的數(shù)目，以及完全從理論計算出的數(shù)字如π、e等的有效數(shù)字位數(shù)可以無限制保留，需要幾位就寫幾位。其他如相對原子質量等基本數(shù)量，如需要的有效位數(shù)少于公布的數(shù)值，可以根據需要保留。單位換算因數(shù)則需根據原單位的有效數(shù)位決定，如1kg=1000g，有效數(shù)位無限制，而氣體常數(shù)R值則有一定的最高有效數(shù)位。

　　二、準確度與精密度

　　準確是指觀測值與真值接近。觀測值與真值之差叫誤差。觀測值與真值越接近，觀測值的誤差越小，觀測值就越準確。因此，觀測的準確度是指觀測的正確性，即觀測結果與真值的接近程度。在實際工作中，人們常常把某一誤差很小的觀測值作為“真值”。例如，在定量分析中把標準樣品或純凈物質的組分含量當作沒有誤差的真值。這樣，就可以把實際測得的組分含量與之比較，來衡量測定結果的準確度。
　　精密是指一組觀測值彼此符合。一組觀測值彼此越接近，觀測就越精密。因此，觀測的精密度是指觀測的重現(xiàn)性。精密度的高低不能說明觀測值與真值是否接近，即精密的觀測不一定是準確的，這是因為引起觀測值遠離真值的誤差，會對一系列的觀測發(fā)生相同的影響，因而無損于觀測的精密度。

　　三、誤差及數(shù)據處理

　　1.誤差的定義
　　測量的數(shù)據經常受偶然因素的影響而變化。例如：一個化驗員每日所化驗的樣品數(shù)；測定某個天然氣樣品中的硫化氫含量，在重復測量時，結果往往不同。這種受偶然因素影響而變化的量，統(tǒng)計工作者稱為隨機變量。數(shù)據發(fā)生變化的原因，可以全部或部分地歸于測量誤差，有些則是由變量固有的性質所決定的。上述兩個變量屬于不同類型：樣品數(shù)是離散型的，只能是整數(shù)，可以計數(shù)得絕對準確；而后者是連續(xù)型的，測量就會有誤差。計數(shù)的數(shù)據和測量的數(shù)據統(tǒng)稱為觀測值。
　　被測量的量在規(guī)定條件下客觀存在的量值稱為它的真值。實際上，真值是無法被準確知道的。因此，為了使用的特定目的，通常用與它足夠接近的量值來代替，這樣的量值稱之為“約定真值”。約定真值與真值之差對特定目的來說應該是可以忽略不計的。
　　測量結果的誤差是觀測值與真值之差。觀測值比真值大，誤差為正；觀測值比真值小，誤差為負。
　　在定量分析中，我們把標準樣品給出的組分含量或給出的某項理化性能指標當作真值。實際上，這個真值是由最有經驗的人，用最可靠的方法，按照嚴格規(guī)定的程序，準確地測定出來的。有了這種公認的真值，我們就可以把測得的結果與“真值”之差，作為測定結果的誤差，來衡量某一分析方法的準確度，某一化驗室或某一化驗員技術水平的高低。