一、有效數(shù)字及運算法則

　　1.有效數(shù)字
　　在質(zhì)量檢驗工作中，測得的絕大部分?jǐn)?shù)據(jù)是屬于連續(xù)型的量，其數(shù)值的末一位一般具有一定的誤差或不確定性。故對末一位數(shù)字可認(rèn)為是不準(zhǔn)確或可疑的，稱為“可疑數(shù)字” 或叫“欠準(zhǔn)數(shù)字”，而其前邊各數(shù)所代表的數(shù)量，則均為準(zhǔn)確知道的，稱為“可靠數(shù)字”。我們稱此時所記數(shù)字均為有效數(shù)字。就是說有效數(shù)字是“可疑數(shù)字”和“可靠數(shù)字”的總稱。也可以說從第一個不為零的數(shù)字開始至末位數(shù)字被稱為有效數(shù)字。
　　至于“可疑數(shù)字”的欠準(zhǔn)程度，則有±1、±2、±5的不同約定。也有為了與數(shù)字修約規(guī)則一致，約定不超過可疑數(shù)字半個單位的，這時如果寫出數(shù)字0.5就表示其真值在0.45～0.55之間。所謂約定就是說沒有統(tǒng)一的規(guī)定可循。在質(zhì)量檢驗的具體工作中，一般是根據(jù)檢測的具體條件決定，包括所用儀器的精度、方法的精確度等。必要時，可在觀測值的后面加上欠準(zhǔn)程度，如：原油閃點38℃±1℃，硫的相對原子質(zhì)量32.064±0.003等。
　　2.有效數(shù)字運算法則
　　用觀測值計算分析結(jié)果時，就要進(jìn)行有效數(shù)字的運算，運算應(yīng)遵守有關(guān)法則。
　　(1)幾個觀測值相加減時，結(jié)果的有效數(shù)字應(yīng)以各觀測值的最大可疑位數(shù)為準(zhǔn)，即以小數(shù)位數(shù)最少的為準(zhǔn)。例如：求12.23與0.1234之和。應(yīng)以12.23為準(zhǔn)，即和應(yīng)為12.35。因為12.23的小數(shù)點后第二位上的3是可疑的，即使0.1234的小數(shù)點后第三位是可靠數(shù)字，對求得的和也沒有意義。
　　(2)觀測值相乘、除時，積、商有效數(shù)字的位數(shù)一般應(yīng)與有效數(shù)字位數(shù)最少的觀測值相同。例如，0.15×9.6876的正確結(jié)果是1.5，而不是1.45314。但這個規(guī)則只能說適用于一般情況，在特殊情況下就不適用。確定積、商有效數(shù)字位數(shù)的普遍適用的規(guī)則，是它們的相對誤差應(yīng)與因數(shù)中最大的相對誤差相當(dāng)。
　　(3)對觀測值進(jìn)行乘方和開方時，求得乘冪的位數(shù)應(yīng)不超過觀測值本身的位數(shù)，且冪次愈高，乘冪誤差愈大，應(yīng)留的位數(shù)愈少；求得方根的位數(shù)應(yīng)至少與觀測值本身的位數(shù)相同，且開方的次數(shù)愈高，方根誤差愈小，應(yīng)留的位數(shù)愈多。
　　(4)觀測值的對數(shù)小數(shù)點后所取的位數(shù)，應(yīng)不多于觀測值有效數(shù)字的位數(shù)。
　　例如，
　　1g901.2=2.95482……
　　按約定，對數(shù)的下限和上限是
　　1g901.1=2.95477……
　　1g901.3=2.95486……
　　可見，對數(shù)的前四位是可靠數(shù)字，第五位欠準(zhǔn)程度是±1，可以把對數(shù)表示為五位有效數(shù)字，即
　　1g901.2=2.9548
　　(5)關(guān)于有效數(shù)字的修約，應(yīng)按照國家標(biāo)準(zhǔn)GB 8170—87《數(shù)值修約規(guī)則》進(jìn)行。
　　(6)在運算過程中可以多保留一位有效數(shù)字。因為偶然會發(fā)生連續(xù)“舍”或連續(xù)“進(jìn)” 的情況而影響最后結(jié)果。當(dāng)然，最后結(jié)果的位數(shù)仍應(yīng)按(1)、(2)、(3)、(4)、(5)條的規(guī)定處理。
　　把(1)、(2)、(3)、(4)四條規(guī)則概括起來可以知道，進(jìn)行加、減、乘、除運算，一般都要分成三步：
　?、侔迅鲾?shù)修約到比最后結(jié)果的位數(shù)多一位。
　?、谶M(jìn)行加、減、乘、除運算。
　　③最后對計算結(jié)果進(jìn)行修約。
　　如果在全部運算中除加、減、乘、除外還有乘方、開方、求對數(shù)的運算，則應(yīng)按(3)、(4)條的規(guī)定，用求上、下限的方法確定乘冪、方根、對數(shù)有效數(shù)字的位數(shù)，再把它們納入①、②、③三個步驟中，求出最后結(jié)果。
　　(7)在所有計算式中，如根號2、1／2等數(shù)字，不連續(xù)物理量的數(shù)目，以及完全從理論計算出的數(shù)字如π、e等的有效數(shù)字位數(shù)可以無限制保留，需要幾位就寫幾位。其他如相對原子質(zhì)量等基本數(shù)量，如需要的有效位數(shù)少于公布的數(shù)值，可以根據(jù)需要保留。單位換算因數(shù)則需根據(jù)原單位的有效數(shù)位決定，如1kg=1000g，有效數(shù)位無限制，而氣體常數(shù)R值則有一定的最高有效數(shù)位。

　　二、準(zhǔn)確度與精密度

　　準(zhǔn)確是指觀測值與真值接近。觀測值與真值之差叫誤差。觀測值與真值越接近，觀測值的誤差越小，觀測值就越準(zhǔn)確。因此，觀測的準(zhǔn)確度是指觀測的正確性，即觀測結(jié)果與真值的接近程度。在實際工作中，人們常常把某一誤差很小的觀測值作為“真值”。例如，在定量分析中把標(biāo)準(zhǔn)樣品或純凈物質(zhì)的組分含量當(dāng)作沒有誤差的真值。這樣，就可以把實際測得的組分含量與之比較，來衡量測定結(jié)果的準(zhǔn)確度。
　　精密是指一組觀測值彼此符合。一組觀測值彼此越接近，觀測就越精密。因此，觀測的精密度是指觀測的重現(xiàn)性。精密度的高低不能說明觀測值與真值是否接近，即精密的觀測不一定是準(zhǔn)確的，這是因為引起觀測值遠(yuǎn)離真值的誤差，會對一系列的觀測發(fā)生相同的影響，因而無損于觀測的精密度。

　　三、誤差及數(shù)據(jù)處理

　　1.誤差的定義
　　測量的數(shù)據(jù)經(jīng)常受偶然因素的影響而變化。例如：一個化驗員每日所化驗的樣品數(shù)；測定某個天然氣樣品中的硫化氫含量，在重復(fù)測量時，結(jié)果往往不同。這種受偶然因素影響而變化的量，統(tǒng)計工作者稱為隨機(jī)變量。數(shù)據(jù)發(fā)生變化的原因，可以全部或部分地歸于測量誤差，有些則是由變量固有的性質(zhì)所決定的。上述兩個變量屬于不同類型：樣品數(shù)是離散型的，只能是整數(shù)，可以計數(shù)得絕對準(zhǔn)確；而后者是連續(xù)型的，測量就會有誤差。計數(shù)的數(shù)據(jù)和測量的數(shù)據(jù)統(tǒng)稱為觀測值。
　　被測量的量在規(guī)定條件下客觀存在的量值稱為它的真值。實際上，真值是無法被準(zhǔn)確知道的。因此，為了使用的特定目的，通常用與它足夠接近的量值來代替，這樣的量值稱之為“約定真值”。約定真值與真值之差對特定目的來說應(yīng)該是可以忽略不計的。
　　測量結(jié)果的誤差是觀測值與真值之差。觀測值比真值大，誤差為正；觀測值比真值小，誤差為負(fù)。
　　在定量分析中，我們把標(biāo)準(zhǔn)樣品給出的組分含量或給出的某項理化性能指標(biāo)當(dāng)作真值。實際上，這個真值是由最有經(jīng)驗的人，用最可靠的方法，按照嚴(yán)格規(guī)定的程序，準(zhǔn)確地測定出來的。有了這種公認(rèn)的真值，我們就可以把測得的結(jié)果與“真值”之差，作為測定結(jié)果的誤差，來衡量某一分析方法的準(zhǔn)確度，某一化驗室或某一化驗員技術(shù)水平的高低。