加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:
0.0121+25.64+1.05782=?
正确计算 不正确计算
0.01 0.0121
25.64 25.64
+ 1.06 + 1.05782
——————— ———————
26.71 26.70992
上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位.
b.乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准.例如:
0.012×25.64×1.05782=?
以上3个数的乘积应为:
0.0121×25.6×1.01=0.328
在这个计算中3个数的相对误差分别为:
E%=(±0.0001)/0.0121×100=±8
E%=(±0.01)/25.64×100=±0.04
E%=(±0.00001)/1.05782×100=±0.0009
显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可.
在乘除法运算过程中,经常会遇到第一个数字为8或9的数,如9.00,8.92等,他们与10.00相当接近,所以通常把这类数当成四位有效数字处理.是为了繁殖数据丢失.如9.81*16.24可把9.81看成四位数而把结果写成159.3.