8.0421/(6.038-6.034)+30.9=?

1个回答

  • 四、有效数字运算规则

    前面曾根据仪器的准确度介绍了有效数字的意义和记录原则,在分析计算中,有效数字的保留更为重要,下面仅就加减法和乘除法的运算规则加以讨论.

    a.加减法:在加减法运算中,保留有效数字的以小数点后位数最小的为准,即以绝对误差最大的为准,例如:

    0.0121+25.64+1.05782=?

    正确计算 不正确计算

    0.01 0.0121

    25.64 25.64

    + 1.06 + 1.05782

    ——————— ———————

    26.71 26.70992

    上例相加3个数字中,25.64中的“4”已是可疑数字,因此最后结果有效数字的保留应以此数为准,即保留有效数字的位数到小数点后面第二位.

    b.乘除法:乘除运算中,保留有效数字的位数以位数最少的数为准,即以相对位数最大的为准.例如:

    0.012×25.64×1.05782=?

    以上3个数的乘积应为:

    0.0121×25.6×1.01=0.328

    在这个计算中3个数的相对误差分别为:

    E%=(±0.0001)/0.0121×100=±8

    E%=(±0.01)/25.64×100=±0.04

    E%=(±0.00001)/1.05782×100=±0.0009

    显然第一个数的相对误差最大(有效数字为3位),应以它为准,将其他数字根据有效数字修约原则,保留3位有效数字,然后相乘即可.

    结果为:2.03*10e3