相对误差的大小,决定了计算结果的位数.例如,测长方形的面积,a边长=1234mm,测量误差为0.5mm(用的米尺);b=12.34mm,测量误差为0.02mm(用的卡尺);相对误差△a/a=0.5/1234.5=0.0004,△b/b=0.02/12.34=0.002
可见,相对误差越小,有效数字位数越多.
所以,各个测量量最好都有大小相近的相对误差,也就是说,各个测量量的有效数字位数最好都相近.因为,计算结果的位数取决于各参与计算的数字的位数.在乘除计算中,计算结果的位数,与各参与计算的数字的位数最少者相同.例如:111.111*1.1=12*10(即只保留有效数字2位.若不是最终结果,则多保留一位).
因此,为了使杨氏模量E能有三位有效数字,所有参与计算的原始数字的位数,最少得三位.测定不同的长度量,选用不同的测量仪器和方法,就是为了这一点.如:金属丝的直径d约为零点几毫米,只能用千分尺(螺旋测微器)来测,才能测出三位有效数字.