1.测量值:R测=U/I=10/0.1=100欧
2.1/R测=1/R实际+1/R电压表,R电压表=300k
解得:R实际=300000/2999
绝对误差=R测-R实际= -100/2999= -0.033欧
3.相对误差=绝对误差/R实际= -100/300000= -1/3000=0.033%
1.测量值:R测=U/I=10/0.1=100欧
2.1/R测=1/R实际+1/R电压表,R电压表=300k
解得:R实际=300000/2999
绝对误差=R测-R实际= -100/2999= -0.033欧
3.相对误差=绝对误差/R实际= -100/300000= -1/3000=0.033%