十进制计算器计算的结果为什么是这样?
1个回答
它用的是浮点计算方法,当计算机进行浮点运算的时候会出现此问题.
计算器上应该可以设置的,要求它不进行浮点运算,自动保留其位数就可以了.
相关问题
计算器计算三角函数,结果结果是负的?
二进制1101011转换为十进制是几?计算器显示是107!
用计算器计算0.25+1.38的过程为:键入,结果是______.
用科学计算器在线计算得出这样一个的数字,其含义是什么?
用计算器计算,按键顺 序是3,x的y方,3,=,显示的结果是什么?
小明在用计算器计算49ⅹ6的时候,发现计算器的键“4”坏了,小明灵机一动,还用这个计算器把正确的结果算出了.他是这样算的
用计算器计算 √39;√3.9;√0.39;√0.039.观察计算结果,你发现了什么?
使用计算器时,在什么情况下,不需要记录第一步计算结果
用计算器计算(结果保留三位有效数字)
(2005•南充)一个式子,用计算器计算显示的结果为1.5972583,将这个结果精确到0.01,答案是______.