计算机中浮点数的存储是不精确的,双精度比单精度更精确而已.所以有关浮点数的运算都是近似的,如输出1.0-0.9的结果不是0.1,而是0.09999999999999998.只有整数的运算才是精确的结果.所以3.5在计算机中存的不是3.5后加0.而是像上面那样的数字
把3.5转换为单精度数和双精度数,单精度数3.500000,(因为单精度有效位数7位),那么双精度有效位数15——16位
1个回答
相关问题
-
怎么求单精度和双精度浮点型数据的数值范围?
-
读入三个双精度数,求它们的平均值并且保留此平均值小数点后一位数,对小数点后第二位数进行四舍五入.
-
近似数0.033精确到( )位,有( )位有效数字.近似数24.5亿精确到( )位,有( )个有效数字.
-
一个数有三位数 个位和十位和百位数的和是16 十位数是个位数和百位数的和 如果个位数和百位数对换 那么新
-
近似数15.95万精确到______位,保留两位有效数字用科学记数法表示为______.
-
近似数0.002350精确到______位,有______有效数字;近似数3.45万精确到______位.
-
磁铁数定律5位数、6位数、7位数的磁铁数,
-
一个两位数,个位数和十位数的和为10,把个位数和十位数字对调位置得到一个两位数
-
近似数3.5万精确到______ 位,有______个有效数字.
-
一个两位数的个位和十位的数字和为11,把十位数与个位数字交换所得的两位数是原数的3倍多5,十位数字为