计算机 进行数值计算时的高精准度主要取决于
1个回答
机器位数和小数处理方法.
相关问题
计算机进行数值计算的高精确度主要决定于什么
钢铁的重量精准计算方法?
手表精准度5分钟什么意思
计算机的通用性使其可以求解不同的算术和逻辑问题,这主要取决于计算机的______.
数值计算问题:计算机如何快速计算3^32
计算机在进行数值计算时,取小数点后一位进行舍入运算,误差X可以认为服从均匀分布U(-0.5,0.5),
计算机在进行计算时,总是根据程序进行的,下面就是一个计算程序:
质量检验的问题?关于测量数字精准度的问题!
现在完成时 求精讲主要 现在完成时 与现在完成进行时的区别
谁能告诉我影响海底压强的主要因素,求一条 精准公式 计算出海底压强