24位精度即2的24次方 ＝16777216 小数点后几位不一定,关键是有效数字位数可达8位（10进制）
12位精度即2的12次方 ＝4096 小数点后几位不一定,关键是有效数字位数可达4位（10进制）
24位精度是多少数据采集卡中24位的精度和12位的精度是什么意思,分别精确到小数点后几位?
1个回答
相关问题
-
把3.5转换为单精度数和双精度数,单精度数3.500000,（因为单精度有效位数7位）,那么双精度有效位数15——16位
-
精度为0.005的千分尺最后一位读数应该是多少
-
读入三个双精度数,求它们的平均值并且保留此平均值小数点后一位数,对小数点后第二位数进行四舍五入.
-
雷达液位计的波束角是什么意思?这个参数对雷达液位计的测量精度有什么影响?
-
关于SQL 精度 函数是关于精度的,SQL有个round()函数是四舍五入的,第二位是5以上才能进,现在是要第二位不管是
-
千分尺的精度是多少,测微仪的精度是多少,精度、分度值和分辨率的区别是什么
-
电子秤精度0.1G,量程5KG,AD选的24位的ad7799,传感器怎么选?
-
35°12'和43°24'等于多少(保留小数点后一位）
-
天平,量筒,滴定管,PH试纸分别精确到小数点后几位?
-
什么叫精确到小数点后2位?