流量计中的精度是什么意思?

全部回答1
默认 最新
  • 单精度数,是指计算机表达实数近似值的一种方式。VB中,Single(单精度浮点型)变量存储为 IEEE 32 位(4 个字节)浮点数值的形式,它的范围在负数的时候是从 -3.402823E38 到 -1.401298E-45,而在正数的时候是从 1.401298E-45 到 3.402823E38 两者最大的区别是:前者是整数(某范围内的),后者是实数的近似值
    0 点赞

没有更多内容了

返回顶部
产品求购 求购