什么是计算机精度

全部回答2
默认 最新
  • 是给该数据(要计算的数据及计算后的数据)分配的内存空间,因为二进制无法精确表示0.3之类的小数,只能无限叠加来实现无限接近于0.3,这样就需要更多的空间来存储二进制数据.当然了,要是0.5或者0.25就能精确表示了.
    0 点赞
  • 计算机计算的精确度,如1/3=0.3333和1/3=0.333333333的精确度,后者的精确度更高,所以计算机的精度是帮我们人类解决难于的较准确运算的问题
    0 点赞

没有更多内容了

返回顶部
产品求购 求购