浮点数的精度问题

全部回答2
默认 最新
  • 单精度浮点数占据32位二进制,1位为符号位,0代表正数,1代表负数,8位指数位,即指数可以达到10进制数据的2的8次方,尾数23位,即尾数可以达到2的23次方。双精度浮点数占据64位二进制,1位为符号位,11位指数位,52位尾数位。
    0 点赞
  • 因为printf或cout在输出浮点数的时候对它进行了舍入操作,如果你调整一下输出精度,调的比较高的情况下,它就会输出0.5999999999999(大概是这个值,并没有实际算过)
    0 点赞

没有更多内容了

返回顶部
产品求购 求购