$printf "%0.2f\n" 41.495
41.49
$printf "%0.2f\n" 41.485
41.49
$printf "%0.2f\n" 41.475
41.47
$printf "%0.2f\n" 41.465
41.47
$printf "%0.2f\n" 41.455
41.46
$printf "%0.2f\n" 41.445
41.44
$printf "%0.2f\n" 41.435
41.44
$printf "%0.2f\n" 41.425
41.42
$printf "%0.2f\n" 41.415
41.42
$printf "%0.2f\n" 41.405
41.40
为什么数字不均匀的数字作为第二个十进制没有正确舍入,甚至是?另外.445有什么不对,它永远不会四舍五入?
最佳答案
它与浮点有关,但不是双精度.
当你写作
printf "%0.2f\n" 41.495
在你的系统上,printf首先将41.495舍入到最接近的x87 80位浮点数[1].这是如何运作的?首先用二进制写41.495:
b101001.0111 11101011100001010001 11101011100001010001 11101011100001010001 ...
(分离的群体无限重复).现在我们将这个数字舍入为64位二进制数字:
b101001.0111111010111000010100011110101110000101000111101011100001
这是printf实际格式化的数字.用十进制写的,它恰好是:
41.4949999999999999990285548534529880271293222904205322265625
正如你所看到的,它只是略低于41.495,所以当printf将它四舍五入到两个小数位时,它会向下舍入,并打印出41.49.
现在看41.485;在舍入到64位二进制数后,我们得到值:
41.48500000000000000055511151231257827021181583404541015625
这比41.485稍微大一点,所以printf将它完成了.
在我的系统上,printf管理中有一个警告:
Since the floating point numbers are translated from ASCII to floating-point and then back again,floating-point precision may be lost.
> bash不在所有操作系统上使用x87格式(事实上,它甚至不适用于所有架构);在某些其他系统上,这些值将被解释为双精度(因此舍入为53位而不是64位),结果将有所不同.
原文地址:https://www.jb51.cc/linux/440278.html
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。