微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

带括号的公式结果中的这些舍入或精度差异的解释是什么?

如何解决带括号的公式结果中的这些舍入或精度差异的解释是什么?

如果在 javascript、ruby 等编程语言中,以下表达式的结果不同如下:

550*(1.0-0.04-0.15) = 445.49999999999994
550*(1.0-(0.04+0.15)) = 445.50000000000006

为什么操作顺序会以这种方式影响结果,因为在乘以结果时,加法/减法顺序似乎无关紧要……不是吗? (两者在 javascript 和 ruby​​ 中显示相同的结果,这是我测试的唯一编程语言)

此外,当将这两个输入到 Excel 的单元格中时,将数字格式调整为显示 16 位小数,它们都显示 445.5000000000000000,这与上述两个答案仍然不同。>

有人可以为 3 个结果案例中的这种舍入和/或与精度相关的差异提供实际的技术答案吗?

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。