如何解决天花板函数显然不正确地舍入
有人能解释一下为什么 R 有舍入/上限问题以及如何确保它计算正确吗?
N = 50e3
x = vector(length = N)
p = 0.995
ceiling(length(x)*(1-p))
251
ceiling(N*(1-p))
251
ceiling(N*0.005)
250
ceiling(50e3*0.005)
250
解决方法
@rawr 链接到 Why are these numbers not equal? ,它解释了浮点计算的基本问题。在这种情况下:
print((1-0.995) - 0.005)
## [1] 4.336809e-18
因此,(1-0.005)*5e4
稍微大于 250(要看到这一点,您必须print((1-0.005)*5e4,digits=22)
,因为 R 打印一个四舍五入的表示默认情况下)所以 ceiling()
将答案推到 251。
在这种特殊情况下,您似乎可以通过将 (1-p)
舍入到小数点后三位 ceiling(N*round(1-p,3))
来获得所需的答案,但您一定要阅读链接的答案并考虑此解决方案是否能满足您的所有需求。
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。