微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

是否在Ruby中的BigDecimal中使用String或Integer

参考BigDecimal类的文档,

n,m = a.precs
prec returns number of significant digits (n) and
maximum number of significant digits (m) of a.

我对以下与BigDecimal相关的输出感到困惑.

require 'bigdecimal'    
BigDecimal.new('1').precs # => [9,18] 
BigDecimal.new(1).precs   # => [9,27]

我无法弄清楚为什么在传递String时,与传递Fixnum时相比,最大有效位数会更少.

它还会导致任何精度问题吗?

解决方法

如果您可以阅读C代码,则可以从 https://github.com/ruby/ruby/blob/trunk/ext/bigdecimal/bigdecimal.c#L2509开始 – 这是任何BigDecimal对象的初始化程序.如果您将该代码跟随下一个方法(即 BigDecimal_new),您会注意到在传递整数参数时,在分配和创建内部大小数对象之前还需要执行一些步骤,而不是在传递字符串参数时.

在任何情况下,您都不必担心精度损失 – 有效数字属性更像是提示而不是绝对值.甚至文档都提到它:
The actual number of significant digits used in computation is usually larger than the specified number.

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐