我正面临着BigDecimal的问题.
这段代码:
x = BigDecimal.new('1.0') / 7 puts x.to_s
输出:
0.142857142857142857E0
我想增加位数.
在JAVA中,我可以这样做:
BigDecimal n = new BigDecimal("1"); BigDecimal d = new BigDecimal("7"); n = n.divide(d,200,RoundingMode.HALF_UP); System.out.println(n);
输出是:
0.1428571428571428571428571428571428571428571428571428571428... (200 digits)
我查看了BigDecimal documentation,并尝试在实例化数字时设置数字,然后尝试使用BigDecimal.limit设置限制,但我无法打印超过18位数.
我错过了什么?
我在Windows 7 64位上运行ruby 1.9.3p0(2011-10-30)[i386-mingw32]
解决方法
div方法允许您指定数字:
x = BigDecimal.new('1.0').div( 7,50 ) puts x
结果是:
0.14285714285714285714285714285714285714285714285714E0
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。