微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

c# – 在15位数之后没有舍入的双倍到十进制

将“高”精度Double转换为Decimal时,由于Rounding,我将使用Convert.ToDecimal或转换为(Decimal)而失去精度.

示例:

double d = -0.99999999999999956d;
decimal result = Convert.ToDecimal(d); // Result = -1
decimal result = (Decimal)(d); // Result = -1

Convert.ToDecimal(double)返回的Decimal值最多包含15位有效数字.如果value参数包含超过15个有效数字,则使用舍入到最近的值进行舍入.

所以为了保持我的精度,我必须将我的double转换为String然后调用Convert.ToDecimal(String):

decimal result = System.Convert.ToDecimal(d.ToString("G20")); // Result = -0.99999999999999956d

这个方法是有效的,但是我想避免使用String变量来将Double转换为Decimal,而不是在15位后舍入?

解决方法

一种可能的解决方案是将d分解为n个双精度的精确总和,其中最后一个是小的并且包含转换为十进制时所需的所有尾随有效数字,并且第一个(n-1)精确地转换为十进制.

对于-1.0和1.0之间的源双d:

decimal t = 0M;
    bool b = d < 0;
    if (b) d = -d;
    if (d >= 0.5) { d -= 0.5; t = 0.5M; }
    if (d >= 0.25) { d -= 0.25; t += 0.25M; }
    if (d >= 0.125) { d -= 0.125; t += 0.125M; }
    if (d >= 0.0625) { d -= 0.0625; t += 0.0625M; }
    t += Convert.ToDecimal(d);
    if (b) t = -t;

Test it on ideone.com.

注意,操作d – =是精确的,即使C#以高于double的精度计算二进制浮点运算(它允许自己这样做).

这比从double到string的转换便宜,并且在结果中提供了一些额外的精度数字(对于上述四个if-then-elses,精度为4位).

备注:如果C#不允许自己以更高的精度进行浮点计算,那么一个好的技巧就是使用Dekker拆分将d分成两个值d1和d2,将每个值精确地转换为十进制.唉,Dekker分裂仅适用于对IEEE 754乘法和加法的严格解释.

一个想法是使用C#的frexp版本来获得d的有效数和指数e,并计算(十进制)((长)(s * 4503599627370496.0d))*<然而,在Decimal>中计算2 ^ e.

原文地址:https://www.jb51.cc/csharp/99370.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐