微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

c# – 舍入单个

我有这个“科学应用”,其中单个值应该在UI中呈现之前进行四舍五入.根据 this MSDN article,由于“精度损失”,Math.Round(Double,Int32)方法有时会“意外地”出现,例如四舍五入到2.13,而不是2.14.

据了解,这个问题与“银行家四舍五入”无关(参见例如this question).

在应用程序中,有人显然通过在舍入前明确地将Single转换为十进制(即Math.Round((Decimal)mySingle,2))来调用Math.Round(Decimal,Int32)重载来解决这个问题.除了可能出现的二进制到十进制转换问题之外,如果“单一”值太小或不足以适应“十进制”类型,则此“解决方案”也可能会引发OverflowException.

抓住这样的错误,返回Math.Round(Double,Int32)的结果,如果转换失败,不会打击我作为完美的解决方案.也不会将应用程序重写为使用十进制.

是否有或多或少的“正确”的方式来处理这种情况,如果是,可能是什么?

解决方法

我会认为您现有的解决方案(使用Math.Round的十进制版本)是正确的.

潜在的问题是,您希望根据其基数10表示来舍入数字,但您已将它们存储为基础2浮点数.所提供的2.135的例子是其中基数2表示与基数10不完全匹配的那些边缘情况之一.

要获得预期的舍入行为,您必须将数字转换为基数10.最简单的方法正是您已经在做的:暂时将数字转换为十进制长度足以调用Math.Round.

原文地址:https://www.jb51.cc/csharp/96628.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐