微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

C加倍到长

如果我用c写代码
long long d = 999999998.9999999994;
cout<<d;

我得到输出:999999999(四舍五入)

但是这段代码输出

long long d = 999999998.9999994994;
cout<<d;

是999999998(四舍五入)

这与精度有关吗?有什么方法可以改变精度. floor()函数也提供相同的输出.

我还注意到,如果我将值8.9999994994或8.9999999994分配给d(上面的变量).输出为8.

解决方法

999999998.9999999994不能精确表示为double,因此实际值是999999998.9999999994两侧的两个可表示数字之一 – 999999998.99999988079071044921875或999999999(假设IEEE-754 binary64格式),以实现定义的方式选择.大多数系统认舍入到最近,产生999999999.

最终结果是,当您编写999999998.9999999994时,在这些系统上,它最终具有与写入999999999.0完全相同的效果.因此,后续转换产生999999999 – 从浮点数到整数的转换总是截断,但是这里没有什么可以截断.

与999999998.9999994994,最接近的可表示数字是999999998.999999523162841796875和999999998.99999940395355224609375.截断后生成999999998.类似地,对于8.9999999994,最接近的可表示数字是8.999999999399999950355777400545775890350341796875和8.9999999994000017267126168007962405681610107421875,并且任何一个在截断后将产生8.

原文地址:https://www.jb51.cc/c/117621.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐