如果我用c写代码:
long long d = 999999998.9999999994; cout<<d;
我得到输出:999999999(四舍五入)
long long d = 999999998.9999994994; cout<<d;
是999999998(四舍五入)
这与精度有关吗?有什么方法可以改变精度. floor()函数也提供相同的输出.
我还注意到,如果我将值8.9999994994或8.9999999994分配给d(上面的变量).输出为8.
解决方法
999999998.9999999994不能精确表示为double,因此实际值是999999998.9999999994两侧的两个可表示数字之一 – 999999998.99999988079071044921875或999999999(假设IEEE-754 binary64格式),以实现定义的方式选择.大多数系统默认舍入到最近,产生999999999.
最终结果是,当您编写999999998.9999999994时,在这些系统上,它最终具有与写入999999999.0完全相同的效果.因此,后续转换产生999999999 – 从浮点数到整数的转换总是截断,但是这里没有什么可以截断.
与999999998.9999994994,最接近的可表示数字是999999998.999999523162841796875和999999998.99999940395355224609375.截断后生成999999998.类似地,对于8.9999999994,最接近的可表示数字是8.999999999399999950355777400545775890350341796875和8.9999999994000017267126168007962405681610107421875,并且任何一个在截断后将产生8.
原文地址:https://www.jb51.cc/c/117621.html
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。