微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

除以 float 1 和 int 1 时显示不同的结果

如何解决除以 float 1 和 int 1 时显示不同的结果

这就是我得到的,我不明白为什么会出现这个输出。当我将 float 更改为 int 时,它会提供正确的输出

int delta=99999997/(float)1;     
cout<<delta<<endl;

输出 100000000

Image of ide

解决方法

当你用一个浮点数除一个整数时,这个整数会被转换成一个浮点数。

出现奇怪结果的原因是 99999997 无法以 C++ 的 float 在您的架构上使用的精度精确地表示为 32 位浮点数。

相反,当转换为浮点数时,这个数字会四舍五入到下一个 可表示的数字。而这个数字……恰好是 100000000。

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。