考虑这两种情况:
fmt.Println(912 * 0.01) fmt.Println(float64(912) * 0.01)
第二个打印9.120000000000001,其实是罚款,I understand why that is happening.
但是,为什么第一行打印9.12,最后没有… 01? Go是否乘以两个无类型的常量,并在编译时简单地用9.12字面替换它们?
解决方法
根据
spec:
Constant expressions are always evaluated exactly; intermediate values and the constants themselves may require precision significantly larger than supported by any predeclared type in the language.
以来
912 * 0.01
是一个恒定的表达式,它被精确地评估.因此,写入fmt.Println(912 * 0.01)与写入fmt.Println(9.12)具有相同的效果.当将912定位到float64时,浮点乘法的另一个操作数也隐含地固定到float64.因此,float64(912)* 0.01的表达方式类似于float64(912)* float64(0.01). 0.01在float64中不能精确表示,因此在与第一个例子中fmt.Println()的参数中出现的表达式float64(912 * 0.01)不同的地方,精度会丢失,解释不同的结果.
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。