微信公众号搜"智元新知"关注
微信扫一扫可直接关注哦!

VB6中双精度和单精度数据类型的比较


单精度(Single)和双精度(Double)数据型是VB6里的两种浮点类型;它们被用来保存带有小数的数值。小数的位数可以变化(所以名字叫"浮点"),因为小数点的位置可以变化。例如:

1.23456

12.3456

123.456

双精度和单精度的差别

大多数程序员都知道双精度类型容纳的数值要比单精度的大,而双精度的类型同时要求更大的存储空间--即8个字节,而不是4个字节。

双精度和单精度的最大不同之处是数值能够表达的精度。例如,单精度类型的精度被限制为7位;所以,下面这些值都是单精度类型:

1.23

123999

79.098

但是,如果你把123456789保存为一个单精度类型,那么它就会被四舍五入为123456800。类似的,1.23456789会被缩减为1.234568。

相比而言,双精度类型可以实现15位的精度。所以对于需要大量数值计算的程序员来说,就要使用双精度类型,否则精度就会出问题。

:Visual Basic的帮助文档谈到了一个叫做Decimal的数据类型,它的精度是28位。这听起来很不错,但是不幸的是,它从来都没有被真正实现过。

原文地址:https://www.jb51.cc/vb/258203.html

版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。

相关推荐