在以下查询中
declare @a float(23) declare @b float(23) declare @c float(53) set @a = 123456789012.1234 set @b = 1234567.12345678 set @c = @a * @b select @c select LTRIM(STR((@c),32,12)) declare @x decimal(16,4) declare @y decimal(16,8) declare @z decimal (32,12) set @x = 123456789012.1234 set @y = 1234567.12345678 set @z = @x * @y select @z
我得到了答案
1.52415693411713E+17 152415693411713020.000000000000 152415692881907790.143935926652
从上面的答案来看,第三个答案是正确答案.这就是浮点数据类型被称为近似数值数据类型的原因
或者我做了一些根本错误的事情.
顺便说一句,这是由于遗留系统存在的一个问题,我必须使用float作为存储数据类型,同时在计算时不应该丢失精度.
请提出替代方案或解释.
解决方法
Float仅精确到
15 significant figures(在sql Server中).
这可以通过1.52415693411713 E 17来证明,其中1.52415693411713(15位数)与您获得的准确无误.最后的020 ……在152415693411713之后用STR组成的是浮点的分辨率
为了保持精度,请不要使用浮点数.就这么简单.如果要计算,则CAST为十进制,但如果CAST返回浮动,则限制为15位数
见“What Every Computer Scientist Should Know About Floating-Point Arithmetic”
原文地址:https://www.jb51.cc/mssql/83099.html
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。