sql-server – 执行计算时丢失的比例

我正在进行计算,但我没有得到预期的答案.我在计算时失去了一些规模.

计算公式为：651/1000 * -413.72063274 = -269.33213191(至8 d.p)

在sql Server中我这样做：

declare @var numeric(28,8)
declare @a numeric(28,8)
declare @b numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000

select CAST((@a/@b) * @var as numeric(28,8)) as result_1,CAST(CAST(@a as numeric(28,8)) 
      /CAST(@b as numeric(28,8)) as numeric(28,8)) 
      *CAST(@var as numeric (28,8))   as result_2

结果是

result_1：-269.33213200(正确到6dp)
result_2：-269.332132(正确到6dp)

如何获取返回的查询：-269.33213191(正确到8dp)？

解决方法

对于这种特定情况,您可以通过先将所有值相乘并将最终结果除以此乘数来作弊.

declare @var numeric(28,8)
declare @m numeric(28,8)

set @var = -413.72063274
set @a   = 651.00000000
set @b   = 1000.00000000
set @m   = 10000000


select CAST(((@a*@m) * (@var*@m) / (@b*@m)) AS NUMERIC(28,8)) / @m 
-- Result: -269.3321319137

编辑

另一方面,在不使用乘数的情况下保持其精度

select CAST(@a * @var AS NUMERIC(28,8)) / @b
-- Result: -269.3321319140