C浮法分和精度

我知道511除以512实际上等于0.998046875.我也知道浮标的精度是7位数.我的问题是,当我在C(GCC)做这个数学时,得到的结果是0.998047,这是一个四舍五入的值.我宁愿只收到0.998046的截断值,我该怎么办？

float a = 511.0f;
  float b = 512.0f;
  float c = a / b;

解决方法

那么这里有一个问题. 511/512的值作为浮点数是准确的.没有四舍五入.您可以通过询问多于七位的数字来检查：

#include <stdio.h>
int main(int argc,char *argv[])
{
    float x = 511.0f,y = 512.0f;
    printf("%.15f\n",x/y);
    return 0;
}

输出：

0.998046875000000

浮点数不是十进制数,而是二进制数.如果你将一个数字除以2的幂,如512,结果将几乎总是精确的.发生的是浮点数的精度不仅仅是7位数,它的精确度是23位.

见What Every Computer Scientist Should Know About Floating-Point Arithmetic.

原文地址：https://www.jb51.cc/c/112272.html