【Python坑系列】
为了节约空间,使用numpy数组时候采用了float16,结果发现精度远远不达标
默认的floar64是最接近原本浮点数的
nes(10,np.float16)
a
Out[206]:
array([ 0.00010002,0.00010002,0.00010002],dtype=float16)
a = 0.0001 * np.ones(10,np.float32)
a
Out[208]:
array([ 9.99999975e-05,9.99999975e-05,9.99999975e-05],dtype=float32)
a = 0.0001 * np.ones(10,np.float64)
a
Out[210]:
array([ 0.0001,0.0001,0.0001])
a = 0.9999 * np.ones(10,np.float64)
a
Out[212]:
array([ 0.9999,0.9999,0.9999])
版权声明:本文内容由互联网用户自发贡献,该文观点与技术仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 dio@foxmail.com 举报,一经查实,本站将立刻删除。