floating-accuracy专题提供floating-accuracy的最新资讯内容,帮你更好的了解floating-accuracy。
我目前在使用 Python 的 Math 库时遇到一些涉及三角函数的问题。我想要做的是得到 45° 的切线,它等于 1
我想使用费马的分解方法分解一个大数。我是这样实现的: <pre><code>import numpy as np def fac(n): x = np.
我想弄清楚我可以使用 scaled_float 表示哪些数字。 在文档中 <a href="https://www.elastic.co/guide/en/elasticsea
来自 ULP <a href="https://en.wikipedia.org/wiki/Unit_in_the_last_place" rel="nofollow noreferrer">Wikipedia&#39;s page</a>(强调)
嘿,我正在制作小型 C++ 程序来计算 sin(x) 的值直到小数点后 7 位,但是当我使用该程序计算 <strong>sin(PI/
我在 python 中使用 lpsolve55 库来寻找一些线性规划解决方案。加载的输入数据需要具有高达 14 位的精度,
在 PHP 中,我愿意在一些操作后比较浮点数,但它没有正确显示。 例如: <pre><code>$a = 0.2; if ( ($a - 0.2)
我遇到了一个有趣的问题 - 这是一个不精确比较的 float 覆盖: <pre><code>class Rounder(float): &#34;&#34;&#3
例如: <pre><code>sum = 0.00; sum += 46.85 * 0.1; console.log(sum) // 4.6850000000000005 sum += 179.29 * 0.1; console.log(sum) /
我创建了一个多类分类器,现在我想以一种干净的方式显示每个类的混淆矩阵和准确度。 我已经在
所以我尝试了 codechef 竞赛中的一个问题,这个问题非常简单。这个问题对于我的疑问没有必要,实际上
我注意到 <code>round</code> 和 <code>lround</code> 的 <a href="https://en.cppreference.com/w/cpp/numeric/math/round" rel="nofollow
我正在从事一个涉及线性代数概念处理的个人项目。 该项目首先涉及将 R(64 位版本)代码复制(翻译
当我意识到控制台中有一些奇怪的数字时,我正在编写这段代码来获取最多两位小数的随机浮点数。
我正在尝试通过以下定义计算给定函数的梯度:<a href="https://i.stack.imgur.com/Cfzz0.png" rel="nofollow noreferrer"><i
如果我尝试以该类型的最大精度打印浮点值,例如: <pre><code>printf(&#34;%.100e&#34;, FLT_MIN); </code></pre>
为什么float的精度是小数点后6位,double的精度是小数点后15位? 谁能给它一个<em>数学解释</em>?
为什么我用 <code>log2 (ULONG_MAX)</code> 和 <code>log2 (ULLONG_MAX)</code> 得到错误的结果?我期待 63 但得到了 64。<
我有一个数组来表示时间: <pre><code>t = linspace(-30,30,N); </code></pre> 然后我执行以下操作: <pre><cod
我正在尝试将 <a href="https://www.boost.org/doc/libs/1_76_0/libs/geometry/doc/html/index.html" rel="nofollow noreferrer">boost.geom