-
IEEE 754:哪里可以看出“四舍五入的结果在数学上精确结果的 0.5 ULP 以内”的含义?
来自 ULP <a href="https://en.wikipedia.org/wiki/Unit_in_the_last_place" rel="nofollow noreferrer">Wikipedia's page</a>(强调) -
为什么浮点数没有给出想要的答案?
嘿,我正在制作小型 C++ 程序来计算 sin(x) 的值直到小数点后 7 位,但是当我使用该程序计算 <strong>sin(PI/ -
lpsolve55 中的数字精度
我在 python 中使用 lpsolve55 库来寻找一些线性规划解决方案。加载的输入数据需要具有高达 14 位的精度, -
有没有办法在 PHP 中正确比较浮点数?
在 PHP 中,我愿意在一些操作后比较浮点数,但它没有正确显示。 例如: <pre><code>$a = 0.2; if ( ($a - 0.2) -
如何正确处理Javascript浮点表示错误?
例如: <pre><code>sum = 0.00; sum += 46.85 * 0.1; console.log(sum) // 4.6850000000000005 sum += 179.29 * 0.1; console.log(sum) / -
是否可以向混淆矩阵添加额外的列?
我创建了一个多类分类器,现在我想以一种干净的方式显示每个类的混淆矩阵和准确度。 我已经在 -
将 double 更改为 float 给出相同的答案,但比较后出现意外的输出
所以我尝试了 codechef 竞赛中的一个问题,这个问题非常简单。这个问题对于我的疑问没有必要,实际上 -
为什么要专门使用整数数学来实现 lround?
我注意到 <code>round</code> 和 <code>lround</code> 的 <a href="https://en.cppreference.com/w/cpp/numeric/math/round" rel="nofollow -
覆盖python的浮点数以进行不精确的比较 - 哈希实现
我遇到了一个有趣的问题 - 这是一个不精确比较的 float 覆盖: <pre><code>class Rounder(float): "" -
R 与 Python 在浮点分辨率方面的差异:是否可以将 Python 设置为像 R 一样?
我正在从事一个涉及线性代数概念处理的个人项目。 该项目首先涉及将 R(64 位版本)代码复制(翻译 -
整数乘以浮点数给出奇怪的结果
当我意识到控制台中有一些奇怪的数字时,我正在编写这段代码来获取最多两位小数的随机浮点数。 -
通过数值近似计算梯度
我正在尝试通过以下定义计算给定函数的梯度:<a href="https://i.stack.imgur.com/Cfzz0.png" rel="nofollow noreferrer"><i -
如何找到浮点数的最短表示
如果我尝试以该类型的最大精度打印浮点值,例如: <pre><code>printf("%.100e", FLT_MIN); </code></pre> -
与 float 和 double 精度相关的概念
为什么float的精度是小数点后6位,double的精度是小数点后15位? 谁能给它一个<em>数学解释</em>? -
最大 int 和 long 值的 log2
为什么我用 <code>log2 (ULONG_MAX)</code> 和 <code>log2 (ULLONG_MAX)</code> 得到错误的结果?我期待 63 但得到了 64。< -
如何摆脱MATLAB中的这个数值问题?
我有一个数组来表示时间: <pre><code>t = linspace(-30,30,N); </code></pre> 然后我执行以下操作: <pre><cod -
boost.geometry 多边形差异返回自相交结果(或错误地检测到它)
我正在尝试将 <a href="https://www.boost.org/doc/libs/1_76_0/libs/geometry/doc/html/index.html" rel="nofollow noreferrer">boost.geom -
以 32 位浮点精度计算两个地理坐标之间的距离
给出的内容: <ol> <li>地球上两个十进制格式的地理坐标。</li> <li>一种仅提供 32 位浮点(7 位十进制 -
R:计算 log(exp(...)) 的最大浮点误差
我正在解决一些必须在标准空间和对数空间之间转换概率的编程问题。为此,我试图找出 <code>R</code> 中 -
由 * 完成的矩阵乘法和由组件手动完成的矩阵乘法之间的差异问题(MATLAB)
我对 Matlab 上矩阵乘法的准确性有疑问。我将用一个例子来解释这一点。 让 <pre><code> A=[0.1256, 0.25789; 0 -
简单浮点计算的GCC和Clang结果不一致 上下文序列不同部分的示例Clang 的 Ghidra 反编译GCC 的 Ghidra 反编译
在我的 Intel x86_64 机器上,此 C++ 代码在 Clang 与 GCC 上生成不同的序列: <pre><code>#include <iostream> -
Perl 中的简单加法导致结果偏离小部分
<pre><code>#!/usr/bin/perl $a = 1; while ( $a <= 50 ) { print "$a\n"; $a += 0.025; } </code></pre> 非常简 -
什么时候计算了我的系列的非负项的足够位? 澄清尝试获得相关公式和方程
我有一个幂级数,所有项都是非负的,我想将其评估为任意设置的精度 <code>p</code>(MPFR 浮点尾数的二进 -
丢失粘滞位的瞻博网络浮点方案/错误的详细信息是什么?
在某些瞻博网络 MX 路由器上,浮点数未正确处理:如果在计算过程中向右移动超过 8 位(下溢),粘滞 -
有没有办法强制 numpy.set_printoptions 显示确切的浮点值?
在 <a href="https://stackoverflow.com/questions/59674518/precision-errors-with-numpy">question 59674518</a> 之后,numpy.set_printopti