(数值分析:)
一种测量方法错误在里面浮点 计算s绝对值浮点误差的误差在很大程度上取决于指数因此,最好采用不依赖于指数的误差度量,例如相对误差或ulp公司s相对误差是绝对误差与真实值之间的比率。

例子

假设我们使用基础属于10和a尾数属于精度 .如果我们表达阿伏伽德罗数为6.03×1023而不是作为“真实”价值6.022×1023,我们的绝对误差为0.008×1023=8×1020但除以真值,我们看到的相对误差为8/6.022×10-3个≈1.33×10-3个。如果我们使用6.02×10的值23(我们能做的最好的用这些参数s) ,相对误差≈0.33×10-3个.

相对误差不同于ulp公司s、 但每一个都可以以另一个为界。

登录登记在这里写点什么或联系作者。