×

对基本算术运算进行无害的双重取整。 (英语) Zbl 1451.65061号

摘要:当浮点值在舍入到最终精度之前先舍入到中间精度时,会发生双舍入。两次连续舍入的结果可能与直接舍入到最终精度时获得的结果不同。例如,当实现IEEE754二进制32格式时,算术单元仅以较大的二进制64格式执行操作,例如在PowerPC或x87浮点单元中执行操作,实际上会发生双重舍入。浮点运算社区的民间传说是,只要最终精度大约是中间精度的两倍,双舍入对基本算术操作(加法、除法、乘法和平方根)是无害的。本文讨论了这一事实的形式证明,考虑了底流情况及其扩展到除两个以外的根。

MSC公司:

65克50 舍入误差
68伏15 定理证明(自动和交互式定理证明、演绎、解析等)
PDF格式BibTeX公司 XML格式引用
全文: 内政部