在 Python 中,我得到了一个简单计算的意外结果:
100 - 123.123
返回:
-23.123000000000005
我预计输出为 -23.123。
所以我尝试了:
import numpy as np
np.float64(100) - np.float64(123.123)
返回:
-23.123000000000005
我预计输出为 -23.123。
关于如何获得更精确/准确的结果有什么建议吗?
请您参考如下方法:
你在 python 文档中定义了这个效果:
https://docs.python.org/2/tutorial/floatingpoint.html
您可以在打印时将结果格式化为您想要的 3 位数:
print("%.3f" % np.float64(100) - np.float64(123.123))
