Skip to main content
 首页 » 编程设计

python之整数除以小数的结果是什么

2024年11月24日16lovecherry

我不确定整数除法实际上如何处理小数。在 Python 3.x 上考虑这两个示例:

4/0.4 = 10.0 
4//0.4 = 9.0 

正则除法给出 10,但 4 除以 0.4 的整数除法结果为 9.0。

你知道整数除以小数的行为以及为什么结果是这样吗?

请您参考如下方法:

CPython 对 float 除法的实现,作为被除数或除数,位于 float_floor_div 中。函数,调用 float_divmod实际计算的函数(实现了divmod函数),其中,代码行如下:

mod = fmod(vx, wx); 
div = (vx - mod) / wx; 
... 
floordiv = floor(div); 

告诉你 float 的底除法是先调用fmod函数得到除法的余数,从被除数中减去余数vx,然后将其除以除数 wx,然后对结果商 div 应用 floor 函数。

如果您尝试执行 4 % 0.4 的模运算,期望它是 0 因为 4/0.4 在数学上应该是 10:

>>> 4 % 0.4 
0.3999999999999998 

你会看到经典floating error二进制系统近似十进制数的方式所固有的。结果 0.4 实际上存储为略大于 0.4 的值,您可以通过实例化一个带有 0.4 的高精度 Decimal 对象来验证这一点:

>>> from decimal import Decimal 
>>> Decimal(0.4) 
Decimal('0.40000000000000002220446049250313080847263336181640625') 

这就是为什么 4 % 0.4 的余数是 0.3999999999999998 而不是 0,因此,使用 float_divmod 计算商的方法,首先从被除数中减去余数,得到:

>>> 4 - 4 % 0.4 
3.6 

很自然,

>>> (4 - 4 % 0.4) / 0.4 
9.0