Floating point 在Lua中使用模时不准确
刚才我在Lua中使用了模（%），我注意到由于某些原因它非常不准确。我在《魔兽世界》中使用过它，但我认为它至少是最新的 无论如何，使用下面的示例，输出将是1Floating point 在Lua中使用模时不准确,floating-point,lua,floating-accuracy,modulo,Floating Point,Lua,Floating Accuracy,Modulo,刚才我在Lua中使用了模（%），我注意到由于某些原因它非常不准确。我在《魔兽世界》中使用过它，但我认为它至少是最新的 无论如何，使用下面的示例，输出将是1 print((0.6/(0.1^(2-1)))%1) 但当我使用以下命令时，它将返回0 print((0.6*(10^(2-1)))%1) 就我所受的教育而言，0.6/0.1应该等于0.6*10 这其实不是一个问题，但我只是好奇原因。在我看来，数学中的错误将是毁灭性的。如果您查看Lua手册，则%操作被定义为 a % b == a - m
print((0.6/(0.1^(2-1)))%1)
print((0.6*(10^(2-1)))%1)
这其实不是一个问题，但我只是好奇原因。在我看来，数学中的错误将是毁灭性的。如果您查看Lua手册，则
% a % b == a - math.floor(a/b)*b
6 - math.floor(6/1) * 1
0.10.1000000014…> print(math.floor(0.6*10))
6
> print(math.floor(0.6/.1))
5
6 - 6 * 1 = 0
6 - 5 * 1 = 1