Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/javascript/456.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
Javascript计算错误(简单计算中的数值错误)_Javascript_Numerical Computing - Fatal编程技术网

Javascript计算错误(简单计算中的数值错误)

Javascript计算错误(简单计算中的数值错误),javascript,numerical-computing,Javascript,Numerical Computing,已解决: 阅读: 只需获取任何JavaScript处理环境和类型: 150.3 + 150.03 简单的计算,但它似乎没有给出正确的结果(不管你写的是“150.30+150.03”左右) 它给出的结果是:300.3300000000004 你知道为什么吗 PS:我在Stack Overflow和Wikipedia上都读过一些关于由于有限精度而导致错误计算的文章,但似乎与我的情况无关。这是相关的。答案是将数据截断到适当的精度。“我读了一些文章……错误的计算……似乎没有什么相关”。再读一遍,这

已解决:

阅读:

  • 只需获取任何JavaScript处理环境和类型:

    150.3 + 150.03
    
    简单的计算,但它似乎没有给出正确的结果(不管你写的是“150.30+150.03”左右)

    它给出的结果是:300.3300000000004

    你知道为什么吗


    PS:我在Stack Overflow和Wikipedia上都读过一些关于由于有限精度而导致错误计算的文章,但似乎与我的情况无关。

    这是相关的。答案是将数据截断到适当的精度。“我读了一些文章……错误的计算……似乎没有什么相关”。再读一遍,这正是你的情况。在练习中,尝试编写“0.03”的浮点表示形式,您将看到它的来源。这是一个可接受的错误。查看@loxxy,非常感谢。我们可以称之为复制品。@axiom不。它实际上不是复制品。这就是解决办法。因此我编辑了我的自动评论。