Floating point 程序员';关于float和double数据类型的故事
几年前,我听过一个故事,关于使用float数据类型(而不是双精度,或者更好的是,大整数)如何因为精度而破坏一些股票市场公司。财务结果计算得不精确,并显示出一些不错的结果,但实际上公司(?)破产了。不过,它可能是一家银行Floating point 程序员';关于float和double数据类型的故事,floating-point,programming-languages,precision,currency,Floating Point,Programming Languages,Precision,Currency,几年前,我听过一个故事,关于使用float数据类型(而不是双精度,或者更好的是,大整数)如何因为精度而破坏一些股票市场公司。财务结果计算得不精确,并显示出一些不错的结果,但实际上公司(?)破产了。不过,它可能是一家银行 有人知道这个故事吗?如果是,我在哪里可以找到更多详细信息?我记不起足够的细节,无法在互联网上进行适当的搜索。温哥华证券交易所 对货币使用double而不是float,只会延迟问题的解决。应该使用某种固定(十进制)点整数。这个问题对于这个站点来说听起来非常离题(虽然不确定是否有一个
有人知道这个故事吗?如果是,我在哪里可以找到更多详细信息?我记不起足够的细节,无法在互联网上进行适当的搜索。温哥华证券交易所
对货币使用
double
而不是float
,只会延迟问题的解决。应该使用某种固定(十进制)点整数。这个问题对于这个站点来说听起来非常离题(虽然不确定是否有一个SE站点更适合它),所以这不是一个浮点与双问题或浮点问题。维基百科说,价格是经过计算的,然后被截断到小数点后三位。这将产生一个平均为.0005的舍入误差,而不管底层算法是浮点、定点、完美实数学还是巫毒。每天做3000次,平均每天1.5分。20个工作日/月可以得到30分/月,接近文章所说的25分/月。