Ruby on rails 3 轨道3浮动舍入误差
运行ruby 1.8.7 (1.005*100).圆形 结果:100 (1.006*100).圆形 结果:101 100.5.1圆 结果:101 (1.005*100) 结果:100.5 这是怎么回事?有人可以在最新版本的ruby中试用吗?Ruby on rails 3 轨道3浮动舍入误差,ruby-on-rails-3,rounding-error,Ruby On Rails 3,Rounding Error,运行ruby 1.8.7 (1.005*100).圆形 结果:100 (1.006*100).圆形 结果:101 100.5.1圆 结果:101 (1.005*100) 结果:100.5 这是怎么回事?有人可以在最新版本的ruby中试用吗? 谢谢 浮点数学就是这样 对于最后一个,我得不到100.5,您也得不到,即使出于某种原因,它显示为: Loading development environment (Rails 3.2.8) 1.9.3p194 :001 > (1.005 * 100)
谢谢 浮点数学就是这样 对于最后一个,我得不到100.5,您也得不到,即使出于某种原因,它显示为:
Loading development environment (Rails 3.2.8)
1.9.3p194 :001 > (1.005 * 100).round
=> 100
1.9.3p194 :002 > (1.006 * 100).round
=> 101
1.9.3p194 :003 > 100.5.round
=> 101
1.9.3p194 :004 > (1.005 * 100)
=> 100.49999999999999
谢谢当我在控制台中输入(1.005*100)时,它在我的系统上返回100.5:)谢谢-我想这是众所周知的。看来我现在有一些重构要做!