Fatal编程技术网
  • excel/
  • Excel机器ε比较

Excel机器ε比较

excel

Excel机器ε比较,excel,epsilon,Excel,Epsilon,所以我知道Excel中的机器ε是2^（-1022） 假设我在单元格A1中有：=1+2^-1022 =1=A1返回TRUE 我做错了什么？你应该阅读对该问题的所有评论。你的答案是： Microsoft为XL定义了其浮点数精度限制。 最小浮点数为2.2250738585072E-308 在Microsoft支持文章ID:78113中。当我输入这个号码时 在我的电子表格中，它实际上存储了一个浮点0，但如果 存储2.2250738585073E-308（我在最低有效位上加了1） 我能看到所有的数字。我知

所以我知道Excel中的机器ε是2^（-1022）

假设我在单元格A1中有：
=1+2^-1022

=1=A1
返回
TRUE

我做错了什么？

你应该阅读对该问题的所有评论。你的答案是：

Microsoft为XL定义了其浮点数精度限制。 最小浮点数为2.2250738585072E-308 在Microsoft支持文章ID:78113中。当我输入这个号码时 在我的电子表格中，它实际上存储了一个浮点0，但如果 存储2.2250738585073E-308（我在最低有效位上加了1） 我能看到所有的数字。我知道你想要一台机器epsilon，但是 由于您使用的是XL，您将真正看到的是C/C++浮动 点库ε。请参阅Microsoft开发者网络XLF注册表 （表格1）主题

如果您输入
=2^-1022
adn，然后将单元格格式化为
0.0000000000000E+0
，您可以看到它显示
2.22507385850720E-308
，然后如果将特殊值粘贴到格式化为General的单元格中，您将得到
2.2250738585072E-308