Floating point 配置单元中的Float与Double数据类型

Floating point 配置单元中的Float与Double数据类型,floating-point,hive,double,Floating Point,Hive,Double,根据: 浮点(4字节单精度浮点数字) 双精度(8字节双精度浮点数) 4字节或8字节单精度浮点数是什么意思?4字节和8字节是它们用来表示的空间。这些数字很可能以IEEE 754和格式表示 简言之,浮点数表示为+/-d*2e 在单精度情况下,d分别限制为0≤ d

根据:

浮点(4字节单精度浮点数字)

双精度(8字节双精度浮点数)


4字节或8字节单精度浮点数是什么意思?

4字节和8字节是它们用来表示的空间。这些数字很可能以IEEE 754和格式表示

简言之,浮点数表示为+/-d*2e
在单精度情况下,d分别限制为0≤ d<224,在双精度情况下为0≤ d<253。请注意,即使是带有简单十进制表达式的小数,如0.1,也不能以这些格式自动精确表示。相反,0.1在单精度中表示为13421773*2-27,在双精度中表示为3602879701896397*2-55。这些是很好的近似值,因为227是134217728,255是36028797018963968。双精度近似更好,而且没有一个是精确的,因为对于任何整数d和e,0.1永远不能写为d*2e。

4字节和8字节是它们用来表示的空间。这些数字很可能以IEEE 754和格式表示

简言之,浮点数表示为+/-d*2e 在单精度情况下,d分别限制为0≤ d<224,在双精度情况下为0≤ d<253。请注意,即使是带有简单十进制表达式的小数,如0.1,也不能以这些格式自动精确表示。相反,0.1在单精度中表示为13421773*2-27,在双精度中表示为3602879701896397*2-55。这些是很好的近似值,因为227是134217728,255是36028797018963968。双精度近似更好,而且没有一个是精确的,因为对于任何整数d和e,0.1永远不能写成d*2e