vb6中双精度数据类型中小数点后允许的最大位数
我想知道在vb6中,基本双精度数据类型的小数点后允许有多少位数,而不需要进行四舍五入。如果在vb6中使用双精度数据类型,您最多可以得到16位有效数字vb6中双精度数据类型中小数点后允许的最大位数,vb6,double,Vb6,Double,我想知道在vb6中,基本双精度数据类型的小数点后允许有多少位数,而不需要进行四舍五入。如果在vb6中使用双精度数据类型,您最多可以得到16位有效数字 例如1.0000000000006在vb6中使用双精度数据类型时,最多可获得16位有效数字 例如1.0000000000006您只会得到15位数字(总数——不只是位置)。尝试使用0.1234567890123456作为反例。(顺便说一句,如果VB真的让你显示那么多的数字,那么1.0000000000000006将四舍五入到1.00000000000
例如
1.0000000000006
在vb6中使用双精度数据类型时,最多可获得16位有效数字
例如
1.0000000000006
您只会得到15位数字(总数——不只是位置)。尝试使用0.1234567890123456作为反例。(顺便说一句,如果VB真的让你显示那么多的数字,那么1.0000000000000006将四舍五入到1.0000000000000007)你只会得到15个数字(总数——不仅仅是位数)。尝试使用0.1234567890123456作为反例。(顺便说一句,如果VB真的让你显示那么多数字,那么1.0000000000000006将舍入为1.0000000000000007)