Warning: file_get_contents(/data/phpspider/zhask/data//catemap/9/java/340.json): failed to open stream: No such file or directory in /data/phpspider/zhask/libs/function.php on line 167

Warning: Invalid argument supplied for foreach() in /data/phpspider/zhask/libs/tag.function.php on line 1116

Notice: Undefined index: in /data/phpspider/zhask/libs/function.php on line 180

Warning: array_chunk() expects parameter 1 to be array, null given in /data/phpspider/zhask/libs/function.php on line 181
groovy+Jmeter+java中的大数处理_Java_Groovy_Jmeter - Fatal编程技术网

groovy+Jmeter+java中的大数处理

groovy+Jmeter+java中的大数处理,java,groovy,jmeter,Java,Groovy,Jmeter,我对groovy中的大数字有一个疑问,我编写了一个调用DB的脚本,并将预算值放入名为toub_start_budget的变量中,存储的值是257000000。 因为我想做算术运算,所以我创建了另一个名为toub_budget的变量,并将第一个变量的值作为float放入其中。 问题在于,新变量没有将数据保存为float,而是将数据保存为数字2.56999787E9。 我做的算术是错误的,比如除以1000000,会得到2569.9,而不是准确的结果2570准确度很重要。 有人能告诉我如何用算术来处理

我对groovy中的大数字有一个疑问,我编写了一个调用DB的脚本,并将预算值放入名为toub_start_budget的变量中,存储的值是257000000。 因为我想做算术运算,所以我创建了另一个名为toub_budget的变量,并将第一个变量的值作为float放入其中。 问题在于,新变量没有将数据保存为float,而是将数据保存为数字2.56999787E9。 我做的算术是错误的,比如除以1000000,会得到2569.9,而不是准确的结果2570准确度很重要。 有人能告诉我如何用算术来处理大数字吗? 问候


不要使用float,根据定义它是不准确的。如果需要进行精确计算和任意大数,请使用BigDecimal。如果您使用Groovy,那么只需进行计算,Groovy将在适当的时候自动使用BigDecimal,您可以通过执行257000000/1000.getClass和257000000/1001看到这一点。getClass

使用BigDecimal而不是Float请不要发布代码和输出的图像,但是把正文本身用四个空格缩进。你想花些时间认真学习浮点数的基本原理。。。例如然后你会读到JVM上的浮点数。。。