[URLShow] 浮点运算错误

[徐晨阳]

计算机系统中的浮点运算会出现一个错误，例如Java中System.out.println(34.6-34);
结果是：0.6000000000000014
这类运算错误在制作报表时体现的非常清楚，经常会出现小数点后N位对不上。
Java中的解决办法是使用BigDecimal进行浮点运算。
Js中自己作个函数来处理吧
function formatfloat(f,size){
var tf=f*Math.pow(10,size);
tf=Math.round(tf+0.000000001);
tf=tf/Math.pow(10,size); return tf;
}
alert(formatfloat(34.6-34,2));

--
Posted by 徐晨阳 to URLShow at 8/03/2006 02:46:17 下午