六狼论坛

 找回密码
 立即注册

QQ登录

只需一步,快速开始

新浪微博账号登陆

只需一步,快速开始

搜索
查看: 25|回复: 0

js浮点运算bug的解决办法

[复制链接]

升级  85.33%

48

主题

48

主题

48

主题

秀才

Rank: 2

积分
178
 楼主| 发表于 2013-1-29 09:15:24 | 显示全部楼层 |阅读模式
一、事件   

    最近在做项目的管理费,在客户端用js写的。发现了一个重大问题,比如0.7*8.1=5.6699999999,10.3-9.2=1.100000000014.为什么会出现这些问题呢?难道是js对浮点数运算的bug?该怎么办?

二、响应


     “内事不决问百度,外事不决问google”啊,上网查找资料,证实了我的想法,也找到了解决方案。同时我也有了自己的解决方案。

     1、网上解决方案是对浮点数的运算做了类似重写,代码如下:(转载)

//除法函数,用来得到精确的除法结果//说明:javascript的除法结果会有误差,在两个浮点数相除的时候会比较明显。这个函数返回较为精确的除法结果。//调用:accDiv(arg1,arg2)//返回值:arg1除以arg2的精确结果function accDiv(arg1,arg2){    var t1=0,t2=0,r1,r2;    try{t1=arg1.toString().split(".")[1].length}catch(e){}    try{t2=arg2.toString().split(".")[1].length}catch(e){}    with(Math){        r1=Number(arg1.toString().replace(".",""));        r2=Number(arg2.toString().replace(".",""));        return (r1/r2)*pow(10,t2-t1);    }}//给Number类型增加一个div方法,调用起来更加方便。Number.prototype.div = function (arg){    return accDiv(this, arg);};//乘法函数,用来得到精确的乘法结果//说明:javascript的乘法结果会有误差,在两个浮点数相乘的时候会比较明显。这个函数返回较为精确的乘法结果。//调用:accMul(arg1,arg2)//返回值:arg1乘以arg2的精确结果function accMul(arg1,arg2){    var m=0,s1=arg1.toString(),s2=arg2.toString();    try{m+=s1.split(".")[1].length}catch(e){}    try{m+=s2.split(".")[1].length}catch(e){}    return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m);}//给Number类型增加一个mul方法,调用起来更加方便。Number.prototype.mul = function (arg){    return accMul(arg, this);};//加法函数,用来得到精确的加法结果//说明:javascript的加法结果会有误差,在两个浮点数相加的时候会比较明显。这个函数返回较为精确的加法结果。//调用:accAdd(arg1,arg2)//返回值:arg1加上arg2的精确结果function accAdd(arg1,arg2){    var r1,r2,m;    try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}    try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}    m=Math.pow(10,Math.max(r1,r2));    return (arg1*m+arg2*m)/m;}//给Number类型增加一个add方法,调用起来更加方便。Number.prototype.add = function (arg){    return accAdd(arg,this);}//减法函数function accSub(arg1,arg2){     var r1,r2,m,n;     try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0}     try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0}     m=Math.pow(10,Math.max(r1,r2));     //last modify by deeka     //动态控制精度长度     n=(r1>=r2)?r1:r2;     return ((arg2*m-arg1*m)/m).toFixed(n);}///给number类增加一个sub方法,调用起来更加方便Number.prototype.sub = function (arg){    return accSub(arg,this);}

    这样,如果你要计算0.7*8.1 只需(0.7).mul(8.1)调用mul方法就可以得到准确的答案。


    2、我的解决方案


    这不失为一种好方法,然而,我想将浮点型转化为整形后再做运算也是解决的一种方法。如0.7*8.1,我们可以这么算(0.7*10)*(8.1*10)/100,结果为5.67,显然是可以的。又通过项目的实践,都能得出准确的结果。


三、总结:

     1、尽量不要用JS做复杂的运算,特别是浮点数的运算。


     2、如果一定要进行浮点数的运算的话,先将浮点数转化为整形,再运算。





摘自:http://www.cnblogs.com/jiahaipeng/archive/2008/10/29/1321821.html
您需要登录后才可以回帖 登录 | 立即注册 新浪微博账号登陆

本版积分规则

快速回复 返回顶部 返回列表