谷神出幕 发表于 2012-12-22 21:29:26

JS中toFixed()方法的问题及解决方案

JS中toFixed()方法的问题及解决方案

<div id="cnblogs_post_body">最近发现JS当中toFixed()方法存在一些问题，采用原生的Number对象的原型对象上的toFixed()方法时，规则并不是所谓的“四舍五入”或者是“四舍六入五成双”，所谓“四舍六入五成双”，在百度百科上给的解释是：也即“4舍6入5凑偶”这里“四”是指≤4 时舍去，"六"是指≥6时进上，"五"指的是根据5后面的数字来定，当5后有数时，舍5入1；当5后无有效数字时，需要分两种情况来讲：①5前为奇数，舍5入1；②5前为偶数，舍5不进。（0是最小的偶数） 。百度百科上涉及的几个例子在实际情况下确实成立，但不科学，并不能覆盖所有的情况。
测试浏览器：屌丝浏览器IE6以及高级屌丝浏览器IE78和所有现代主流浏览器包括IE9、IE10、FF、chrome、opera、safari。（注：在使用IE10的类似firebug的开发工具时，采用兼容IE低版本浏览器模式时的测试结果跟使用原生低版本IE浏览器的测试结果不一致）
在浮点数末尾≤4或者≥6的情况下的舍入没有争议，但当末尾正好等于5的情况下可谓混乱之极。
一、FF 稳定版测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006030417.png
二、FF Aurora测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112005561383.png
三、FF Nightly的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006040843.png
四、Chrome稳定版的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006295064.png
五、Chromium的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006012229.png
六、Chrome Canary的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112005591929.png
七、Opera稳定版的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006174842.png
八、Opera Next的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006211256.png
九、Safari的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112007554475.png
十、IE6-8的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006244646.png
十一、IE9、10的测试结果如下所示：
http://pic002.cnblogs.com/images/2012/393331/2012112006420612.png
总结：众所周知，遵循IEEE754数值格式的语言的浮点计算会出现精度损耗的通病，ES也并非独此一家，因此尽量不要进行某个特定浮点数值的测试，如：0.1+0.2；
解决方案：重写Number.prototype.toFixed()方法:

<div class="cnblogs_code" >http://images.cnblogs.com/OutliningIndicators/ContractedBlock.gifhttp://images.cnblogs.com/OutliningIndicators/ExpandedBlockStart.gifView Code <div id="cnblogs_code_open_d43d697c-bf5e-43f3-983b-29fbe48d377e" class="cnblogs_code_hide"> 1 <html> 2   <head> 3         <script type="text/javascript"> 4             Number.prototype.toFixed=function (d) { 5               var s=this+""; 6               if(!d)d=0; 7               if(s.indexOf(".")==-1)s+="."; 8                 s+=new Array(d+1).join("0"); 9               if(new RegExp("^(-|\\+)?(\\d+(\\.\\d{0,"+(d+1)+"})?)\\d*$").test(s)){10                     var s="0"+RegExp.$2,pm=RegExp.$1,a=RegExp.$3.length,b=true;11                     if(a==d+2){12                         a=s.match(/\d/g); 13                         if(parseInt(a-1])>4){14                           for(var i=a.length-2;i>=0;i--){15                               a=parseInt(a)+1;16                                 if(a==10){17                                     a=0;18                                     b=i!=1;19                               }else break;20                             }21                         }22                         s=a.join("").replace(new RegExp("(\\d+)(\\d{"+d+"})\\d$"),"$1.$2");23 24                   }if(b)s=s.substr(1); 25                     return (pm+s).replace(/\.$/,"");26                 }return this+"";27 28             };29         </script>30   </head>31   <body>32         <input type="button" value="显示0.009.toFixed(2)" onclick="alert(0.009.toFixed(2))"><br />33         <input type="button" value="显示0.123.toFixed(2)" onclick="alert(0.123.toFixed(2))"><br />34         <input type="button" value="显示0.125.toFixed(2)" onclick="alert(0.125.toFixed(2))"><br />35         <input type="button" value="显示0.126.toFixed(2)" onclick="alert(0.126.toFixed(2))"><br />36         <input type="button" value="显示20.445.toFixed(2)" onclick="alert(20.445.toFixed(2))"><br />37         <input onclick="alert(20.405.toFixed(2))" type="button" value="显示20.405.toFixed(2)"> <br />38         <input onclick="alert(20.415.toFixed(2))" type="button" value="显示20.415.toFixed(2)"> <br />39         <input onclick="alert(20.425.toFixed(2))" type="button" value="显示20.425.toFixed(2)"> <br />40         <input onclick="alert(20.435.toFixed(2))" type="button" value="显示20.435.toFixed(2)"> <br />41         <input onclick="alert(20.445.toFixed(2))" type="button" value="显示20.445.toFixed(2)"> <br />42         <input onclick="alert(20.455.toFixed(2))" type="button" value="显示20.455.toFixed(2)"> <br />43         <input onclick="alert(20.465.toFixed(2))" type="button" value="显示20.465.toFixed(2)"> <br />44         <input onclick="alert(20.475.toFixed(2))" type="button" value="显示20.475.toFixed(2)"> <br />45         <input onclick="alert(20.485.toFixed(2))" type="button" value="显示20.485.toFixed(2)"> <br />46         <input onclick="alert(20.495.toFixed(2))" type="button" value="显示20.495.toFixed(2)"> <br />47         <input onclick="alert(0.05.toFixed(1))" type="button" value="显示0.05.toFixed(1)"> <br />48         <input onclick="alert(0.15.toFixed(1))" type="button" value="显示0.15.toFixed(1)"> <br />49         <input onclick="alert(0.25.toFixed(1))" type="button" value="显示0.25.toFixed(1)"> <br />50         <input onclick="alert(0.35.toFixed(1))" type="button" value="显示0.35.toFixed(1)"> <br />51         <input onclick="alert(0.45.toFixed(1))" type="button" value="显示0.45.toFixed(1)"> <br />52         <input onclick="alert(0.55.toFixed(1))" type="button" value="显示0.55.toFixed(1)"> <br />53         <input onclick="alert(0.65.toFixed(1))" type="button" value="显示0.65.toFixed(1)"> <br />54         <input onclick="alert(0.75.toFixed(1))" type="button" value="显示0.75.toFixed(1)"> <br />55         <input onclick="alert(0.85.toFixed(1))" type="button" value="显示0.85.toFixed(1)"> <br />56         <input onclick="alert(0.95.toFixed(1))" type="button" value="显示0.95.toFixed(1)"> <br />57   </body>58 </html>
页: [1]
查看完整版本: JS中toFixed()方法的问题及解决方案