function accAdd(arg1,arg2){ var r1,r2,m; try{r1=arg1.toString().split(".")[1].length}catch(e){r1=0} try{r2=arg2.toString().split(".")[1].length}catch(e){r2=0} m=Math.pow(10,Math.max(r1,r2)) return (arg1*m+arg2*m)/m } function accSub(arg1,arg2){ return accAdd(arg1,-arg2); } function accMul(arg1,arg2) { var m=0,s1=arg1.toString(),s2=arg2.toString(); try{m+=s1.split(".")[1].length}catch(e){} try{m+=s2.split(".")[1].length}catch(e){} return Number(s1.replace(".",""))*Number(s2.replace(".",""))/Math.pow(10,m) } function accDiv(arg1,arg2){ var t1=0,t2=0,r1,r2; try{t1=arg1.toString().split(".")[1].length}catch(e){} try{t2=arg2.toString().split(".")[1].length}catch(e){} with(Math){ r1=Number(arg1.toString().replace(".","")) r2=Number(arg2.toString().replace(".","")) return (r1/r2)*pow(10,t2-t1); } }
JavaScript-浮点数的精度计算
原创liuzhongcool 博主文章分类:JavaScript ©著作权
©著作权归作者所有:来自51CTO博客作者liuzhongcool的原创作品,请联系作者获取转载授权,否则将追究法律责任
下一篇:PHP之PDO
提问和评论都可以,用心的回复会被更多人看到
评论
发布评论
相关文章
-
javascript浮点数精度 javascript浮点数转换成整数
暂时我就想到3个方法而已。如果读者想到其他好用方法,也可以交流一下
javascript浮点数精度 js 单精度浮点数转10进制 Math 字符串 八进制 -
javascript 浮点数的比较 js浮点数精度丢失原理
一、JS为什么会出现精度丢失问题 1、JS基本数据类型 Number 在内存中是怎么存储的? JS中的Number类型使用的是双精度浮点型,也就是其他语言中的double类型。在计算机内存中,单精度数是用32个 bit 来存储的浮点数,双精度数是使用64个 b
javascript 浮点数的比较 javascript lua 解析器 ci -
javascript 浮点数精度问题 js浮点数取整
因为js里,所有的数都是浮点型,所以用 num1/num2 得出的数是浮点数,而非整数。这里与java 和 .net不同。
javascript 浮点数精度问题 Math 浮点型 四舍五入 -
jquery 高精浮点数相加 javascript浮点数精度
JavaScript 只有一种数字类型 Number,而且在Javascript中所有的数字都是以IEEE-754标准格式表示的。浮点数的精度问题不是JavaScript特有的,因为有些小数以二进制表示位数是无穷的。十进制 二进制 0.1 &nb
jquery 高精浮点数相加 javascript python ViewUI git