1. 90前端首页
  2. 前端开发
  3. JavaScript

JavaScript四舍五入及精度丢失问题

在JS中使用数值计算时,经常会遇到未知的结果。
问题:用toFixed保留小数时,四舍五入规则不固定
JavaScript四舍五入及精度丢失问题
常见的解决思路:将小数放大为整数,进行四舍五入后,再缩小为小数。

// 四舍五入(若要直接舍去,flag可设为0)
function myFixed(num, s) {
  var digit = Math.pow(10, s)
  var flag = (num >= 0 ? 0.5 : -0.5)
  var res = num * digit + flag
  res = parseInt(res, 10) / digit
  return res + \'\'
}

 

JavaScript四舍五入及精度丢失问题

问题:小数加减乘除时,有时会出现精度丢失问题:
JavaScript四舍五入及精度丢失问题
常见的解决思路:将小数放大为整数,进行运算后,再缩小为小数。

/**
 * floatObj 包含加减乘除四个方法,能确保浮点数运算不丢失精度
 *
 * 我们知道计算机编程语言里浮点数计算会存在精度丢失问题(或称舍入误差),其根本原因是二进制和实现位数限制有些数无法有限表示
 * 以下是十进制小数对应的二进制表示
 *      0.1 >> 0.0001 1001 1001 1001…(1001无限循环)
 *      0.2 >> 0.0011 0011 0011 0011…(0011无限循环)
 * 计算机里每种数据类型的存储是一个有限宽度,比如 JavaScript 使用 64 位存储数字类型,因此超出的会舍去。舍去的部分就是精度丢失的部分。
 *
 * ** method **
 *  add / subtract / multiply /divide
 *
 * ** explame **
 *  0.1 + 0.2 == 0.30000000000000004 (多了 0.00000000000004)
 *  0.2 + 0.4 == 0.6000000000000001  (多了 0.0000000000001)
 *  19.9 * 100 == 1989.9999999999998 (少了 0.0000000000002)
 *
 * floatObj.add(0.1, 0.2) >> 0.3
 * floatObj.multiply(19.9, 100) >> 1990
 *
 */
var floatObj = function() {
    
  /*
   * 判断obj是否为一个整数
   */
  function isInteger(obj) {
      return Math.floor(obj) === obj
  }
  
  /*
   * 将一个浮点数转成整数,返回整数和倍数。如 3.14 >> 314,倍数是 100
   * @param floatNum {number} 小数
   * @return {object}
   *   {times:100, num: 314}
   */
  function toInteger(floatNum) {
      var ret = {times: 1, num: 0}
      var isNegative = floatNum < 0
      if (isInteger(floatNum)) {
          ret.num = floatNum
          return ret
      }
      var strfi  = floatNum + \'\'
      var dotPos = strfi.indexOf(\'.\')
      var len    = strfi.substr(dotPos+1).length
      var times  = Math.pow(10, len)
      var intNum = parseInt(Math.abs(floatNum) * times + 0.5, 10)
      ret.times  = times
      if (isNegative) {
          intNum = -intNum
      }
      ret.num = intNum
      return ret
  }
  
  /*
   * 核心方法,实现加减乘除运算,确保不丢失精度
   * 思路:把小数放大为整数(乘),进行算术运算,再缩小为小数(除)
   *
   * @param a {number} 运算数1
   * @param b {number} 运算数2
   * @param digits {number} 精度,保留的小数点数,比如 2, 即保留为两位小数
   * @param op {string} 运算类型,有加减乘除(add/subtract/multiply/divide)
   *
   */
  function operation(a, b, digits, op) {
      var o1 = toInteger(a)
      var o2 = toInteger(b)
      var n1 = o1.num
      var n2 = o2.num
      var t1 = o1.times
      var t2 = o2.times
      var max = t1 > t2 ? t1 : t2
      var result = null
      switch (op) {
          case \'add\':
              if (t1 === t2) { // 两个小数位数相同
                  result = n1 + n2
              } else if (t1 > t2) { // o1 小数位 大于 o2
                  result = n1 + n2 * (t1 / t2)
              } else { // o1 小数位 小于 o2
                  result = n1 * (t2 / t1) + n2
              }
              return result / max
          case \'subtract\':
              if (t1 === t2) {
                  result = n1 - n2
              } else if (t1 > t2) {
                  result = n1 - n2 * (t1 / t2)
              } else {
                  result = n1 * (t2 / t1) - n2
              }
              return result / max
          case \'multiply\':
              result = (n1 * n2) / (t1 * t2)
              return result
          case \'divide\':
              result = (n1 / n2) * (t2 / t1)
              return result
      }
  }
  
  // 加减乘除的四个接口
  function add(a, b, digits) {
      return operation(a, b, digits, \'add\')
  }
  function subtract(a, b, digits) {
      return operation(a, b, digits, \'subtract\')
  }
  function multiply(a, b, digits) {
      return operation(a, b, digits, \'multiply\')
  }
  function divide(a, b, digits) {
      return operation(a, b, digits, \'divide\')
  }
  
  // exports
  return {
      add: add,
      subtract: subtract,
      multiply: multiply,
      divide: divide
  }
}();

所以最上面四舍五入的方法也存在风险,可调用floatObj完善:

// 四舍五入(若要直接舍去,flag可设为0)
function myFixed(num, s) {
  var digit = Math.pow(10, s)
  var flag = (num >= 0 ? 0.5 : -0.5)
  var res = floatObj.add(floatObj.multiply(num, digit), flag)
  res = floatObj.divide(parseInt(res, 10), digit)
  return res + \'\'
}

参考:https://www.cnblogs.com/snand...

本文来自网络整理,转载请注明原出处:https://segmentfault.com/a/1190000021602886

展开阅读全文

发表评论

登录后才能评论