关于java,js数字计算丢失精度问题解析及解决方法_JAVA_编程开发_程序员俱乐部

中国优秀的程序员网站程序员频道CXYCLUB技术地图
热搜:
更多>>
 
您所在的位置: 程序员俱乐部 > 编程开发 > JAVA > 关于java,js数字计算丢失精度问题解析及解决方法

关于java,js数字计算丢失精度问题解析及解决方法

 2018/3/17 9:47:37  z1414644039  程序员俱乐部  我要评论(0)
  • 摘要:1.问题背景在用java计算金额时,使用double计算会出现精度丢失问题,用js直接加减乘除也会导致精度丢失。2.问题解析是什么导致java和js数字计算时精度丢失?引用孙卫琴的《Java面向对象编程》的内容来解释,由于计算机的二进制计算只能精确表示整数部分,无法精确表示小数部分,计算小数会产生精度丢失:3.解决方案java语言计算金额等需要精确数字时,可以使用java类库中的java.math.BigDecimal。而js计算时可以把数字转为整数计算即可。代码如下:/**加法运算
  • 标签:方法 解决方法 解决 Java 问题 解析 JS

1.问题背景

?在用java计算金额时,使用double计算会出现精度丢失问题,用js直接加减乘除也会导致精度丢失。

2.问题解析

是什么导致java和js数字计算时精度丢失?引用孙卫琴的《Java面向对象编程》的内容来解释,由于计算机的二进制计算只能精确表示整数部分,无法精确表示小数部分,计算小数会产生精度丢失:

?

?

?

3.解决方案

java语言计算金额等需要精确数字时,可以使用java类库中的java.math.BigDecimal。而js计算时可以把数字转为整数计算即可。代码如下:

?

class="js">/*
 * 加法运算,避免数据相加小数点后产生多位数和计算精度损失。
 *  
 * @param num1加数1 | num2加数2
 */
function numAdd(num1, num2) {
	var baseNum, baseNum1, baseNum2;
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
	return (num1 * baseNum + num2 * baseNum) / baseNum;
};
/**
 * 减法运算,避免数据相减小数点后产生多位数和计算精度损失。
 * 
 * @param num1被减数  |  num2减数
 */
function numSub(num1, num2) {
	var baseNum, baseNum1, baseNum2;
	var precision;// 精度
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	baseNum = Math.pow(10, Math.max(baseNum1, baseNum2));
	precision = (baseNum1 >= baseNum2) ? baseNum1 : baseNum2;
	return ((num1 * baseNum - num2 * baseNum) / baseNum).toFixed(precision);
};
/**
 * 乘法运算,避免数据相乘小数点后产生多位数和计算精度损失。
 * 
 * @param num1被乘数 | num2乘数
 */
function numMulti(num1, num2) {
	var baseNum = 0;
	try {
		baseNum += num1.toString().split(".")[1].length;
	} catch (e) {
	}
	try {
		baseNum += num2.toString().split(".")[1].length;
	} catch (e) {
	}
	return Number(num1.toString().replace(".", "")) * Number(num2.toString().replace(".", "")) / Math.pow(10, baseNum);
};
/**
 * 除法运算,避免数据相除小数点后产生多位数和计算精度损失。
 * 
 * @param num1被除数 | num2除数
 */
function numDiv(num1, num2) {
	var baseNum1 = 0, baseNum2 = 0;
	var baseNum3, baseNum4;
	try {
		baseNum1 = num1.toString().split(".")[1].length;
	} catch (e) {
		baseNum1 = 0;
	}
	try {
		baseNum2 = num2.toString().split(".")[1].length;
	} catch (e) {
		baseNum2 = 0;
	}
	with (Math) {
		baseNum3 = Number(num1.toString().replace(".", ""));
		baseNum4 = Number(num2.toString().replace(".", ""));
		return (baseNum3 / baseNum4) * pow(10, baseNum2 - baseNum1);
	}
};
上一篇: Java NIO之Selector、SelectableChannel和SelectorProvider 下一篇: 没有下一篇了!
发表评论
用户名: 匿名