问题
解决
总结
前言:
今天下午跑单元测试报错,发现一个关于 new BigDecimal(double val) 的代码问题,总结下。
问题业务代码:
/**
* 校验价格是否一致
*
* @param frontPrice 前端商品价格
* @param realPrice 商品系统价格
* @return boolean true 相等
*/
public static boolean comparePrice(BigDecimal frontPrice, BigDecimal realPrice) {
return frontPrice.compareTo(realPrice) == 0;
}
测试代码:
/**
* 前端价格
*/
BigDecimal forntPrice = new BigDecimal(0.2);
然后测试 comparePrice 方法总是返回 false,frontPrice 和 realPrice 明明是相等的, 都是0.2。
经过断点排查问题发现 frontPrice 的值不是 0.2,而是 0.200000000000000011102230246251565404236316680908203125 。
我靠,怎么出现这种情况,BigDecimal 不是精准运算的吗?
解决查看相关文档:
简单翻一下:
将 double 类型转换成 BigDecimal 类型。
这个构造函数的结果在某种程度上是不可预测的。你可能会觉得new BigDecimal(0.1)
会创建一个刚好等于 0.1 的 BigDecimal,但它实际上等于 0.1000000000000000055511151231257827021181583404541015625 。这是因为 0.1 不能被精确地表示为一个双精度数。
String 构造函数是完全可预测的,new BigDecimal("0.1")
会创建一个完全等于 0.1 的 BigDecimal,建议优先使用 String 构造函数。
如果必须使用 double 作为转换源时,可以使用 BigDecimal.valueOf(0.1)
,它返回的结果也是精确的。
将 double 类型转换为 BigDecimal 类型的时候,不要使用new BigDecimal(0.1)
这个构造函数,应为它得到的结果是不精确的,
使用BigDecimal.valueOf(0.1)
或new BigDecimal("0.1")
。
使用 IDEA 编码的时候会给警告提示:
到此这篇关于注意Java中 new BigDecimal(double val) 的使用的文章就介绍到这了,更多相关Java new BigDecimal内容请搜索软件开发网以前的文章或继续浏览下面的相关文章希望大家以后多多支持软件开发网!