看完这篇文章,你将在程序员的生涯中又少走一个坑。
今天在认真敲代码的时候,钉钉的图标突然跳动了起来。
肯定是哪个不长眼的同事来找我尬聊?没看到我在努力码字么?不知道我是个认真工作的人么?
我心里如是想着。
当我点开的时候,就更有兴趣了。
原来是我们的组长在我们小组群里提出了个小问题。作为下午甜点?
然后我就踊跃的发言了:第二个!
当时没有多想,就是觉得两行代码总归比一行代码靠谱v
那么我的猜测对不对呢?写个demo验证下
// 哪个BigDecimal对象会打印出来0.00?
BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN);
BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);
System.out.println("a ---> " + a);
System.out.println("b ---> " + b);
然后,结果是显而易见的,我的回答是错误的,应该是方式1,难受。
知道结果去推测出现结果的原因永远比不知道结果去推测结果靠谱
那我们就来分析一下为什么?
有两个出发点去分析
果断点进setScale方法看起了源码,首先映入眼帘的是他的返回值,竟然是BigDecimal。所以这个方法返回的是原来的对象还是一个新的对象呢?带着这个疑问我继续往下看。
这时,一行代码瞬间消除了我的疑问!原来当新设置的小数位大于原来的小数位会重新创建一个BigDecimal并返回
越来越接近答案了,源码看完了,我们接着来分析下两种方式的不同。
首先两种方式分别对应着两个临时变量a和b,再结合上面分析的源码分析一下两种方式的不同之处。
BigDecimal a = new BigDecimal("0").setScale(2, RoundingMode.HALF_EVEN)
BigDecimal b = new BigDecimal("0");
b.setScale(2, RoundingMode.HALF_EVEN);
综上所述,实际上打印的对象是不一样的,输出0.00的原因是,临时变量指向的是设置小数点保留位数后新生成的BigDecimal对象。
虽然这是一个很简单的问题,但平时的使用中还是很容易被忽视的。而这个问题如果忽略了,可能就是一个大坑。因为既然使用了BigDecimal对象,基本上都是进行一些精度较高的运算,而精度较高的运算很可能就涉及到金钱了,如果出问题就是很大的问题。
页面更新:2024-05-18
本站资料均由网友自行发布提供,仅用于学习交流。如有版权问题,请与我联系,QQ:4156828
© CopyRight 2008-2024 All Rights Reserved. Powered By bs178.com 闽ICP备11008920号-3
闽公网安备35020302034844号