发布时间:2023-10-02 17:30
BigDecimal numBigDecimal=new BigDecimal(5.33); numBigDecimal=ConvertNumber(numBigDecimal,3,2);//调用,5.33/3后保留两位小数1.7766666=1.78
//BigDecimal 截取小数位,四舍五入 public BigDecimal ConvertNumber(BigDecimal bigDecimal,int divnum,int num){ double a=bigDecimal.doubleValue(); a=a/divnum; String numString=\"0.\"; for(int i=0;i
当bigdecimal除不尽(循环小数)后会报错,上面的是一种解决方法,下面的是BigDecimal ,divide方法提供的精确小数方法(推荐使用)
@Test public void Testa(){ String currentLat2 = \"2.455675\"; BigDecimal b = new BigDecimal(currentLat2); b=b.divide(new BigDecimal(3),2,BigDecimal.ROUND_HALF_UP); System.out.println(b); }//输出是0.82
BigDecimal.setScale();//用于格式化小数点 setScale(1);//表示保留以为小数,默认用四舍五入方式 setScale(1,BigDecimal.ROUND_DOWN);//直接删除多余的小数位,如2.35会变成2.3 setScale(1,BigDecimal.ROUND_UP);//进位处理,2.35变成2.4 setScale(1,BigDecimal.ROUND_HALF_UP);//四舍五入,2.35变成2.4 setScaler(1,BigDecimal.ROUND_HALF_DOWN);//四舍五入,2.35变成2.3,如果是5则向下舍
1、ROUND_UP
2、ROUND_DOWN
3、ROUND_CEILING
4、ROUND_FLOOR
5、ROUND_HALF_UP
6、ROUND_HALF_DOWN
7、ROUND_HALF_EVEN
8、ROUND_UNNECESSARY
直接用数字转换为BigDecimal时会出现不精确的数值:
BigDecimal e = new BigDecimal(2.2); System.out.println(\"e:\"+e); BigDecimal f = new BigDecimal(3.32); System.out.println(\"f:\"+f); System.out.println(\"e+f=\"+e.add(f)); /* e:2.20000000000000017763568394002504646778106689453125 f:3.319999999999999840127884453977458178997039794921875 e+f=5.520000000000000017763568394002504646778106689453125 */ 数字转换为字符串后再转换为BigDecimal时后计算则是精确的数值(所以先转换为字符串后再转BigDecimal会得到精确的结果): BigDecimal e = new BigDecimal(\"2.2\"); System.out.println(\"e:\"+e); BigDecimal f = new BigDecimal(\"3.32\"); System.out.println(\"f:\"+f); System.out.println(\"e+f=\"+e.add(f)); /* 结果如下: e:2.2 f:3.32 e+f=5.52 */
其实提示信息已经很明显了,出现了无限循环小数,无法返回bigdecimal的值,回顾一下项目中的代码方式:
return new BigDecimal(baseMonth).divide(new BigDecimal(workDay)).setScale(2, BigDecimal.ROUND_HALF_UP);
代码如上,使用baseMonth除以workDay,返回的值按照四舍五入的方式保留两位小数。但是还是出现了异常,原因就在于divide的调用方式。
使用divide的重载方法:divide(BigDecimal divisor, int scale, int roundingMode)
return new BigDecimal(baseMonth).divide(new BigDecimal(workDay), 2, BigDecimal.ROUND_HALF_UP);
备注:小数点后的精确类型,可参考JDK源码,以下为简要的截图举例说明
问题是解决了,但是我还在想我第一种方式,显然,我在编码的时候也想到了指定小数点保留以及精确方式,但是还是会出现异常,那Bigdecimal提供的setScale的方法是在什么场景下使用呢?
我猜想当被除数除以除数结果为有限小数时,可以使用Bigdecimal的setScale方法,那来验证一下
public static void main(String[] args) { //有限小数 BigDecimal a = new BigDecimal(\"2\"); BigDecimal b = new BigDecimal(\"100\"); System.out.println(a.divide(b).setScale(2, RoundingMode.HALF_UP)); }
结果为:0.02
当使用.setScale(3, RoundingMode.HALF_UP)时,则结果为0.020;
可见,以上猜想是正确的,即当bigdecimal进行除法运算时,则会发生小数点溢出的情况,此时,可能会出现无限小数,抛出异常,建议使用divide(BigDecimal divisor, int scale, int roundingMode)方式进行除法运算。
以上为个人经验,希望能给大家一个参考,也希望大家多多支持脚本之家。
Blockchained On-Device Federated Learning学习笔记
springboot整合redis 使用注解@Cacheable、@CachePut、@CacheEvict
我的世界服务器修改速度,我的世界运算变速 TickrateChanger mod
python编程初学者的良言警句_送给大数据开发初学者的良言,有兴趣的可以看看...
这Python100道练习题及答案送给你,学完直接上手做项目
Typora 0.11.18免费版本安装使用教程(亲测可用)
[Golang]力扣Leetcode—中级算法—其他—两整数之和(位运算)
ORACLE分区表转换在线重定义DBMS_REDEFINITION