网管联盟 | 网管论坛 | 网管u家 | 网管博客 | 网管软件 | 网管求职 | 小游戏 | 网管搜索 | 网管原创 | 网管聚合 | 网管读摘 | 网管焦点 | 世界素材 | 会员投稿 | 会员中心 
中国网管联盟
Windows Linux Cisco 网络技术 数据库 黑客攻防 DotNet Java PHP 认证 新闻资讯 服务器 存储资讯 网络设备 网管学堂 技术专题 焦点 网吧频道
 当前位置: > bitsCN.com > JAVA > 核心技术 > 高级编程 > 关于BigDecimal的不精确计算问题  

关于BigDecimal的不精确计算问题

2008-07-16  作者:bitsCN整理  来源:中国网管联盟  点评 投稿 收藏

欢迎进入Java社区论坛,与200万技术人员互动交流 >>进入

    关于BigDecimal 的不精确计算问题 网管联盟bitsCN@com

    view plaincopy to clipboardprint?
    public static void main(String[] args){ 网管网www.bitscn.com

 

网管u家u.bitscn@com

           BigDecimal bg1 = new BigDecimal(100.91); 网管bitscn_com

           BigDecimal bg2 = new BigDecimal(5); 中国网管论坛bbs.bitsCN.com

  网管网www_bitscn_com

            BigDecimal bg3 = bg1.multiply(bg2); 网管u家u.bitscn@com

           System.out.println(bg3); 网管论坛bbs_bitsCN_com

 

网管联盟bitsCN_com

    }

网管u家u.bitsCN.com

    public static void main(String[] args){ 网管联盟bitsCN_com

 

网管下载dl.bitscn.com

           BigDecimal bg1 = new BigDecimal(100.91);

中国网管论坛bbs.bitsCN.com

           BigDecimal bg2 = new BigDecimal(5); 网管联盟bitsCN@com

 

网管联盟bitsCN@com

            BigDecimal bg3 = bg1.multiply(bg2); 网管联盟bitsCN_com

           System.out.println(bg3); 网管u家u.bitsCN.com

  中国网管联盟bitsCN.com

    }

网管联盟bitsCN@com

     输入结果为 504.549999999999982946974341757595539093017578125

网管网www.bitscn.com

    实际结果应为 504.55 网管bitscn_com

    现在作了如下函数,可以解决一部分处理,但是测试时,有些case,还是有不精确的时候

网管bitscn_com

    比如 0.123 和 5E10相乘 scale设置为10的时候,小数部分并不全为零

网管网www.bitscn.com

网管联盟bitsCN_com


TAGs   问题   计算   精确   关于       BigDecimal   arrayValues   int      
 上一篇:将指定的文本内容写入到指定路径的文件   下一篇:身份证号码的升位和验证
关于BigDecimal的不精确计算问题 评论:
loading.. 评论加载中…
评论:请自觉遵守互联网相关政策法规,评论不得超过250字。

验证码: 注册用户
本类热门排行:
最新推荐文章:
网管论坛交流: