• 软件测试技术
  • 软件测试博客
  • 软件测试视频
  • 开源软件测试技术
  • 软件测试论坛
  • 软件测试沙龙
  • 软件测试资料下载
  • 软件测试杂志
  • 软件测试人才招聘
    暂时没有公告

字号: 小 中 大 | 推荐给好友 上一篇 | 下一篇

Java中的浮点数分析

发布: 2007-7-01 18:47 | 作者: admin | 来源: | 查看: 16次 | 进入软件测试论坛讨论

领测软件测试网 浮点数分为单精度和双精度,Java中的单精度和双精度分别为float和double.你们知道float和double是怎么存储的吗?
  float占4个字节,double占8个字节,为了方便起见,这里就只讨论float类型.
  float其实和一个int型的大小是一样的,一共32位,第一位表示符号,2-9表示指数,后面23位表示小数部分.这里不多说,请参考:http://blog.csdn.net/treeroot/archive/2004/09/05/95071.aspx

  这里只举一个例子,希望能抛砖引玉,就是研究一下浮点数0.1的存储形式,先运行这个程序.



  public class Test{
  public static void main(String[] args) {
  int x = 0x3d800000;
  int i = 1 << 22;
  int j = 1 << 4;
  float f = 0.1f;
  int y = Float.floatToIntBits(f);
  float rest = f - ( (float) 1) / j;
  while (i > 0) {
  j <<= 1;
  float deta = ( (float) 1) / j;
  if (rest >= deta) {
  rest -= deta;
  x |= i;
  }
  i >>= 1;
  }
  pr(x);
  pr(y);
  }

  static void pr(int i) {
  System.out.println(Integer.toBinaryString(i));
  }

  }

  结果:
  111101110011001100110011001101
  111101110011001100110011001101

  程序说明:
  int x=0x3d80000;
  因为浮点表示形式为1.f*2n-127我们要表示0.1,可以知道n-127=-4,到n=123
  符号为正,可知前9是 001111011,暂时不考虑后面的23位小数,所以我们先假设x=0x3d800000;


  int i = 1 << 22;
  i初始为第右起第23位为1,就是x的第10位


  int j = 1 << 4;

  i初始为4,因为n-127为-4,这里是为了求它的倒数.


  float f = 0.1f;
  int y = Float.floatToIntBits(f);

  y就是它的32位表示


  float rest = f - ( (float) 1) / j;

  这个rest表示除了1.f中的1剩下的,也就是0.f


  while (i > 0) {
  j <<= 1;
  float deta = ( (float) 1) / j;
  if (rest >= deta) {
  rest -= deta;
  x |= i;
  }
  i >>= 1;
  }

  这个循环来计算23位小数部分,如果rest不小于deta,表示这个位可以置为1.

  其他的不多说了,输入结果是一样的,可以说0.1这个浮点数肯定是不精确的,但是0.5可以精确的表示,想想为什么吧.

延伸阅读

文章来源于领测软件测试网 https://www.ltesting.net/


关于领测软件测试网 | 领测软件测试网合作伙伴 | 广告服务 | 投稿指南 | 联系我们 | 网站地图 | 友情链接
版权所有(C) 2003-2010 TestAge(领测软件测试网)|领测国际科技(北京)有限公司|软件测试工程师培训网 All Rights Reserved
北京市海淀区中关村南大街9号北京理工科技大厦1402室 京ICP备2023014753号-2
技术支持和业务联系:[email protected] 电话:010-51297073

软件测试 | 领测国际 | ISTQB | ISTQB官网 | TMMi | TMMi认证 | 国际软件测试工程师认证 | 领测软件测试网