关于十进制转换二进制的误差问题十进制转换成二进制,误差小于5‰(注意是千分之五).不理解这个误差要怎么解.例如将十进制数0.32转换成二进制,误差小于5‰该怎么算?

Question

关于十进制转换二进制的误差问题
十进制转换成二进制,误差小于5‰(注意是千分之五).
不理解这个误差要怎么解.
例如将十进制数 0.32 转换成二进制,误差小于5‰该怎么算?

Answer 1

误差小于千分之五,是说转换后的数 x 与之前的数 0.32 的差的绝对值除以 0.32,结果小于 0.005 ,
也就是 |x-0.32|<0.0016 ,
所以 0.3184按乘以 2 取整法,
0.32*2=0.64,----------0
0.64*2=1.28,----------1
0.28*2=0.56,----------0
0.56*2=1.12,----------1
0.12*2=0.24,----------0
0.24*2=0.48,----------0
0.48*2=0.96,----------约等于 1 ,
因此 0.32 转换为 2 进制约等于 0.0101001 （这个数转换为 10 进制是 0.3203125,在精度范围内）.