8.23- 为什么浮点数运算的时候会有精度丢失的风险?
8.23- 为什么浮点数运算的时候会有精度丢失的风险?
小u浮点数运算精度丢失代码演示:
1 | float a = 2.0f - 1.9f; |
为什么会出现这个问题呢?
这个和计算机保存浮点数的机制有很大关系。我们知道计算机是二进制的,而且计算机在表示一个数字时,宽度是有限的,无限循环的小数存储在计算机时,只能被截断,所以就会导致小数精度发生损失的情况。这也就是解释了为什么浮点数没有办法用二进制精确表示。
就比如说十进制下的 0.2 就没办法精确转换成二进制小数:
1 | // 0.2 转换为二进制数的过程为,不断乘以 2,直到不存在小数为止, |