原文鏈接
前幾天有個同學(xué)在問，float數(shù)運算的時候精度出現(xiàn)問題，比如
public class Main {
public static void main(String[] args) {
int a = 3;
float b = 0.9f;
System.out.print(a * b);
}
}
按道理來說結(jié)果應(yīng)該是2.7,但是運行的結(jié)果卻不是。
定點數(shù) 和 浮點數(shù)
記得老師上課的時候講的，“你們記住，定點數(shù)就是整數(shù)，浮點數(shù)就是下小數(shù)”，當(dāng)時覺得好像沒有問題。
在計算機中，只有定點數(shù)和浮點數(shù)，沒有整數(shù)和小數(shù)，浮點的“點”是小數(shù)點。 把小數(shù)點固定，通常固定在最右面，就是定點數(shù)。 把小數(shù)點浮動，就是浮點數(shù)。
進制轉(zhuǎn)換
計算機存儲任何數(shù)字都是基于二進制，那么浮點數(shù)怎么存儲成二進制？定點、浮點，“點”是什么意思？
這個在 IEEE754 浮點數(shù)標準里面定義的,Java遵循了這個標準。 過程如下：
-
第一步：轉(zhuǎn)換成二進制
十進制數(shù)字轉(zhuǎn)化成二進制表示形式，通過將整數(shù)部分除2取余、小數(shù)部分乘2取整來完成轉(zhuǎn)換，所以這里有可能丟失精度0.12 =>0.00011110101110000101000111101... 第二步：用二進制科學(xué)計算法表示
將小數(shù)點移動到第一個1的右邊
0.00011110101110000101000111101... =>
1.1110101110000101000111101... * 2 ^ -4
- 第三步：表示成 IEEE 754 形式
這里也可能會丟失精度
1 8位 23位 存不下了
0 01111011 11101011100001010001111 (01...)
+ 2的-4次冪 除去整數(shù)部分1之后剩余的尾數(shù) 0舍1入后忽略這部分，精度就這樣沒了
所以最后我們需要轉(zhuǎn)換成十進制的時候，丟失部分的進度就沒辦法回來了
哪些數(shù)能精確表示？
舉個例子：0.1 在計算機中可以精確表示嗎？
我們試一下，試著乘2取整把他轉(zhuǎn)換成二進制。
(1) 0.1 x 2 = 0.2 取整數(shù)位 0 得 0.0
(2) 0.2 x 2 = 0.4 取整數(shù)位 0 得 0.00
(3) 0.4 x 2 = 0.8 取整數(shù)位 0 得 0.000
(4) 0.8 x 2 = 1.6 取整數(shù)位 1 得 0.0001
(5) 0.6 x 2 = 0.2 取整數(shù)位 1 得 0.00011
(6) 0.2 x 2 = 0.4 取整數(shù)位 0 得 0.000110
(7) 0.4 x 2 = 0.8 取整數(shù)位 0 得 0.0001100
(8) 0.8 x 2 = 1.6 取整數(shù)位 1 得 0.00011001
(9) 0.6 x 2 = 1.2 取整數(shù)位 1 得 0.000110011
(10) 0.2 x 2 = 0.4 取整數(shù)位 1 得 0.0001100110
(n)...
啊哈，返現(xiàn)了沒有，居然在循環(huán)~，所以我們沒辦法求出0.1用二進制表示的準確值，所以在第一步就已經(jīng)丟失了精度
其實在0.1 ~ 0.9 中，只有0.5能用二進制精確表示：
(1) 0.5 x 2 = 1.0 取整數(shù)位 1 得 0.1
(2) 0.0 x 2 = 0.0 取整數(shù)位 0 得 0.10
哈哈，后面繼續(xù)下去就都是0了，所以0.5的精度并沒有發(fā)生丟失。
所以我們由此可以推出一個條件
如果一個十進制數(shù)的最后一位是5,那么它可以用二進制精確表示。
解決方案
一種思路
針對小數(shù)精度不夠的問題（例如 0.1），軟件可以人為的在數(shù)據(jù)最后一位補 5， 也就是 0.15，這樣犧牲一位，但是可以保證數(shù)據(jù)精度，還原再把那個尾巴 5 去掉。
另一種辦法
講道理，上一種方法我們實際開發(fā)的時候采用是不現(xiàn)實的，float 用 4 個字節(jié)存儲，double 用 8 個字節(jié)存儲，精度肯定是有限的，但是一般的計算都足夠了。
需要高精度計算的時候，我們可以采用BigDecimal類來計算。但是速度會比float和double慢很多~。
