一個看似簡單的浮點數除法 6.0 / 0.2,數學結果應為 30。但在 32 位與 64 位 Linux 平台上,直接轉 int 卻得到 29 與 30 的不同結果。本文深入剖析 IEEE 754 浮點數表示、IA32 80 位擴展精度、捨入模式差異如何導致這個經典陷阱。
// 情況 A:直接轉換
double s = 6.0, e = 0.2;
int result = (int)(s / e); // 32位得 29,64位得 30
// 情況 B:中間變數
double d = s / e;
int result = (int)d; // 兩平台均得 30
十進制 0.2 在二進制中是無限循環小數:
0.2 = 0.0011001100110011... (base 2)
計算機以有限位數近似儲存,導致 s/e 的真實值略小於 30(約 29.999999...)。
x87 FPU(32 位模式)內部使用 80 位擴展精度 暫存器進行運算:
float (32bit) / double (64bit) → 載入時擴展為 80 位(int)(s/e) 直接轉換80位運算結果 (約 29.999999...)
↓ 直接轉 int (round-to-zero / 截斷)
int 結果 = 29
double d = s/e; (int)d 兩步轉換80位運算結果 (約 29.999999...)
↓ 存入 double (64位),round-to-even (銀行家捨入)
double d ≈ 30.000000...
↓ 轉 int (截斷)
int 結果 = 30
| 轉換方向 | 捨入模式 | 備註 |
|---|---|---|
| int → float | round-to-even | 可能精度損失 |
| int/float → double | 精度不損失 | 擴展精度 |
| double → float | round-to-even | 可能溢出 |
| float/double → int | round-to-zero (截斷) | 向零捨入 |
x86-64 (AMD64) 預設使用 SSE2 指令集,直接使用 64 位精度運算,無 80 位擴展精度中介,因此行為與「情況 B」一致,結果為 30。
// ❌ 危險
int result = (int)(a / b);
// ✅ 明確捨入
int result = (int)Math.round(a / b); // 四捨五入
int result = (int)Math.floor(a / b); // 向下取整
int result = (int)Math.ceil(a / b); // 向上取整
BigDecimal s = new BigDecimal("6.0");
BigDecimal e = new BigDecimal("0.2");
int result = s.divide(e, 0, RoundingMode.HALF_UP).intValue(); // 30
public strictfp class Calculator {
// 類內所有浮點運算強制遵循 IEEE 754,禁用 80 位擴展精度
}
-mfpmath=sse -msse2 強制使用 SSE(64 位預設)/fp:strict 或 /arch:SSE2Java 語言規範(JLS)要求 浮點運算嚴格遵循 IEEE 754,不允許 80 位擴展精度中介(除非標註 strictfp 的舊版 JVM 實作差異)。現代 JVM (HotSpot) 在 x86 上通常使用 SSE2,結果一致為 30。
// Java 中
double s = 6.0, e = 0.2;
System.out.println((int)(s/e)); // 穩定輸出 30
浮點數運算的「不精確」不是 Bug,而是有限精度表示無限實數的必然結果。理解硬體架構(x87 vs SSE2)、捨入模式、語言規範的差異,才能寫出跨平台一致的數值計算代碼。