萬盛學電腦網

您现在的位置: 萬盛學電腦網 >> 程式設計 >  >> 網路程式設計 >> 程式語言綜合

Lua math.fmod 浮點數精度陷阱與避坑指南

問題現象

print(math.fmod(15, 4))    -- 3 (正確)
print(math.fmod(15.3, 4))  -- 3.3 (看似正確)
print(math.fmod(15, 4.1))  -- 2.6999999999999 (浮點誤差!)

根本原因

Lua 數值為 IEEE 754 雙精度浮點數,4.1 無法精確表示,導致取模結果出現微小誤差。

解決方案

  1. 避免浮點數取模:僅在整數運算中使用 math.fmod。
  2. 縮放法:將小數縮放為整數運算後再縮回。
    function fmod_fixed(x, y, precision)
        precision = precision or 10000
        return math.fmod(x * precision, y * precision) / precision
    end
    print(fmod_fixed(15, 4.1)) -- 2.7
  3. 使用整數庫:Lua 5.3+ 原生支持 64 位整數,優先用整數運算。

總結

math.fmod 設計用於浮點數取模,但受限於浮點表示誤差,財務、精確計算場景**嚴禁**直接使用浮點數取模,應轉換為整數運算或使用定點數庫。

copyright © 萬盛學電腦網 all rights reserved