萬盛學電腦網

 萬盛學電腦網 >> 腳本專題 >> javascript >> javascript避免數字計算精度誤差的方法詳解

javascript避免數字計算精度誤差的方法詳解

  本篇文章主要是對javascript避免數字計算精度誤差的方法進行了介紹,需要的朋友可以過來參考下,希望對大家有所幫助

  如果我問你 0.1 + 0.2 等於幾?你可能會送我一個白眼,0.1 + 0.2 = 0.3 啊,那還用問嗎?連幼兒園的小朋友都會回答這麼小兒科的問題了。但是你知道嗎,同樣的問題放在編程語言中,或許就不是想象中那麼簡單的事兒了。

  不信?我們先來看一段 JS。

  var numA = 0.1;

  var numB = 0.2;

  alert( (numA + numB) === 0.3 );

  執行結果是 false。沒錯,當我第一次看到這段代碼時,我也理所當然地以為它是 true,但是執行結果讓我大跌眼鏡,是我的打開方式不對嗎?非也非也。我們再執行以下代碼試試就知道結果為什麼是 false 了。

  var numA = 0.1;

  var numB = 0.2;

  alert( numA + numB );

  原來,0.1 + 0.2 = 0.30000000000000004。是不是很奇葩?其實對於浮點數的四則運算,幾乎所有的編程語言都會有類似精度誤差的問題,只不過在 C++/C#/Java 這些語言中已經封裝好了方法來避免精度的問題,而 JavaScript 是一門弱類型的語言,從設計思想上就沒有對浮點數有個嚴格的數據類型,所以精度誤差的問題就顯得格外突出。下面就分析下為什麼會有這個精度誤差,以及怎樣修復這個誤差。

  首先,我們要站在計算機的角度思考 0.1 + 0.2 這個看似小兒科的問題。我們知道,能被計算機讀懂的是二進制,而不是十進制,所以我們先把 0.1 和 0.2 轉換成二進制看看:

  0.1 => 0.0001 1001 1001 1001…(無限循環)

  0.2 => 0.0011 0011 0011 0011…(無限循環)

  雙精度浮點數的小數部分最多支持 52 位,所以兩者相加之後得到這麼一串 0.0100110011001100110011001100110011001100110011001100 因浮點數小數位的限制而截斷的二進制數字,這時候,我們再把它轉換為十進制,就成了 0.30000000000000004。

  原來如此,那怎麼解決這個問題呢?我想要的結果就是 0.1 + 0.2 === 0.3 啊!!!

  有種最簡單的解決方案,就是給出明確的精度要求,在返回值的過程中,計算機會自動四捨五入,比如:

  var numA = 0.1;

  var numB = 0.2;

  alert( parseFloat((numA + numB).toFixed(2)) === 0.3 );

  但是明顯這不是一勞永逸的方法,如果有一個方法能幫我們解決這些浮點數的精度問題,那該多好。我們來試試下面這個方法:

  Math.formatFloat = function(f, digit) {

  var m = Math.pow(10, digit);

  return parseInt(f * m, 10) / m;

  }

  var numA = 0.1;

  var numB = 0.2;

  alert(Math.formatFloat(numA + numB, 1) === 0.3);

  這個方法是什麼意思呢?為了避免產生精度差異,我們要把需要計算的數字乘以 10 的 n 次冪,換算成計算機能夠精確識別的整數,然後再除以 10 的 n 次冪,大部分編程語言都是這樣處理精度差異的,我們就借用過來處理一下 JS 中的浮點數精度誤差。

  如果下次再有人問你 0.1 + 0.2 等於幾,你可要小心回答咯!!

copyright © 萬盛學電腦網 all rights reserved