萬盛學電腦網

您现在的位置: 萬盛學電腦網 >> 程式設計 >  >> 資料庫 >> Oracle 教學

Oracle 數值溢出錯誤解決方案:ROUND 函數精度控制

錯誤現象

Oracle NUMBER 型別支援 38 位精度。透過 JDBC/ODBC 等驅動轉換為 CLR 型別 (Decimal/Double) 時,小數位過多導致溢出拋出異常。

解決方法:ROUND 限制小數位

-- 保留 5 位小數,四捨五入
SELECT MIN(pval), MAX(pval), ROUND(AVG(pval), 5) FROM hvm_data_dga;

-- 單純測試
SELECT ROUND(32/14, 3) FROM dual;  -- 2.286
SELECT ROUND(32/14, 2) FROM dual;  -- 2.29

適用場景

  • 聚合函數 AVG、STDDEV 產生大量小數位
  • 跨語言/平台資料交互前預處理
  • 報表顯示層統一精度

補充:TRUNC 直接截斷

SELECT TRUNC(AVG(pval), 5) FROM hvm_data_dga;  -- 不四捨五入,直接截斷

視業務需求選擇 ROUND 或 TRUNC。

copyright © 萬盛學電腦網 all rights reserved