awk實戰6-awk浮點數精度的坑

awk在處理浮點數加減時默認是按double-float來處理，一般的處理對精度要求沒有那么高，因此通常用awk不會踩到精度的坑，當你對精度的要求要達到小數點后面6位以上時，就要注意精度的問題了。

1、精度問題舉例

小數點后面6位小數，輸出6位正常

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.6f\n",sum)}'
57760731.179959

輸出8位也正常

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.8f\n",sum)}'
57760731.17995900

注意，輸出9位就有誤差了

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.9f\n",sum)}'
57760731.179958999

輸出10位的誤差更大

$ echo 57760731.179959 | awk '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799589992

2、精度誤差的原因和解決方案

awk的默認精度范圍是53bit，也就是雙精度的范圍內，因此在做高精度數值計算時，一定要注意浮點數的精度要求。

要提高精度，可以通過修改PREC內置變量來解決，參考文檔：15.4.4 Setting the Precision

$ echo 57760731.179959 | awk -M -v PREC=100 -v CONVFMT=%.30g '{sum+=$1}END{printf("%.10f\n",sum)}'
57760731.1799590000
?著作權歸作者所有,轉載或內容合作請聯系作者
平臺聲明：文章內容（如有圖片或視頻亦包括在內）由作者上傳并發布，文章內容僅代表作者本人觀點，簡書系信息發布平臺，僅提供信息存儲服務。

推薦閱讀更多精彩內容