精度問題

精度問題一種是注意微小的量變是否會引起質變。


常見的有:

1、判斷兩數是否相等;

2、無聊的-0;

3、acos、asin參數是否到了[-1,1]以外;

以後遇到了再補充=。=|||



精度問題還有一種是運算方法導致誤差偏大:

比如0.0001223423+2349870000000000000-2349870000000000000結果就會變0.000000,如果把後兩項先運算就會得到較精確的0.000122。

就大概這麼個意思。如果運算過程中有相對結果來說較大的數,把它們放在一旁先算下,消得差不多了再放進來。遇到的比較少。

發佈了71 篇原創文章 · 獲贊 4 · 訪問量 10萬+
發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章