精度問題一種是注意微小的量變是否會引起質變。
常見的有:
1、判斷兩數是否相等;
2、無聊的-0;
3、acos、asin參數是否到了[-1,1]以外;
以後遇到了再補充=。=|||
精度問題還有一種是運算方法導致誤差偏大:
比如0.0001223423+2349870000000000000-2349870000000000000結果就會變0.000000,如果把後兩項先運算就會得到較精確的0.000122。
就大概這麼個意思。如果運算過程中有相對結果來說較大的數,把它們放在一旁先算下,消得差不多了再放進來。遇到的比較少。