最近遇到這樣的一個問題,就是計算的時候和我們平常時候的計算不太一樣:
正常情況下,計算的結果應該是: xkwert = (100000*5151.11) /100170 = 5142.36
但是在某個標準程序裏面發現,結果卻是xkwert = 4402.66
幾經波折,終於找到了根源,這個其實是兩種不同的計算方式,一個是固定點運算fix point arithmetic,另外一個則叫非固定點運算,它是由程序裏面的attributes決定的。
當這個勾上的時候,計算方式就是固定點運算,也就是正常情況下的 xkwert = (100000*5151.11) /100170 = 5142.36
當去掉這個勾的時候,計算方式就是“非固定點運算”,也就是,xkwert = (100000*5151.11) / 117000 = 4402.6