固定點運算和它的對立面浮點運算

最近遇到這樣的一個問題,就是計算的時候和我們平常時候的計算不太一樣:




正常情況下,計算的結果應該是:   xkwert =  (100000*5151.11)  /100170  = 5142.36

                        但是在某個標準程序裏面發現,結果卻是xkwert = 4402.66


幾經波折,終於找到了根源,這個其實是兩種不同的計算方式,一個是固定點運算fix point arithmetic,另外一個則叫非固定點運算,它是由程序裏面的attributes決定的。



當這個勾上的時候,計算方式就是固定點運算,也就是正常情況下的 xkwert =  (100000*5151.11)  /100170  = 5142.36

當去掉這個勾的時候,計算方式就是“非固定點運算”,也就是,xkwert = (100000*5151.11) / 117000 = 4402.6


發表評論
所有評論
還沒有人評論,想成為第一個評論的人麼? 請在上方評論欄輸入並且點擊發布.
相關文章