九九百科網

位置:首頁 > 經驗 > 

什麼是截位法

經驗2.12W

什麼是截位法

截位法指在精度要求允許的範圍內,將計算過程當中的數字進行截位,即只計算其中的一位或者幾位數,從而得到足夠精度的計算結果的方法。截位法是將多位數化成簡單的數據計算,因此需要將數據進行近似的運算,在進行運算時,通常需要對數據進行“四捨五入”的近似運算。截位法可以應用在求和運算中,也可以應用在乘除運算中,所以一般將截位法分為加減截位和乘除截位,但是不管怎麼分類,截位的原理是一樣的。

標籤:截位