JS中浮點(diǎn)數(shù)精度問題的分析與解決方法_第1頁
JS中浮點(diǎn)數(shù)精度問題的分析與解決方法_第2頁
JS中浮點(diǎn)數(shù)精度問題的分析與解決方法_第3頁
JS中浮點(diǎn)數(shù)精度問題的分析與解決方法_第4頁
JS中浮點(diǎn)數(shù)精度問題的分析與解決方法_第5頁
已閱讀5頁,還剩5頁未讀 繼續(xù)免費(fèi)閱讀

下載本文檔

版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)

文檔簡介

第JS中浮點(diǎn)數(shù)精度問題的分析與解決方法目錄前言問題的發(fā)現(xiàn)浮點(diǎn)數(shù)運(yùn)算后的精度問題toFixed奇葩問題為什么會產(chǎn)生浮點(diǎn)數(shù)的存儲浮點(diǎn)數(shù)的運(yùn)算解決方法解決toFixed解決浮點(diǎn)數(shù)運(yùn)算精度附:JS浮點(diǎn)數(shù)精度問題的一些實用建議總結(jié)

前言

最近在做項目的時候,涉及到商品價格的計算,經(jīng)常會出現(xiàn)計算出現(xiàn)精度問題。剛開始草草了事,直接用toFixed就解決了問題,并沒有好好的思考一下這個問題。后來慢慢的,問題越來越多,連toFixed也出現(xiàn)了(允悲),后來經(jīng)過搜索網(wǎng)上的各種博客和論壇,整理總結(jié)了一下。

問題的發(fā)現(xiàn)

總結(jié)了一下,一共有以下兩種問題

浮點(diǎn)數(shù)運(yùn)算后的精度問題

在計算商品價格加減乘除時,偶爾##會出現(xiàn)精度問題,一些常見的例子如下:

//加法=====================

0.1+0.2=0.30000000000000004

0.7+0.1=0.7999999999999999

0.2+0.4=0.6000000000000001

//減法=====================

1.5-1.2=0.30000000000000004

0.3-0.2=0.09999999999999998

//乘法=====================

19.9*100=1989.9999999999998

0.8*3=2.4000000000000004

35.41*100=3540.9999999999995

//除法=====================

0.3/0.1=2.9999999999999996

0.69/10=0.06899999999999999

toFixed奇葩問題

在遇到浮點(diǎn)數(shù)運(yùn)算后出現(xiàn)的精度問題時,剛開始我是使用toFixed(2)來解決的,因為在W3school和菜鳥教程(他們均表示這鍋不背)上明確寫著定義:toFixed()方法可把Number四舍五入為指定小數(shù)位數(shù)的數(shù)字。

但是在chrome下測試結(jié)果不太令人滿意:

1.35.toFixed(1)//1.4正確

1.335.toFixed(2)//1.33錯誤

1.3335.toFixed(3)//1.333錯誤

1.33335.toFixed(4)//1.3334正確

1.333335.toFixed(5)//1.33333錯誤

1.3333335.toFixed(6)//1.333333錯誤

使用IETester在IE下面測試的結(jié)果卻是正確的。

為什么會產(chǎn)生

讓我們來看一下為什么0.1+0.2會等于0.30000000000000004,而不是0.3。首先,想要知道為什么會產(chǎn)生這樣的問題,讓我們回到大學(xué)里學(xué)的復(fù)(ku)雜(zao)的計算機(jī)組成原理。雖然已經(jīng)全部還給大學(xué)老師了,但是沒關(guān)系,我們還有百度嘛。

浮點(diǎn)數(shù)的存儲

和其它語言如Java和Python不同,JavaScript中所有數(shù)字包括整數(shù)和小數(shù)都只有一種類型Number。它的實現(xiàn)遵循IEEE754標(biāo)準(zhǔn),使用64位固定長度來表示,也就是標(biāo)準(zhǔn)的double雙精度浮點(diǎn)數(shù)(相關(guān)的還有float32位單精度)。

這樣的存儲結(jié)構(gòu)優(yōu)點(diǎn)是可以歸一化處理整數(shù)和小數(shù),節(jié)省存儲空間。

64位比特又可分為三個部分:

符號位S:第1位是正負(fù)數(shù)符號位(sign),0代表正數(shù),1代表負(fù)數(shù)

指數(shù)位E:中間的11位存儲指數(shù)(exponent),用來表示次方數(shù)

尾數(shù)位M:最后的52位是尾數(shù)(mantissa),超出的部分自動進(jìn)一舍零

浮點(diǎn)數(shù)的運(yùn)算

那么JavaScript在計算0.1+0.2時到底發(fā)生了什么呢?

首先,十進(jìn)制的0.1和0.2會被轉(zhuǎn)換成二進(jìn)制的,但是由于浮點(diǎn)數(shù)用二進(jìn)制表示時是無窮的:

0.1-0.0001100110011001...(1100循環(huán))

0.2-0.0011001100110011...(0011循環(huán))

IEEE754標(biāo)準(zhǔn)的64位雙精度浮點(diǎn)數(shù)的小數(shù)部分最多支持53位二進(jìn)制位,所以兩者相加之后得到二進(jìn)制為:

0.0100110011001100110011001100110011001100110011001100

因浮點(diǎn)數(shù)小數(shù)位的限制而截斷的二進(jìn)制數(shù)字,再轉(zhuǎn)換為十進(jìn)制,就成了0.30000000000000004。所以在進(jìn)行算術(shù)計算時會產(chǎn)生誤差。

解決方法

針對以上兩個問題,網(wǎng)上搜了一波解決方法,基本都大同小異的,分別來看一下。

解決toFixed

針對toFixed的兼容性問題,我們可以把toFix重寫一下來解決,代碼如下:

//toFixed兼容方法

Ntotype.toFixed=function(len){

if(len20||len0){

thrownewRangeError('toFixed()digitsargumentmustbebetween0and20');

//.123轉(zhuǎn)為0.123

varnumber=Number(this);

if(isNaN(number)||number=Math.pow(10,21)){

returnnumber.toString();

if(typeof(len)=='undefined'||len==0){

return(Math.round(number)).toString();

varresult=number.toString(),

numberArr=result.split('.');

if(numberArr.length2){

//整數(shù)的情況

returnpadNum(result);

varintNum=numberArr[0],//整數(shù)部分

deciNum=numberArr[1],//小數(shù)部分

lastNum=deciNum.substr(len,1);//最后一個數(shù)字

if(deciNum.length==len){

//需要截取的長度等于當(dāng)前長度

returnresult;

if(deciNum.lengthlen){

//需要截取的長度大于當(dāng)前長度1.3.toFixed(2)

returnpadNum(result)

//需要截取的長度小于當(dāng)前長度,需要判斷最后一位數(shù)字

result=intNum+'.'+deciNum.substr(0,len);

if(parseInt(lastNum,10)=5){

//最后一位數(shù)字大于5,要進(jìn)位

vartimes=Math.pow(10,len);//需要放大的倍數(shù)

varchangedInt=Number(result.replace('.',''));//截取后轉(zhuǎn)為整數(shù)

changedInt++;//整數(shù)進(jìn)位

changedInt/=times;//整數(shù)轉(zhuǎn)為小數(shù),注:有可能還是整數(shù)

result=padNum(changedInt+'');

returnresult;

//對數(shù)字末尾加0

functionpadNum(num){

vardotPos=num.indexOf('.');

if(dotPos===-1){

//整數(shù)的情況

num+='.';

for(vari=0;ii++){

num+='0';

returnnum;

}else{

//小數(shù)的情況

varneed=len-(num.length-dotPos-1);

for(varj=0;jneed;j++){

num+='0';

returnnum;

}

我們通過判斷最后一位是否大于等于5來決定需不需要進(jìn)位,如果需要進(jìn)位先把小數(shù)乘以倍數(shù)變?yōu)檎麛?shù),加1之后,再除以倍數(shù)變?yōu)樾?shù),這樣就不用一位一位的進(jìn)行判斷。

解決浮點(diǎn)數(shù)運(yùn)算精度

既然我們發(fā)現(xiàn)了浮點(diǎn)數(shù)的這個問題,又不能直接讓兩個浮點(diǎn)數(shù)運(yùn)算,那怎么處理呢?

我們可以把需要計算的數(shù)字升級(乘以10的n次冪)成計算機(jī)能夠精確識別的整數(shù),等計算完成后再進(jìn)行降級(除以10的n次冪),這是大部分變成語言處理精度問題常用的方法。例如:

0.1+0.2==0.3//false

(0.1*10+0.2*10)/10==0.3//true

但是這樣就能完美解決么?細(xì)心的讀者可能在上面的例子里已經(jīng)發(fā)現(xiàn)了問題:

35.41*100=3540.9999999999995

看來進(jìn)行數(shù)字升級也不是完全的可靠啊(允悲)。

但是魔高一尺道高一丈,這樣就能難住我們么,我們可以將浮點(diǎn)數(shù)toString后indexOf(.),記錄一下小數(shù)位的長度,然后將小數(shù)點(diǎn)抹掉,完整的代碼如下:

/***method**

*add/subtract/multiply/divide

*floatObj.add(0.1,0.2)0.3

*floatObj.multiply(19.9,100)1990

varfloatObj=function(){

*判斷obj是否為一個整數(shù)

functionisInteger(obj){

returnMath.floor(obj)===obj

*將一個浮點(diǎn)數(shù)轉(zhuǎn)成整數(shù),返回整數(shù)和倍數(shù)。如3.14314,倍數(shù)是100

*@paramfloatNum{number}小數(shù)

*@return{object}

*{times:100,num:314}

functiontoInteger(floatNum){

varret={times:1,num:0}

if(isInteger(floatNum)){

ret.num=floatNum

returnret

varstrfi=floatNum+''

vardotPos=strfi.indexOf('.')

varlen=strfi.substr(dotPos+1).length

vartimes=Math.pow(10,len)

varintNum=Number(floatNum.toString().replace('.',''))

ret.times=times

ret.num=intNum

returnret

*核心方法,實現(xiàn)加減乘除運(yùn)算,確保不丟失精度

*思路:把小數(shù)放大為整數(shù)(乘),進(jìn)行算術(shù)運(yùn)算,再縮小為小數(shù)(除)

*@parama{number}運(yùn)算數(shù)1

*@paramb{number}運(yùn)算數(shù)2

*@paramdigits{number}精度,保留的小數(shù)點(diǎn)數(shù),比如2,即保留為兩位小數(shù)

*@paramop{string}運(yùn)算類型,有加減乘除(add/subtract/multiply/divide)

functionoperation(a,b,digits,op){

varo1=toInteger(a)

varo2=toInteger(b)

varn1=o1.num

varn2=o2.num

vart1=o1.times

vart2=o2.times

varmax=t1t2t1:t2

varresult=null

switch(op){

case'add':

if(t1===t2){//兩個小數(shù)位數(shù)相同

result=n1+n2

}elseif(t1t2){//o1小數(shù)位大于o2

result=n1+n2*(t1/t2)

}else{//o1小數(shù)位小于o2

result=n1*(t2/t1)+n2

returnresult/max

case'subtract':

if(t1===t2){

result=n1-n2

}elseif(t1t2){

result=n1-n2*(t1/t2)

}else{

result=n1*(t2/t1)-n2

returnresult/max

case'multiply':

result=(n1*n2)/(t1*t2)

returnresult

case'divide':

result=(n1/n2)*(t2/t1)

returnresult

//加減乘除的四個接口

functionadd(a,b,digits){

returnoperation(a,b,digits,'add')

functionsubtract(a,b,

溫馨提示

  • 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
  • 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
  • 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
  • 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
  • 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
  • 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
  • 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。

評論

0/150

提交評論