




版權(quán)說明:本文檔由用戶提供并上傳,收益歸屬內(nèi)容提供方,若內(nèi)容存在侵權(quán),請進(jìn)行舉報或認(rèn)領(lǐng)
文檔簡介
第JS中浮點(diǎn)數(shù)精度問題的分析與解決方法目錄前言問題的發(fā)現(xiàn)浮點(diǎn)數(shù)運(yùn)算后的精度問題toFixed奇葩問題為什么會產(chǎn)生浮點(diǎn)數(shù)的存儲浮點(diǎn)數(shù)的運(yùn)算解決方法解決toFixed解決浮點(diǎn)數(shù)運(yùn)算精度附:JS浮點(diǎn)數(shù)精度問題的一些實用建議總結(jié)
前言
最近在做項目的時候,涉及到商品價格的計算,經(jīng)常會出現(xiàn)計算出現(xiàn)精度問題。剛開始草草了事,直接用toFixed就解決了問題,并沒有好好的思考一下這個問題。后來慢慢的,問題越來越多,連toFixed也出現(xiàn)了(允悲),后來經(jīng)過搜索網(wǎng)上的各種博客和論壇,整理總結(jié)了一下。
問題的發(fā)現(xiàn)
總結(jié)了一下,一共有以下兩種問題
浮點(diǎn)數(shù)運(yùn)算后的精度問題
在計算商品價格加減乘除時,偶爾##會出現(xiàn)精度問題,一些常見的例子如下:
//加法=====================
0.1+0.2=0.30000000000000004
0.7+0.1=0.7999999999999999
0.2+0.4=0.6000000000000001
//減法=====================
1.5-1.2=0.30000000000000004
0.3-0.2=0.09999999999999998
//乘法=====================
19.9*100=1989.9999999999998
0.8*3=2.4000000000000004
35.41*100=3540.9999999999995
//除法=====================
0.3/0.1=2.9999999999999996
0.69/10=0.06899999999999999
toFixed奇葩問題
在遇到浮點(diǎn)數(shù)運(yùn)算后出現(xiàn)的精度問題時,剛開始我是使用toFixed(2)來解決的,因為在W3school和菜鳥教程(他們均表示這鍋不背)上明確寫著定義:toFixed()方法可把Number四舍五入為指定小數(shù)位數(shù)的數(shù)字。
但是在chrome下測試結(jié)果不太令人滿意:
1.35.toFixed(1)//1.4正確
1.335.toFixed(2)//1.33錯誤
1.3335.toFixed(3)//1.333錯誤
1.33335.toFixed(4)//1.3334正確
1.333335.toFixed(5)//1.33333錯誤
1.3333335.toFixed(6)//1.333333錯誤
使用IETester在IE下面測試的結(jié)果卻是正確的。
為什么會產(chǎn)生
讓我們來看一下為什么0.1+0.2會等于0.30000000000000004,而不是0.3。首先,想要知道為什么會產(chǎn)生這樣的問題,讓我們回到大學(xué)里學(xué)的復(fù)(ku)雜(zao)的計算機(jī)組成原理。雖然已經(jīng)全部還給大學(xué)老師了,但是沒關(guān)系,我們還有百度嘛。
浮點(diǎn)數(shù)的存儲
和其它語言如Java和Python不同,JavaScript中所有數(shù)字包括整數(shù)和小數(shù)都只有一種類型Number。它的實現(xiàn)遵循IEEE754標(biāo)準(zhǔn),使用64位固定長度來表示,也就是標(biāo)準(zhǔn)的double雙精度浮點(diǎn)數(shù)(相關(guān)的還有float32位單精度)。
這樣的存儲結(jié)構(gòu)優(yōu)點(diǎn)是可以歸一化處理整數(shù)和小數(shù),節(jié)省存儲空間。
64位比特又可分為三個部分:
符號位S:第1位是正負(fù)數(shù)符號位(sign),0代表正數(shù),1代表負(fù)數(shù)
指數(shù)位E:中間的11位存儲指數(shù)(exponent),用來表示次方數(shù)
尾數(shù)位M:最后的52位是尾數(shù)(mantissa),超出的部分自動進(jìn)一舍零
浮點(diǎn)數(shù)的運(yùn)算
那么JavaScript在計算0.1+0.2時到底發(fā)生了什么呢?
首先,十進(jìn)制的0.1和0.2會被轉(zhuǎn)換成二進(jìn)制的,但是由于浮點(diǎn)數(shù)用二進(jìn)制表示時是無窮的:
0.1-0.0001100110011001...(1100循環(huán))
0.2-0.0011001100110011...(0011循環(huán))
IEEE754標(biāo)準(zhǔn)的64位雙精度浮點(diǎn)數(shù)的小數(shù)部分最多支持53位二進(jìn)制位,所以兩者相加之后得到二進(jìn)制為:
0.0100110011001100110011001100110011001100110011001100
因浮點(diǎn)數(shù)小數(shù)位的限制而截斷的二進(jìn)制數(shù)字,再轉(zhuǎn)換為十進(jìn)制,就成了0.30000000000000004。所以在進(jìn)行算術(shù)計算時會產(chǎn)生誤差。
解決方法
針對以上兩個問題,網(wǎng)上搜了一波解決方法,基本都大同小異的,分別來看一下。
解決toFixed
針對toFixed的兼容性問題,我們可以把toFix重寫一下來解決,代碼如下:
//toFixed兼容方法
Ntotype.toFixed=function(len){
if(len20||len0){
thrownewRangeError('toFixed()digitsargumentmustbebetween0and20');
//.123轉(zhuǎn)為0.123
varnumber=Number(this);
if(isNaN(number)||number=Math.pow(10,21)){
returnnumber.toString();
if(typeof(len)=='undefined'||len==0){
return(Math.round(number)).toString();
varresult=number.toString(),
numberArr=result.split('.');
if(numberArr.length2){
//整數(shù)的情況
returnpadNum(result);
varintNum=numberArr[0],//整數(shù)部分
deciNum=numberArr[1],//小數(shù)部分
lastNum=deciNum.substr(len,1);//最后一個數(shù)字
if(deciNum.length==len){
//需要截取的長度等于當(dāng)前長度
returnresult;
if(deciNum.lengthlen){
//需要截取的長度大于當(dāng)前長度1.3.toFixed(2)
returnpadNum(result)
//需要截取的長度小于當(dāng)前長度,需要判斷最后一位數(shù)字
result=intNum+'.'+deciNum.substr(0,len);
if(parseInt(lastNum,10)=5){
//最后一位數(shù)字大于5,要進(jìn)位
vartimes=Math.pow(10,len);//需要放大的倍數(shù)
varchangedInt=Number(result.replace('.',''));//截取后轉(zhuǎn)為整數(shù)
changedInt++;//整數(shù)進(jìn)位
changedInt/=times;//整數(shù)轉(zhuǎn)為小數(shù),注:有可能還是整數(shù)
result=padNum(changedInt+'');
returnresult;
//對數(shù)字末尾加0
functionpadNum(num){
vardotPos=num.indexOf('.');
if(dotPos===-1){
//整數(shù)的情況
num+='.';
for(vari=0;ii++){
num+='0';
returnnum;
}else{
//小數(shù)的情況
varneed=len-(num.length-dotPos-1);
for(varj=0;jneed;j++){
num+='0';
returnnum;
}
我們通過判斷最后一位是否大于等于5來決定需不需要進(jìn)位,如果需要進(jìn)位先把小數(shù)乘以倍數(shù)變?yōu)檎麛?shù),加1之后,再除以倍數(shù)變?yōu)樾?shù),這樣就不用一位一位的進(jìn)行判斷。
解決浮點(diǎn)數(shù)運(yùn)算精度
既然我們發(fā)現(xiàn)了浮點(diǎn)數(shù)的這個問題,又不能直接讓兩個浮點(diǎn)數(shù)運(yùn)算,那怎么處理呢?
我們可以把需要計算的數(shù)字升級(乘以10的n次冪)成計算機(jī)能夠精確識別的整數(shù),等計算完成后再進(jìn)行降級(除以10的n次冪),這是大部分變成語言處理精度問題常用的方法。例如:
0.1+0.2==0.3//false
(0.1*10+0.2*10)/10==0.3//true
但是這樣就能完美解決么?細(xì)心的讀者可能在上面的例子里已經(jīng)發(fā)現(xiàn)了問題:
35.41*100=3540.9999999999995
看來進(jìn)行數(shù)字升級也不是完全的可靠啊(允悲)。
但是魔高一尺道高一丈,這樣就能難住我們么,我們可以將浮點(diǎn)數(shù)toString后indexOf(.),記錄一下小數(shù)位的長度,然后將小數(shù)點(diǎn)抹掉,完整的代碼如下:
/***method**
*add/subtract/multiply/divide
*floatObj.add(0.1,0.2)0.3
*floatObj.multiply(19.9,100)1990
varfloatObj=function(){
*判斷obj是否為一個整數(shù)
functionisInteger(obj){
returnMath.floor(obj)===obj
*將一個浮點(diǎn)數(shù)轉(zhuǎn)成整數(shù),返回整數(shù)和倍數(shù)。如3.14314,倍數(shù)是100
*@paramfloatNum{number}小數(shù)
*@return{object}
*{times:100,num:314}
functiontoInteger(floatNum){
varret={times:1,num:0}
if(isInteger(floatNum)){
ret.num=floatNum
returnret
varstrfi=floatNum+''
vardotPos=strfi.indexOf('.')
varlen=strfi.substr(dotPos+1).length
vartimes=Math.pow(10,len)
varintNum=Number(floatNum.toString().replace('.',''))
ret.times=times
ret.num=intNum
returnret
*核心方法,實現(xiàn)加減乘除運(yùn)算,確保不丟失精度
*思路:把小數(shù)放大為整數(shù)(乘),進(jìn)行算術(shù)運(yùn)算,再縮小為小數(shù)(除)
*@parama{number}運(yùn)算數(shù)1
*@paramb{number}運(yùn)算數(shù)2
*@paramdigits{number}精度,保留的小數(shù)點(diǎn)數(shù),比如2,即保留為兩位小數(shù)
*@paramop{string}運(yùn)算類型,有加減乘除(add/subtract/multiply/divide)
functionoperation(a,b,digits,op){
varo1=toInteger(a)
varo2=toInteger(b)
varn1=o1.num
varn2=o2.num
vart1=o1.times
vart2=o2.times
varmax=t1t2t1:t2
varresult=null
switch(op){
case'add':
if(t1===t2){//兩個小數(shù)位數(shù)相同
result=n1+n2
}elseif(t1t2){//o1小數(shù)位大于o2
result=n1+n2*(t1/t2)
}else{//o1小數(shù)位小于o2
result=n1*(t2/t1)+n2
returnresult/max
case'subtract':
if(t1===t2){
result=n1-n2
}elseif(t1t2){
result=n1-n2*(t1/t2)
}else{
result=n1*(t2/t1)-n2
returnresult/max
case'multiply':
result=(n1*n2)/(t1*t2)
returnresult
case'divide':
result=(n1/n2)*(t2/t1)
returnresult
//加減乘除的四個接口
functionadd(a,b,digits){
returnoperation(a,b,digits,'add')
functionsubtract(a,b,
溫馨提示
- 1. 本站所有資源如無特殊說明,都需要本地電腦安裝OFFICE2007和PDF閱讀器。圖紙軟件為CAD,CAXA,PROE,UG,SolidWorks等.壓縮文件請下載最新的WinRAR軟件解壓。
- 2. 本站的文檔不包含任何第三方提供的附件圖紙等,如果需要附件,請聯(lián)系上傳者。文件的所有權(quán)益歸上傳用戶所有。
- 3. 本站RAR壓縮包中若帶圖紙,網(wǎng)頁內(nèi)容里面會有圖紙預(yù)覽,若沒有圖紙預(yù)覽就沒有圖紙。
- 4. 未經(jīng)權(quán)益所有人同意不得將文件中的內(nèi)容挪作商業(yè)或盈利用途。
- 5. 人人文庫網(wǎng)僅提供信息存儲空間,僅對用戶上傳內(nèi)容的表現(xiàn)方式做保護(hù)處理,對用戶上傳分享的文檔內(nèi)容本身不做任何修改或編輯,并不能對任何下載內(nèi)容負(fù)責(zé)。
- 6. 下載文件中如有侵權(quán)或不適當(dāng)內(nèi)容,請與我們聯(lián)系,我們立即糾正。
- 7. 本站不保證下載資源的準(zhǔn)確性、安全性和完整性, 同時也不承擔(dān)用戶因使用這些下載資源對自己和他人造成任何形式的傷害或損失。
最新文檔
- 安全乘車守規(guī)則課件
- 醫(yī)師備考的有效試題體系
- 孤獨(dú)癥家長培訓(xùn)課件下載
- 孤獨(dú)之旅課件
- 地鐵線路設(shè)計影響因素分析
- 護(hù)理心理支持技術(shù)試題及答案
- 婦產(chǎn)科知識點(diǎn)課件
- 牛頓運(yùn)動定律課件資料包
- 創(chuàng)新衛(wèi)生資格考試習(xí)題研究試題與答案
- 中國古代文化與現(xiàn)代企業(yè)管理試題及答案
- 8d報告空白表格模板
- 全冊備課(教案)2023-2024學(xué)年數(shù)學(xué)五年級下冊
- 江西中煙工業(yè)有限責(zé)任公司招聘筆試題庫2024
- 大學(xué)生心理健康智慧樹知到期末考試答案章節(jié)答案2024年西安電子科技大學(xué)
- 大熊貓簡介完整版本
- 高階數(shù)獨(dú)解題技巧講解
- GB/T 22581-2024混流式水泵水輪機(jī)基本技術(shù)條件
- 2023-2024學(xué)年人教版八年級下冊數(shù)學(xué)期末復(fù)習(xí)試題
- 第03講三步解決一次函數(shù)的行程問題(原卷版+解析)
- 2024年社會工作者《社會工作實務(wù)(中級)》考試真題必考題
- 新能源汽車維修技術(shù)與標(biāo)準(zhǔn)
評論
0/150
提交評論