labview的深入探索----雙精度數(shù)精度問題
日前幫朋友看一個程序,一個WHILE循環(huán),退出條件是等于一個雙精度數(shù),結(jié)果程序未按照預(yù)想條件退出,由此想到了雙精度數(shù)的精度問題。
計算機中的雙精度數(shù)都存在精度損失的問題,因此一般不宜用相等進行判斷。
可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0但是+1后卻等于1。
雙精度浮點數(shù)的確不適合用相等來判斷。
日前幫朋友看一個程序,一個WHILE循環(huán),退出條件是等于一個雙精度數(shù),結(jié)果程序未按照預(yù)想條件退出,由此想到了雙精度數(shù)的精度問題。
計算機中的雙精度數(shù)都存在精度損失的問題,因此一般不宜用相等進行判斷。
可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
上面!=0但是+1后卻等于1。
雙精度浮點數(shù)的確不適合用相等來判斷。
要點: 有效應(yīng)對環(huán)境變化,經(jīng)營業(yè)績穩(wěn)中有升 落實提質(zhì)增效舉措,毛利潤率延續(xù)升勢 戰(zhàn)略布局成效顯著,戰(zhàn)新業(yè)務(wù)引領(lǐng)增長 以科技創(chuàng)新為引領(lǐng),提升企業(yè)核心競爭力 堅持高質(zhì)量發(fā)展策略,塑強核心競爭優(yōu)勢...
關(guān)鍵字: 通信 BSP 電信運營商 數(shù)字經(jīng)濟