-
labview的深入探索----雙精度數(shù)精度問題
日前幫朋友看一個(gè)程序，一個(gè)WHILE循環(huán)，退出條件是等于一個(gè)雙精度數(shù)，結(jié)果程序未按照預(yù)想條件退出，由此想到了雙精度數(shù)的精度問題。 計(jì)算機(jī)中的雙精度數(shù)都存在精度損失的問題，因此一般不宜用相等進(jìn)行判斷。
日前幫朋友看一個(gè)程序，一個(gè)WHILE循環(huán)，退出條件是等于一個(gè)雙精度數(shù)，結(jié)果程序未按照預(yù)想條件退出，由此想到了雙精度數(shù)的精度問題。 計(jì)算機(jī)中的雙精度數(shù)都存在精度損失的問題，因此一般不宜用相等進(jìn)行判斷。
本站介紹 | 申請(qǐng)友情鏈接 | 歡迎投稿 | 隱私聲明 | 廣告業(yè)務(wù) | 網(wǎng)站地圖 | 聯(lián)系我們 | 誠(chéng)聘英才
ICP許可證號(hào)：京ICP證070360號(hào) 21ic電子網(wǎng) 2000- 版權(quán)所有 用戶舉報(bào)窗口（ 郵箱：macysun@21ic.com ）
