新聞中心

        EEPW首頁 > 測試測量 > 設計應用 > labview的深入探索----雙精度數精度問題

        labview的深入探索----雙精度數精度問題

        作者: 時間:2017-01-09 來源:網絡 收藏
        日前幫朋友看一個程序,一個WHILE循環,退出條件是等于一個雙精度數,結果程序未按照預想條件退出,由此想到了雙精度數的精度問題

        計算機中的雙精度數都存在精度損失的問題,因此一般不宜用相等進行判斷。





        可以看出,0.8+(0.42-0.5)!=0而下面(0.08+0.42)-0.5 =0
        上面!=0但是+1后卻等于1。

        雙精度浮點數的確不適合用相等來判斷。


        評論


        技術專區

        關閉
        主站蜘蛛池模板: 开封县| 四会市| 保亭| 金门县| 北碚区| 临漳县| 凯里市| 凤冈县| 洱源县| 肃宁县| 新邵县| 仁布县| 吕梁市| 青川县| 兰州市| 连云港市| 昌都县| 班戈县| 定边县| 昌宁县| 浪卡子县| 灵丘县| 磴口县| 黔东| 澄城县| 河池市| 淮阳县| 枣阳市| 广饶县| 辽阳市| 关岭| 文昌市| 南汇区| 江川县| 胶州市| 泽州县| 于都县| 赞皇县| 樟树市| 鹤山市| 繁峙县|