labview編程技巧---定點數轉換
0000 1264 C97C 8937 77C8 3783 EE9B 0000
說明兩個字節對應一個點的數據(高低位互換后,如:1264(存儲時的樣子),實際數值為:6412(16進制),他們對應的10進制浮點數如下:
00.7818314824520.97492791219320.4338837391869-0.4338837390251-0.9749279121533-0.781831482564-1.79586368671E-10
問題:
例如: C877 (16進制) =-0.4338837390251 (10進制) 如何計算?如何判斷這是個負數?
如何判斷一個16進制數是正,還是負?(下面是16進制數和對應的10進制數)
0000 6412 7CC9 3789
0 0.781831482452 0.9749279121932 0.4338837391869
***************************************************************************************
C877 8337 9BEE 0000
-0.4338837390251 -0.9749279121533 -0.781831482564 -1.79586368671E-10
如何只知道一個2字節的16進制數,判斷出這是個的正負?(知道它對應的帶符號的浮點數?如:
知道" C877(16進制) ",如何判斷出這是個的正負?得到 " -0.4338837390251 "?
****************************************************************************************************************************************
分析:
IEEE標準規定,雙精度浮點數為8個字節,單精度浮點數是4個字節,所以兩個字節長度肯定不是浮點數,LABVIEW中的浮點數數據類型是完全符合IEEE標準的。上述問題實際是定點數而不是浮點數。
定點數小數點的位置和位數可以通過對話框配置,針對上述問題,配置如下:


評論