IEEE 754

単位

IEEE 754 とは?

 状態:-  閲覧数:863  投稿日:2017-12-02  更新日:2017-12-02  
英語表記
・IEEE Standard for Floating-Point Arithmetic

平仮名表記
・あいとりぷるいー754

正式な規格名
・IEEE Standard for Floating-Point Arithmetic (ANSI/IEEE Std 754-2008)

浮動小数点数の計算で最も広く採用されている標準規格
・ISO/IEEEのPSDO(パートナー標準化機関)合意文書に基づき、JTC1/SC 25 を通して国際規格 ISO/IEC/IEEE 60559:2011 として採用され、公表されている

基本形式

 閲覧数:387 投稿日:2017-12-02 更新日:2017-12-02 

5種類の基本形式


IEEE 754標準では、5種類の基本形式を定めている
・基数や符号化して使用するビット数に応じて名前が付けられている

その内訳


3種類の二進浮動小数点形式
・32ビットで表現
・64ビットで表現
・128ビットで表現

2種類の十進浮動小数点形式
・64で表現
・128ビットで表現

単精度 / 倍精度


単精度 (single)
・32ビットで表現する二進浮動小数点形式
・正式には(IEEE 754-2008 では)、binary32 と呼ばれている

倍精度 (double)
・64ビットで表現する二進浮動小数点形式
・binary64

JavaScriptでは

 閲覧数:339 投稿日:2017-12-02 更新日:2017-12-02 

JavaScriptでは IEEE 754(浮動小数点数演算標準) という規格に沿った実装がされている


小数は浮動小数点数の倍精度(64bit。double型)で表現
・そのため、かなり微妙な誤差ではあるが、計算結果にずれが発生する

実際にブラウザのコンソールで0.1 + 0.2を実行してみると?
・誤差が発生
・0.3とならない
0.1 + 0.2 = 0.30000000000000004



ビット

コメント投稿(ログインが必要)



類似度ページランキング
順位 ページタイトル抜粋
1 IEEE 754 75
2 UI 20
3 Hyper Estraier 18
4 API 18
5 JIS X 0201では、「0x5C」は円記号「¥」 18
6 J2EE 17
7 gTLD 15
8 ASCII 15
9 VPAID 15
10 YouTube Data API v3 15
11 MeCab 14
12 DIコンテナ 14
13 IPアドレス 14
14 OpenID 14
15 Eclipse 13
16 GETメソッド 13
17 コーディング 13
18 プログラミング 13
19 バイナリデータ 13
20 Git BASH 13
2024/11/23 16:08 更新