JavaScriptでは | プログラミング用語

カテゴリー: 単位　閲覧数:340　配信日:2017-12-02 09:39

小数は浮動小数点数の倍精度（64bit。double型）で表現
・そのため、かなり微妙な誤差ではあるが、計算結果にずれが発生する

実際にブラウザのコンソールで0.1 + 0.2を実行してみると？
・誤差が発生
・0.3とならない

0.1 + 0.2 = 0.30000000000000004

順位	ページタイトル抜粋	アクセス数
1	純虚数	3
2	パッケージ \| パッケージ管理(開発)	2
2	分散／「ピアソンの積率相関係数」算出までの計算例	2
2	スカラー \| プログラミング	2
2	オーバーヘッド \| プログラミング	2
2	画像カテゴリー	2
2	アプリケーションサーバ(サーバ) カテゴリー	2
2	ルーター \| ネットワーク	2
2	YouTube \| API	2
2	Nginx \| Webサーバ(サーバ)	2
2	偏微分 \| 数学	2
2	sed	2
2	2階偏微分	2
2	ASCII制御文字一覧表詳細	2
2	Senna \| 全文検索エンジン(検索エンジン)	2
3	! [rejected] master -> master (fetch first) ／私が解決した方法／解説	1
3	「三角関数」は全部で6種類／「三角関数の定義」は全部で5種類	1
3	ログイン	1
3	サブルーチン \| プログラミング	1
3	16ビット	1
	2024/11/23 1:01 更新

順位

ページタイトル抜粋

アクセス数

2024/11/23 1:01 更新

順位

ページタイトル抜粋

アクセス数

3697

1412

1291

1283