動作検証バージョン:Windows 11 Home + 64bit Excel バージョン 2401(ビルド17130.20000クイック実行)ベータチャネル
「=1.333+1.225-1.333-1.225」なら「0」、「=(1.333+1.225-1.333-1.225)」ならば「-2.220446049250310E-16」になることを記事にしました。
この、
1.333
1.225
-1.333
-1.225
を、SUM関数で合計したときの挙動も記事にしておきます。
[スポンサードリンク]
SUM関数の引数に直接指定すると誤差を取得できる
SUM関数にこれらの数値を直接指定した
=SUM(1.333, 1.225, -1.333, -1.225)
の場合は、「=(1.333+1.225-1.333-1.225)」のときと同じ結果になります。
浮動小数点数の演算誤差を確認できます。
SUM関数の引数をセル参照で指定すると「0」になってしまう
しかし、C1:C4セルに
1.333
1.225
-1.333
-1.225
を入力しておいてから
=SUM(C1:C4)
=SUM(C1, C2, C3, C4)
とした場合は、
いずれも「0」になってしまいます。
浮動小数点数の演算誤差を確認できなくなってしまいます。
- WorksheetFunction.Sumで「1.333」「1.225」「-1.333」「-1.225」の入力されているセルを合計すると…
- Googleスプレッドシートなら「1.333」「1.225」「-1.333」「-1.225」の計算で誤差を確認できる
最終更新日時:2024-01-11 09:34
[スポンサードリンク]
- Newer:Kindle本 年末年始セールで1月11日(木)まで拙著が50%OFFに
- Older:最近のExcelでも「1.333+1.225-1.333-1.225」をカッコでくくれば演算誤差を確認できる
Home » Excel(エクセル)の関数・数式の使い方 » 統計 » 「1.333」「1.225」「-1.333」「-1.225」をSUM関数で合計すると…