小数の計算で、googleスプレッドシートはExcelとは異なる挙動をすることに気が付いたので、記事にしておきます。
Excelの小数の引き算
Excelの場合
=0.3-0.2-0.1
の計算結果は「0」になりますが、
式をカッコでくくった
=(0.3-0.2-0.1)
は「-2.77556E-17」と表示されます。
(どのような場合でもこうなるというわけではありませんけれど)カッコ無しならば人間が一般的に納得しやすい結果になり、カッコでくくると浮動小数点数らしい挙動をします。
[スポンサードリンク]
Googleスプレッドシートの小数の引き算
googleスプレッドシートの場合、カッコ無しの
=0.3-0.2-0.1
でも、カッコでくくった
=(0.3-0.2-0.1)
も、「0」と表示されます。
しかし、表示形式を指数にして小数点以下の桁数を増やすと、いずれも「-2.77556E-17」と表示されます。
A1セルとB1セルが等しいかを調べるとTRUEと評価されます。
Excelとは異なり、カッコでくくってもくくらなくても、浮動小数点数らしい結果になっているけれど、式の入力直後には「0」と表示される点には注意が必要だと感じます。
最終更新日時:2023-12-20 14:36
[スポンサードリンク]
- Newer:最近のExcelでも「1.333+1.225-1.333-1.225」をカッコでくくれば演算誤差を確認できる
- Older:PI関数の戻り値も15桁を超える精度であることをPython in Excelで確認できる
Home » Googleスプレッドシートの使い方 » Googleスプレッドシートでは小数の引き算をカッコでくくってもくくらなくても同じ