数学
高校生
解決済み

和と差の有効数字の桁数は増減することがあるという認識で合ってますか?

回答

✨ ベストアンサー ✨

そうですね。足し算することによる繰り上がりで有効数字が少し増えることもあるかもしれませんが、特に注意すべきなのは値が近い二数の引き算をするときです。例えば
 0.12345678-0.1234567=0.0000001
のような計算をしてしまうと有効桁数が8桁から1桁に減ってしまいます。これを桁落ちといいます
こうなることを防ぐためのテクニックもいろいろあるらしいです

ゲスト

回答ありがとうございます。

注意点を教えて下さり助かります!

この回答にコメントする

回答

一番小さいのに合わせるという認識が正しいかと。
精密すぎる有効数字とは、体重計に乗ったホコリまで測っているようなもんです。

ゲスト

回答ありがとうございます。

イメージします!

この回答にコメントする
疑問は解決しましたか?