Question

ゲスト

有効数字についてです。
「測定値同士の足し算、引き算は答えを記すとき測定値の末位が最も高いものに合わせそれ以下は四捨五入する」とありますが、その場合　「4.63-1.2=3.43」ではダメなのでしょうか？
答えは3.4でした。末位が最大なのは4.63の方ではないのでしょうか？

Answer 1

✨ ベストアンサー ✨

やっすー

末位が高いのは左側になります。
ここでの1.2は1.2までの正しさしか保証されていません。ここでの1.2は1.20…の可能性もあれば、0.129…の可能性もあります。
有効数字としてより正確さの保証された二桁の3.4を答えとして、3.43は除外します。

こんな感じで大丈夫ですかね。

ゲスト

ありがとうございます。もう一つ質問してもいいですか？「3.0+9.8×2=22.6よって23」という問題は、どうして22.6ではダメなのでしょうか？

やっすー

3.0と9.8がどちらも頭から二桁だから頭から二桁に揃えて23にしてください。

ゲスト

ご丁寧にありがとうございました！