Question

ねここ

物理の有効数字の質問です。
差を求める２数は有効数字３桁と２桁なので、２桁であわせて3.5×10^6になると思ったのですが、答えは3.47×10^6でした。
なぜですか？

有効数字

Answer 1

✨ Best Answer ✨

gößt

引き算ですから桁数ではなく位取りで有効数字が決まります
10⁶ で揃えれば
3.72×10⁶-0.25×10⁶
となるので小数第２位までが有効です

ねここ

10の5乗で考えることもありますか？

gößt

有効桁を守ればどちらで考えても問題ないです

ねここ

ありがとうございます。