有効数字の関係ですよ
有効数字を考慮した計算のやり方はわかりますか？
例えば、
4.00－0.5=3.5 ←4.00－0.5は最高末位が小数第2位－最高末位が小数第1位なので、
計算結果は最高末位が小数第1位になるように答える。
8.0+4.00=12.0 ←8.0+4.00は最高末位が小数第1位－最高末位が小数第2位なので、
計算結果は最高末位が小数第1位になるように答える。
8.0+4.00－0.5=12.0－0.5=11.5
2.0×3.00－2.00
=6.0－2.00 ←引き算より掛け算が先だから、先に2.0×3.00をする。
2.0×3.00は有効数字2桁×有効数字3桁なので、計算結果は有効数字2桁で答え
る。2.0×3.00=6.0
=4.0 ←6.0－2.00は最高末位が小数第1位－最高末位が小数第2位なので、計算結果は
最高末位が小数第1位になるように答える。
1.0÷3.0=約0.33 ←1.0÷3.0は有効数字2桁÷有効数字2桁なので、答えは有効数字2桁になる
ように答える。1.0÷3.0=0.333・・・ですが、答えは有効数字2桁になる
ようしないといけないので、今回は小数第3位を四捨五入して
0.33(有効数字2桁ですよね)と答える
2.00÷7.000=約0.286 ←2.00÷7.000は有効数字3桁÷有効数字4桁なので、答えは有効数字3桁
になるように答える。2.00÷7.000=0.2857・・・ですが、
答えは有効数字3桁になるようしないといけないので、今回は
小数第4位を四捨五入して0.286(有効数字3桁ですよね)と答える
例えば、(6.67×10²)+(1.6×10³)を計算する場合
足し算引き算では何乗の部分を揃えて計算します。
10²に揃えるとすると
(6.67×10²)+(1.6×10³)
=(6.67×10²)+(16×10²)
=(6.67+16)×10²
=約23×10² ←6.67+16は最高末位が小数第2位+最高末位が1の位だから計算結果は最高
末位が1の位になるように答える。6.67+16=22.67
最高末位が1の位になるように小数第1位を四捨五入する
=2.3×10³ ←◻️×10^nの形にするときは1≦◻️＜10にしないといけないから、変化する
10³に揃えるとすると
(6.67×10²)+(1.6×10³)
=(0.667×10³)+(1.6×10³)
=(0.667+1.6)×10³
=約2.3×10³ ←0.667+1.6は最高末位が小数第3位+最高末位が小数第1位だから計算結果
は最高末位が小数第1位になるように答える。0.667+1.6=2.266だけど
最高末位が小数第1位になるように小数第2位を四捨五入する
分からなければ質問してください
問題を解いていて、有効数字に関してわからない問題がありましたら、質問してくだされば、
教えますよ
わかりません💦