✨ Best Answer ✨
そうですね。足し算することによる繰り上がりで有効数字が少し増えることもあるかもしれませんが、特に注意すべきなのは値が近い二数の引き算をするときです。例えば
0.12345678-0.1234567=0.0000001
のような計算をしてしまうと有効桁数が8桁から1桁に減ってしまいます。これを桁落ちといいます
こうなることを防ぐためのテクニックもいろいろあるらしいです
✨ Best Answer ✨
そうですね。足し算することによる繰り上がりで有効数字が少し増えることもあるかもしれませんが、特に注意すべきなのは値が近い二数の引き算をするときです。例えば
0.12345678-0.1234567=0.0000001
のような計算をしてしまうと有効桁数が8桁から1桁に減ってしまいます。これを桁落ちといいます
こうなることを防ぐためのテクニックもいろいろあるらしいです
Users viewing this question
are also looking at these questions 😉
回答ありがとうございます。
注意点を教えて下さり助かります!