10個の玉を区別しない、ということを考慮する必要があります。
例えば、(イ)で(3つの箱をA、B、Cとする)
Aの箱に2個・Bの箱に3個・Cの箱に5個入れる
3個・5個・2個
5個・3個・2個
2個・5個・3個
5個・3個・2個
3個・2個・5個
というのが区別されているので、その区別をなくすために3!で割ろう、と考えたのだと思います。
しかし、これではダメな場合があります。
Aの箱に6個、Bの箱に2個、Cの箱に2個
2個・6個・2個
2個・2個・6個
この場合には、3通りしか重複がありません。
よって、この方法で解こうと思えば、3!で割る場合と3で割る場合を考えなければいけません。
〈3で割る場合〉
118、226、334、442で分かれる場合。
→4×3=12通りある
〈3!で割る場合〉
36-12=24通りある
したがって、12÷3+24÷3!=4+4=8通り となります。