まず、分母になる数ですが、7個から3個取り出すので、
7C3 = 7×6×5 / (3×2×1) = 35 通り
となるのはわかりますか?
あとは、取り出した3個の中に、赤が0個、1個、2個、それぞれの場合の数を数えて、それを分子にすればよいです。
①赤0個のとき
3個は全て白だから、白5個から3個の選び方は、
5C3 = 5C2 = 5×4 / (2×1) = 10 通り
②赤1個のとき
赤2個のうち1個の選び方は2通り
白5個から2個の選び方は、5C2 通り
2 × 5C2 = 2 × 10 = 20 通り
③赤2個のとき
赤2個から2個の選び方は1通り
白5個から1個の選び方は5通り
1 × 5 = 5 通り
以上から、
分子= 10 + 20 + 5
分母= 35
の確率となり、個数の期待値なので、これが期待値になります。
あ、すみません、間違えました。
最後、個数の期待値なので、
0 × 10/35 + 1 × 20/35 + 2 ×5/35
になります。

取り出して並べる問題(順列)ならば、7×6×5 = 210通りですが、並べなくて取り出すだけなので、組み合わせの問題となり、7C3 で計算します。