1次関数のグラフで考えるのが一番分かりやすいと思います。(1次方程式で解くこともできますが)
8時からx分後の人数をyとする。
例えば、9:10なら70分後なのでx=70である。
増えているとき
8:00に10人→点(0,10)をとおる。
8:05に15人→点(5,15)を通る。
50分後にa人とする。→点(50,a)
減っているとき
50分後にa人とする。→点(50,a)
b分後に15人(この問題の答えにあたるのがb)→点(b,15)
70分後に0人→(70,0)
増えているときについての1次関数の式は(0,10)(5,15)を通ることからy=x+10
よって、この式にx=50,y=aを代入してa=60
同様にして、(50,60)(70,0)を通るのでy=-3x+210
これにx=b,y=15を代入してx=65
よって9:05