まず軸の位置を知りたいので平方完成しましょう。
y=ax²+2ax+b=a(x+1)²-a+b
軸はx=-1のところにあり、a>0 なので下に凸のグラフになります。
よって、
最小値は 頂点 x=-1のとき y=-a+b ①
最大値は x=-2,x=1のときのyの値が大きいほう。
x=-2のとき y=4a-4a+b=b
x=1のとき y=a+2a+b=3a+b
(3a+b)-(b) = 3a > 0 なので 3a+bの方が大きい
∴ x=1のとき y=3a+b ②
最大値=5 , 最小値=3
を ①②に代入して a,bを求めればよいです。