回答

xy直交座標上の点O(0, 0), A(a, b), B(c, d)を頂点とする三角形の面積は1/2|ad-bc|でした.
これをうまく利用するために頂点の1点を原点に平行移動させます[こういう工夫は大事です].
***
△APBをx軸方向に+1, y軸方向に-1だけ平行移動させると, A'(0, 0), B(5, 15), P'(t+1, t^2-1)です.
ただし点Pは2点A(-1, 1), B(4, 16)の間にあるから-1<t<4であることに注意する.
△APB≡△A'P'B'なので△APB=(1/2)|5(t^2-1)-15(t+1)|=(5/2)|t^2-3t-4|=(-5/2){(t-3/2)^2-25/4}(-1<t<4)で表される.
[t^2-3t-4=(t+1)(t-4). -1<t<4ではt+1>0, t-4<0なのでt^2-3t-4<0となります.]
したがってt=3/2のとき, △APBの面積の最大値は125/8です.

ぺけ男

1/2∣ad−bc∣のやつを使わずにやるように言われたのでこの方法以外のやり方を教えてください

LUX SIT

どこか違和感を感じますが, その場合でも補題として面積公式を先に証明すれば文句はつけられないはずですよ.
***
[別解]
まずAB=√{(4-(-1))^2+(16-1)^2}=5√10です. 直線ABの方程式はy=3x+4で, この直線と点Pの距離は区間-1<t<4で
|3t-t^2+4|/(√3^2+1^2)=(-t^2+3t+4)/√10[ここの絶対値の外し方は上を参照しよう]={-(t-3/2)^2+25/4}/√10≦25/4√10
と評価されます. これは△APBの底辺をABと見たときの高さなので△APBの面積の最大値は(1/2)*5√10*(25/4√10)=125/8.

LUX SIT

点と直線の距離も導出していないなら, やむなく下の解法をとることになるでしょう.
これなら中学レベルですから大丈夫なはずです.
***
[別解2]
△APBの底辺をABとみる. 直線ABy=3x+4と平行で点Pを通る直線が放物線y=x^2と接するとき高さが最大となる.
このような直線の方程式はy=3(x-t)+t^2で, xについての2次方程式x^2=3(x-t)+t^2が重解を持つといえる.
この2次方程式の判別式をDとすれば, D=(-3)^2-4(3t-t^2)=0⇔(2t-3)^2=0⇔t=3/2で確かに-1<t<4にある.
直線ABと点Pを通る直線のy切片の差は4-(-9/4)=25/4. 高さは傾きとの関係から(25/4)*(1/√(3^2+1^2))=25/4√10と求まります.
[C(0, 4)からy=3x-9/4へ下した垂線の足をH, またD(0, -9/4)をとります. CHが高さで, △CDHの辺比と直線の傾きの関係を考えると上]
AB=√{(4-(-1))^2+(16-1)^2}=5√10なので△APBの最大値は(1/2)*(5√10)*(25/4√10)=125/8.

ぺけ男

わかりにくいので大丈夫ですありがとうございます

この回答にコメントする
疑問は解決しましたか?