まず、Pのx座標がtで点Qは放物線上にあることからQのy座標がわかります。これにより、長方形の縦の長さがtを用いて表せます。横の長さはOPの2倍であることから、同じようにtを用いて表せるので、縦と横を足して2倍すればよいです。このときのtの範囲ですが、x軸と放物線とで囲まれた部分に長方形がある（1から2行目）ことに注意してください。つまり、放物線とx軸が交わる点よりも点Pは内側である必要がありますね。
(2)の結果が出れば、あとは平方完成して最大値を求めれば良いのですが、(1)の制限があることに注意してください。
わかりやすい説明かどうかは分かりませんが、とりあえず与えたヒントをもとに手を動かしてみてください。わからないことあればコメントしてください。
