回答

もう一定の形なので覚えちゃうのも1つの手だと思うのですが、
a+bとabの値が分かっているときは、a+bとabのみの形に式を変形してから代入する、というお決まりのパターンです。問題になっている
a^2+b^2=(a+b)^2-2ab
が1番よく使う形です。
a単品の値が求められないので、文字を残さずすべて数字に置き換える、というのを意識してやってみてください。
対称式という分野なので、検索したらもっと出てくるかもしれないです

この回答にコメントする

-2abを使ったら、問題文のa+b=3, ab=-5が式の途中で使えるようになるからです!
与えられてる式をうまく変形して与えられている数値をうまく使えるようにするというのがこの問題の意図だと思います!

この回答にコメントする
疑問は解決しましたか?