回答
基本対称式の考え方ですね。x+yは既に出てて、条件式両辺二乗したらxy項が指数の性質によって1になるので
(1)はx^2+y^2、(2)はx^3+y^3と見て解きましょう。
2^xをXと置いて計算してみてください
置いて計算したら位置を代入するようになっているのは何故ですか??
1
1というのは2^xと2^-xをかけると1になることでしょうか。それは2^-xが1/2^xであることを考えればわかるように分母と分子を入れ替えたものを足すと打ち消し合うからです。3と1/3をかけたら1になるのと同じです。
本題ですがこの問題は最初の2^xの式を次々と作り出していく問題なんです。ですから
X+1/X=5のとき
(1)X^2+1/X^2
(2)X^3+1/X^3
を求めよ。という問題に書き換えることがポイントですよ
疑問は解決しましたか?

基本対称式はそこそこ難しい上かなり重要な概念なので、絶対おさえておきたいところです。
自分なりにわかりやすく?したつもりです。良かったら参考程度に