Mathematics Undergraduate about 9 yearsago

この問題がわかりません.... ヒントだけでも教えてもらえると助かります！