答えを考える時、
to answer
answering
の二択になると思います。
to不定詞は、「これから起こること」「実際は起こってないこと」
を表し
動名詞は、「すでに起こったこと」
を表します。
tryはあとにto不定詞が続くか動名詞が続くかで意味が変わってくる動詞なので、
try to answer : 答えようとする(実際は答えていない)
try answering : 答えてみる
のようになります。
この問題の場合は「彼はこの難しい質問に答えようとしなかった」という訳にするので、
to answerとなります。
「彼はこの難しい問題に答えようとした」となるときは、なんの単語になるんですか??