一般的に√(a^2)=|a|と表されます。
そこから a>0 のとき a , a<0 のとき -a
a=0 のとき a=0 と分けて根号ははずされます。
そして、一般式を見ていただければわかると思いますが、基本的に根号の中身がある数の2乗の形(完全平方式)になっていると根号ははずすことができます。
つまりは、この問題においていえば
n^2+85=a^2 の形になれば根号ははずせて、その上でnが最大のものを求めるわけです。
ある数を2乗した値の例を考えてみましょう。
10→100
11→121
12→144
13→169
14→196
例について考えてみるとn=6のときに
n^2+85=121となりますね。
なぜでしょうか。ここからは頑張って考えてみてください。