ここで言う変数とは、nのことです
nは自然数なので、1,2,3,…といった感じで飛び飛びの値しか取れないため、2次関数の問題のように最大値を求めようとすると、
最大値を持つときのnの値が1/2のような自然数以外になってしまう可能性があります。
そのため、nの式で表した確率の最大値を求めるには、その前後(nとn+1)の大小関係を比較して、その大小関係の向きが入れ替わるときのnを見つける、という方法を取ります。
p_n≦p_(n+1)か、p_n≧p_(n+1)かを見分ける一つの方法として、p_nで両辺を割ったものを考えると、
p_n≦p_(n+1)のときは、1≦p_(n+1)/p_nが成り立ち、
p_n≧p_(n+1)のときは、1≧p_(n+1)/p_nが成り立つので、
p_(n+1)/p_nが1より大きいかどうかで増加か減少か判断できます
ここで、割った値を比較するのは、その方が式が簡単になるからです
簡単にはまとめると、nのときとn+1のときの確率の大小関係が分かれば増加か減少かがわかり、比較する方法として、割ったときの値が1より大きいかどうかを使うという感じです。
ちなみに、自分も受験生のとき基礎精講使っていました。