(1)
b[k]-a[k]の漸化式を立ててみましょう
(a[k]+b[k])/2≧0のときと(a[k]+b[k])/2<0のときでそれぞれ計算してみるとあることに気づくと思います
(2)
b[1]>b[2]>⋯>b[n]のとき、
b[k]=(a[k-1]+b[k-1])/2 (k=2,3,⋯,n)
でないといけないので、
a[1]=a[2]=⋯=a[n]
であることが分かります。よって、
b[k]=(a[1]+b[k-1])/2 (k=2,3,⋯,n)
あとは漸化式を解きます
(3)
b[1]>b[2]>⋯>b[n]のとき、
a[1]=a[2]=⋯=a[n]
なので
(a[1]+b[n-1])/2≧0
逆に、この不等式が成り立つとき、帰納法により
a[1]=a[2]=⋯=a[n]
(a[k]+b[k])/2≧0 (k=1,2,⋯,n-1)
が成り立つので、
b[1]>b[2]>⋯>b[n]
となります
以上より、
b[1]>b[2]>⋯>b[n]⇔(a[1]+b[n-1])/2≧0
が成り立ちます
ゆえに、
nがb[1]>b[2]>⋯>b[n]を満たす最大の整数
⇔b[1]>b[2]>⋯>b[n] かつ b[n+1]=b[n]
⇔(a[1]+b[n-1])/2≧0 かつ (a[1]+b[n])/2<0
このb[n-1]とb[n]に(2)の答えを代入すればnの条件が得られます
あとこの問題、(a[1]+b[1])/2<0だったとき(3)がどうなるのか書いてないですね…そこは気にしないのかなあ