回答

行列の固有値問題に帰着するのが楽ですが, 現行では習わないですよね?
1文字消去で3項間漸化式を作って解くのが分かりやすい方法でしょう.
***
(1)
b[n+1]=a[n]+2b[n]からa[n]=b[n+1]-2b[n], a[n+1]=b[n+2]-2b[n+1]
これをもう一方の漸化式に代入すると
b[n+2]-2b[n+1]=2(b[n+1]-2b[n])+3b[n]
⇔b[n+2]-4b[n+1]+b[n]=0
特性方程式はλ^2-4λ+1=0で解くとλ=2±√3
これから適当なA, Bを選んでb[n]=A(2+√3)^n+B(2-√3)^nと書けることが分かった.
A,Bを定めるには2項が必要でb[2]=a[1]+2b[1]=4+2*2=8であることを利用する.
b[1]=A(2+√3)+B(2-√3)⇔(2+√3)A+(2-√3)B=2 ①
b[2]=A(2+√3)^2+B(2-√3)^2⇔(2+√3)^2A+(2-√3)^2B=8 ②
①*(2-√3)-②から{1-(2+√3)^2}A=2(2-√3)-8
⇔-2(3+2√3)A=-2(2+√3)
⇔A=(2+√3)/(3+2√3)=(2+√3)(3-2√3)/{3^2-(2√3)^2}=(-√3)/(-3)=1/√3
これを①に代入すると
(2+√3)(1/√3)+(2-√3)B=2⇔B=-1/√3 [対称性から推測できる]
以上からb[n]=(1/√3){(2+√3)^n-(2-√3)^n}
またa[n]=b[n+1]-2b[n]
=(1/√3)[{(2+√3)(2+√3)^n-(2-√3)(2-√3)^n}-{2(2+√3)^n-2(2-√3)^n}]
=(2+√3)^n-(2-√3)^nでいずれも初期値を明らかに満たす.
***
(2)
数列a[n],b[n]の初項はいずれも自然数, また連立漸化式の係数がすべて自然数であることから,
帰納的にa[n],b[n]が自然数であることがいえる.
また0<2-√3<1なので0<(2-√3)^n<1がすべてのnについていえる.
したがって
0<(2-√3)^n<1⇔0<a[n]-(2+√3)^n<1⇔a[n]-1<(2+√3)^n<a[n]
となるから(2+√3)^nの整数部分はa[n]-1である. すなわち[(2+√3)^n]=a[n]-1.
***
c[n]=(2+√3)^n-[(2+√3)^n]
={a[n]+(2-√3)^n}-(a[n]-1)
=(2-√3)^n+1
ここで0<(2-√3)<1なので極限はlim[n->∞]c[n]=1と収束する.

LUX SIT

[コメント]
非常に込み入ってるのでノートに写しながら理解してください.
見ているだけではきっと分かりません.

この回答にコメントする
疑問は解決しましたか?