例5 x ²-2xy+3y²=6を満たす整数x,yの組を求めよ.
yを定めると, xは2次方程式 1-6)
x2-2yx+3y^-6=0
の解として定まるが, これが実数となることから,
y²-(3y2-6)≧0.
以上より,
2
(8)= (y² ≤3.
yは整数なのでy=-1, 0, 1 でなければならない.
y=-1のとき, (*) より, x2+2x-3=0. (x+3)(x-1)=0.
x=-3,1.
y=0のとき, (*) より, x2-6=0. よって, x=±√6 となって不適.
y=1のとき,
(*) より, x2-2x-3=0. (x-3)(x+1)=0.
x=3, -1.
・・・(*)
(x,y)=(-3,-1),(1, -1),(3, 1),(-1, 1).