逆像法とかいわれるやつで入試でもよく出るので、丁寧めに解説します。
例えば、領域内に(1,0)が含まれるか確かめてみます。確かめたければx=1, y=0を代入して、0=(1-a)²-2a²+1を満たすようなaがあるか確かめればよいですよね。aについて整理すると
a²+2a-2=0
(a+1)²=3よりa=-1±√3となるので、きちんと実数aが存在するので、領域に含まれることがわかります。
では領域内に(0,2)が含まれるか確かめてみます。ます。x=0, y=2を代入して、2=(0-a)²-2a²+0を満たすようなaがあるか確かめればよいですよね。
aについて整理するとa²=-2となるので、これを満たすようなaは虚数となるため、実数aは存在せず、(0,2)は領域内に含まれないことになります。
極論、これをすべての点でやれば答えが出ますが、そんなことは不可能ですよね。そこで、逆転の発想として、x,yを文字のまま、さっきと同じことをします。
ある点(X,Y)について、さっきと同様にaについて整理します。
その結果が
a²+2Xa+(-X²+Y-1)=0
となるわけです。
さっき、aについての2次方程式が実数解をもつかいなかは、実際に二次方程式を解くことにより求めました。しかし、今回はそれが無理なので、実数か判別してくれる便利な判別式を使うんです。これを解いて出てきた不等式を満たすX,Yは、aが常に実数といえるわけなので、この不等式を満たす領域を作図すればよいことになります。(きちんと、上でやったX=1, Y=0を入れたら不等式2x²-y+1≧0を満たす。)
(2)に関してですが、1年生のときに、範囲がすべての実数なら判別式が使えるけど、範囲がついていたら使えないと習ったと思います。この場合は、きちんと数Iで習ったとおり、判別式、軸、端点の3つの条件を調べる必要があります。逆にいえば、それ以外は何も変わらないです。