✨ ベストアンサー ✨
高校レベルでは下のような解答が標準的だと思います.
***
[解1] 求めるベクトルを設定して解く.
条件を満たすベクトルをc=(p,q,r)とする.
条件よりa・c=0⇔2p+6q+r=0, b・c=0⇔p-r=0, p^2+q^2+r^2=9.
最初の2つの式からp=r, 3p+6q=0⇔p=-2q
これを最後の式に代入して(-2q)^2+q^2+(-2q)^2=9⇔q=±1
したがって求めるベクトルcは(±2, ∓1, ±2)[複合同順].
***
[解2] 簡単な条件からベクトルを見つけていく.
b=(1,0,-1)に直交するベクトルの一つはpを任意の実数として(1,p,1).
このうちa=(2,6,1)に直交するのは2*1+6p+1=0⇔p=-1/2のときである.
したがってtを任意の実数として, t(2,-1,2)が1次独立なベクトルa, bで張られた平面に垂直なベクトル[法線ベクトル]となる.
このうち大きさが3のものは|t|√(2^2+(-1)^2+2^2)=3⇔|t|=1⇔t=±1のときである.
以上から(±2,∓1,±2)[複合同順]が求めるべきベクトルである.
[解2]の解答を読むと分かってもらえると思いますが, 大きさを3だと勝手に勘違いしていました. 9だと
[解1]
p^2+q^2+r^2=81なので(-2q)^2+q^2+(-2q)^2=81⇔q^2=9⇔q=±3
でcは(±6,∓3,±6)
[解2]
このうち大きさが9のものは|t|√(2^2+(-1)^2+2^2)=9⇔|t|=1⇔t=±3のときである.
あとは[解1]と同じです

[訂正]
複号同順が正しいです.