(1)問題文からOM=(1/2)b, OC=(2/3)OA+(1/3)OB=(2/3)a+(1/3)b, OD=(2/5)aと書けます.
点Pは線分CM上にあるから, 0≦t≦1となる実数tを用いて,
OP=tOC+(1-t)OM=(2t/3)a+{(t/3)+(1-t)/2}b=(5t/3)OD+{(t/3)+(1-t)/2}OB
[a=(5/2)ODであることを利用]と書けます. 点Pは線分BD上にもある[ここで共線条件]ので, 係数の和は1になります.
すなわち2t+(1-t)/2=1⇔4t+(1-t)=2⇔t=1/3と定まって, OP=(2/9)a+(4/9)bと表せることが分かりました.
(2) OP=(2/3)*(a/3+2b/3)と書けるので, OQ=(3/2)OP=a/3+2b/3となるような点Qが辺ABとの交点になることが分かります.
以上からAQ:QB=2:1であることが分かります.
慣れていなければ泥臭くやればいいです.
線分OPの延長線上に点Qがあります. 適当な実数c(>1)を用いてOQ=cOPと書けるはずです.
OQ=c{(2/9)a+(4/9)b}=(2c/9)a+(4c/9)bで, 点Qが辺AB上にあるなら(2c/9)+(4c/9)=1⇔c=3/2であればいいです.
***
さて係数だけを見てやると, 比が重要な役割を果たしていることが分かるでしょう[共線条件の意味をよく考えてみることです].
そこで先に結果を予測します.係数比が(2/9):(4/9)=1:2なので, OQ=a/3+2b/3と書けることが予想できます.
あとは定数倍を逆算すればよくて, OP=(2/3)*(a/3+2b/3)と書けるとして議論を進めていったわけです
[構成的な手法です. 理系志望ならこういうやり方にも慣れておいた方がいいです].
[補遺] 初等幾何で考えると, 係数比が同じであることは分かりやすいと思います.
点Pを通り辺ABに平行な直線を引き, OAとの交点をE, OBとの交点をFとします.
相似からEP:PF=AQ:QBが成り立つことは一目で分かるでしょう.
丁寧にありがとうございます！納得しました！
回答ありがとうございます。(2) OP=(2/3)*(a/3+2b/3)と書けるので, OQ=(3/2)OP=a/3+2b/3となるような点Qが辺ABとの交点になることが分かります.の初めのところがよく分かりせん。よかったら、詳しく教えていただけませんか。