まず問題文がよくないですね.
P, Qというのは質点で質量をそれぞれM, mと設定したわけです.
静止時とQがhだけ下がった[この時Pはhだけ上がった]時の間に"非保存力以外の力"は加わっていないません.
したがって系全体[P, Qと定滑車一体]のエネルギーは保存します.
***
静止時の系のエネルギー:
(M/2)*0^2+(m/2)*0^2+Mg*0+mg*0=0
Qがhだけ下がった時のエネルギー: 下向きを正にとると
(M/2)*(-v)^2[Pは上向き]+(m/2)(v)^2+Mg*(-h)+mgh
運動量保存が成り立つので
0=(M/2)v^2+(m/2)v^2-Mgh+mgh
⇔Mgh=(M/2)v^2+(m/2)v^2
となります.
ごめんなさい. すべて書き換えます.
問題文は下の意味で書いていると思われます. 錘: おもり(Bob)
***
質量mの錘Pと質量Mの錘Qを糸で繋ぎ, 定滑車にかけた.
糸がたるまないギリギリの位置で静止させ, そして静かに錘を放した.
Qは下降しはじめ[M>m], hだけ下がったときの錘Qの速さvを求めよ.
***
静止時というのは, すべての錘の速さが0, 位置は基準点なので系のエネルギーは
{(m/2)*0^2+mg*0}[錘Pのエネルギー]+{(M/2)*0^2+Mg*0}[錘Qのエネルギー]=0
一方, 錘Qがhだけ下がったとき, 錘Pはhだけ上がっています.
また錘Pの速度は錘Qの速度と逆向きで同じ大きさです. これは糸がたるまない条件[幾何的な拘束条件]から得られます.
上向きを正にとれば, このときの系全体のエネルギーは
{(m/2)(v)^2+mg(h)}+{(M/2)*(-v)^2+Mg(-h)} [下向きは負]
前後で非保存力以外の力は加わっていないのでエネルギー保存が成り立ちます. したがって
0={(m/2)(v)^2+mg(h)}+{(M/2)*(-v)^2+Mg(-h)}
⇔Mgh=(M/2)v^2+(m/2)v^2 +mgh
[訂正]
運動量保存が成り立つので →エネルギー保存が成り立つので
あとは位置の基準を静止時の質点位置にとったことを付け加えます.