加熱前に示した1.01*10^5[Pa]は容器内の空気によって発生している圧力です。(揮発性の物質によるものではない)
なので右辺の1.0/Mは間違いです。
加熱前の式は、容器内の空気の物質量をna[mol]とすると
(1.01*10^5)*1.0=na*(8.3*10^3)*303
となります。
一方、加熱後について。空気と揮発性物質の総物質量をnb[mol]とすると
(1.81*10^5)*1.0=nb*(8.3*10^3)*351
2式からそれぞれna,nbを求めます。この値より、揮発性物質の物質量はnb-na[mol]と求まります。あとは分子量をMとでもおけば求まります。
ご指摘と詳しい解説をありがとうございます。
一度解いてみます。