其实你没有理解书中的公式：向量OP=向量OM+x向量MA+y向量MB.
向量OP＝x向量OA＋y向量OB＋z向量OM.
其中第二个公式中的x, y,z必须满足x+y+z=1才能判别P,A,B,M共面的.
也就是说如果: 向量OP＝x向量OA＋y向量OB＋z向量OM.,且x+y+z=1, 则P,A,B,M共面的. (1)
(1) 向量OP=向量OM+向量PA+向量PB
=向量OM+向量OA-向量OP+向量OB-向量OP
因此得到3向量OP=向量OA+向量OB+向量OP
从面向量OP=1/3向量OA+1/3向量OB+1/3向量OP
满足书上的结论,因此P,A,B,M共面.
(2) 向量OP=1/3向量OA+1/3向量BA+1/3向量MA
=1/3向量OA+1/3(向量OA-向量OB)+1/3(向量OA-向量OM)
=向量OA-1/3向量OB-1/3向量OM
前面的系数加起来等于1, 因此P,A,B,M共面.