(1) 向量AB=向量OB-向量OA=(-1,6)-(1,4).
∴向量AB=(-2,2).
向量OP=2λOA+2(1-λ)OB, λ∈R.
=2λ(1,4)+2(1-λ)(-1,6)
=(2λ+8,-2-12λ).
∵OP⊥AB, ∴(-2)*(2λ+8)+2*(-2-12λ)=0.
-4λ-16-4-24λ=0.
-28λ-20=0.
λ=-5/7.
即向量OP=(2*(-5/7)+8)-2-12*(-5/7)).
∴OP=(46/7,46/7).-----所求OP的坐标.
(2)|OP|=(46/7)√2.
依题设取|OP|=46/7.
|AB|=2√2.
cos