直线OM斜率是2,所以其方程是y=2x
P在上面,所以设P坐标是（x,2x)
所以PA向量=(1-x,5-2x),PB向量=(7-x,1-2x)
所以PA乘以PB
=(1-x)(7-x)+(5-2x)(1-2x)
=7-8x+x^2 + 5-12x+4x^2
=5x^2 -20x+12
这是一个二次函数,在x=20/(2*5)=2处取最小值,最小值是5*4-40+12
=-8
此时OP坐标为（2,4）
PA=（-1,1） PB=（5,-3）
|PA|=根号2,|PB|=根号34
所以向量PA点乘PB=-8=|PA|*|PB|*cosAPB=2倍根号17 * cosAPB
所以APB余弦值为-4/17 根号17