（1）设M1（a1,b1）,M2（a2,b2）.
根据题意和距离公式有
[（x-a1)^2+（y-b1)^2]/[（x-a2)^2+（y-b2)^2]=m^2
化简得
(1- m^2)(x^2) - 2*(a1-m^2*a2)x + (a1^2 -m^2*a2^2)
+(1- m^2)(y^2) - 2*(b1-m^2*b2)y + (b1^2 -m^2*b2^2)= 0
(1)
①当m＝1时,上式为
2*(a1-a2)x ＋2*(b1-b2)y －(a1^2 -a2^2)－ (b1^2 -b2^2)= 0
显然是一条直线
（2）
②当m≠1时,上式为
（x －(a1-m*a2)/(1- m^2))^2 +（y －(b1-m*b2)/(1- m^2))^2
=((a1-a2)^2+(b1-b2)^2)*m^2/(1- m^2)^2
显然,a1≠a2且b1≠b2,方程的右边大于0,
所以,轨迹是一个圆
（3）1、
x=2y+5
代入
5y²+20y+25=50
y²+4y-5=0
y=1,y=-5
x=2y+5
所以A(7,1),B(-5,-5)
2、
AB=√[(7+5)²+(1+5)²]=6√5
O到l的距离=|0-0-5|/√(1²+2²)=√5
底边6√5,高√5
所以面积=15