首先x1+x2=2(2-m),x1x2=m^2-3m+3 (韦达)
（1）
x1^2-x2^2=0
=>(x1-x2)(x1+x2)=0
=>x1+x2=0
=>2(2-m)=0
=>m=2
(2)
原式=m(x1^2-x1^2x2+x2^2-x1x2^2)/(1-x1-x2+x1x2)
=m[(x1+x2)^2-2x1x2-x1x2(x1+x2)]/[1-(x1+x2)+x1x2]
把韦达定理代到上式
得到一个关于m的二次函数
在m>=-1下求最大值,这个很简单不在说了
就是利用韦达定理代换,相信自己