1.根据条件可知:
f(1)=a+b=1-a+2
f(0)=2=-b-3
所以b=-5,a=4.
f(f(-1))=f(1)=-1.
2.任取x属于M,则f(x)=x,从而f(f(x))=f(x)=x,即:x属于N,所以M包含于N.
由于M={-1,2}可知-1,2时方程xx+ax+b=x,也就是xx+(a-1)x+b=0的两个根,
所以1-a=1,b=-2,a=0.
那么f(x)=xx-2.
而N是方程f(f(x))=(x^2-2)^2-2=x^4-4x^2+2=x的解集,已经知道-1,2在N中.
也就是说(x+1)(x-2)是x^4-4x^2-x+2的因式,进行多项式的除法可知
方程x^4-4x^2-x+2=(x+1)(x-2)(x^2+x-1)=0
因此N中还有另外两个元素:(-1+根号5)/2,(-1-根号5)/2,它们是x^2+x-1=0的根.
所以N={-1,2,(-1+根号5)/2,(-1-根号5)/2}