设f(x)=ax+b
则f(f(x))=af(x)+b=a(ax+b )+b
f(f(x))=a^2x+ab+b
又f(f(x))=x-2
所以a^2x+ab+b=x-2
比较两边系数得:a^2=1 ab+b=-2
解之得:a=1 b=-1(当a=-1时代入ab+b=-2,b不存在,a=-1舍去)
所以f(x)=x-1
设f(x)=ax+b
则f(f(x))=af(x)+b=a(ax+b )+b
f(f(x))=a^2x+ab+b
又f(f(x))=x-2
所以a^2x+ab+b=x-2
比较两边系数得:a^2=1 ab+b=-2
解之得:a=1 b=-1(当a=-1时代入ab+b=-2,b不存在,a=-1舍去)
所以f(x)=x-1