(1)证:1若A为空集,则命题恒成立
2若A不为空集,对于A中任意一元素p,有f(p)=p
所以f(f(p))=f(p)=p
那么p∈B
即A中任意一元素都属于B
所以A⊆B
(2)若A不为空集,则f(x)=x有实数解
另f(x)=x得方程ax^2-x-1=0
Δ=(-1)^2-4*a*(-1)=1+4a
因为方程有实数解,所以Δ>=0,所以a>=-1/4
(3)因为A⊆B,所以当B⊆A且A不为空集时,就满足A=B不等於空集
要令A不为空集,在第(2)问中已求出a的取值范围即a>=-1/4
现只要求出B⊆A时a的取值范围
设B⊆A,则对所有x∈B,都有x∈A 即f(f(x))-x=0时,f(x)-x=0
因为f(f(x))-x=(f(x)-x)(a^2x^2+ax-a+1) 所以f(x)-x=(f(f(x))-x) / (a^2x^2+ax-a+1)
令f(x)-x=0 则a^2x^2+ax-a+1恒不为0
所以方程a^2x^2+ax-a+1=0的Δ=a^2-4*a^2*(-a+1)