(1)由题意得,定义域为(0,+∞),
当a=0时,f (x)=x-lnx,
∴f′(x)=1-[1/x]=[x-1/x].
由f′(x)>0⇒x>1; f′(x)<0⇒0<x<1,
∴函数f (x)在区间(0,1)上递减,在(1,+∞)上递增.
∴x=1时f (x)有极小值为f (1)=1-ln1=1.
(2)a>0时,
f′(x)=-ax+a+1-[1/x]
=
-ax2+(a+1)x-1
x
=-
a(x-f(1
a)(x-1),x).
当f′(x)=0时,x=1和x=[1/a].
①当a=1时,f′(x)=-
(x-1)2
x≤0恒成立,
此时f (x)在(0,+∞)上递减;
②当[1/a]>1即0<a<1时,
f′(x)>0⇒1<x<[1/a];f′(x)<0⇒0<x<1或x>[1/a];
∴f (x)在(1,[1/a])上递增,在(0,1)和([1/a],+∞)上递减;
③当[1/a]<1即a>1时,f′(x)>0⇒[1/a]<x<1;f′(x)<0⇒0<x<[1/a]或x>1;
∴f (x)在([1/a],1)上递增,在(0,[1/a])和(1,+∞)上递减.
(3)由(2)知当a∈(2,3)时,f (x)在区间[1,2]上单调递减,
所以|f(x1)-f(x2)|max=f (1)-f (2)=[a/2]-1+ln2,
要使对任意x1,x2∈[1,2],
恒有[a2-1/2]m+ln2>|f (x1)-f (x2)|成立
则有[a2-1/2]m+ln2>|f(x1)-f(x2)|max,
即[a2-1/2]m+ln2>[a/2]-1+ln2对任意a∈(2,3)成立,
亦即m>[a-2/a2-1]对任意a∈(2,3)成立,
令g(a)=[a-2/a2-1],
则g′(a)=
-(a-2)2+3