(1)当a=
5
3时f′(x)=3x2-10x-3=(x-3)(3x-1)
令f′(x)=0,得x=[1/3]或x=3.
x 0 (0,[1/3]) [1/3] (
1
3,3) 3 (3,5) 5
f′(x) + 0 - 0 +
f(x)
1 [40/27] -8
16∴f(x)在[0,5]上的最大值为16,最小值为-8.
(2)∵f′(x)=3x2-6ax+3,而f(x)在区间(2,3)中至少有一个极值点,等价于方程3x2-6ax+3=0在其判别式△>0(即a>1或a<-1)的条件下在区间(2,3)有解.
∴由3x2-6ax+3=0可得a=
1
2(x+
1
x),
令g(x)=
1
2(x+
1
x),求导函数可得g′(x)=
1
2(1−
1
x2)
∴g(x)在(2,3)上单调递增,
∴[5/4<
1
2(x+
1
x)<
5
3],
∴[5/4<a<
5
3],此时满足△>0,
故a的取值范围是[5/4<a<
5
3].