由题得f′(x)=x2-2mx-3m2=(x-3m)(x+m),
∵函数f(x)=
1
3x3−mx2−3m2x+1在区间(1,2)内是增函数,
∴f′(x)>0,
当m≥0时,3m≤1,
∴0≤m≤[1/3],
当m<0时,-m≤1,
∴-1≤m<0,
∴m∈[-1,[1/3]].
故选D.
由题得f′(x)=x2-2mx-3m2=(x-3m)(x+m),
∵函数f(x)=
1
3x3−mx2−3m2x+1在区间(1,2)内是增函数,
∴f′(x)>0,
当m≥0时,3m≤1,
∴0≤m≤[1/3],
当m<0时,-m≤1,
∴-1≤m<0,
∴m∈[-1,[1/3]].
故选D.