首先a、b的模都是1
f(x)=向量a·向量b - 2λㄧ向量a﹢向量bㄧ²
=向量a·向量b - 2λ(向量a^2﹢向量b^2+2向量a·向量b)
=cos3x/2*cosx/2-sin3x/2*sinx/2-2λ(1+1+2cos3x/2*cosx/2-sin3x/2*sinx)
=cos(3x/2+x/2)-2λ(2+2cos(3x/2+x/2))
=cos2x-4λ-4λcos2x
=(1-4λ)cos2x-4λ
因为x∈[0,π/6] ,所以2x∈【0,π/3】,所以cos2x∈【1/2,1】
所以当cos2x=1/2时,f(x)有最小值1/2-6λ=3/2,解得λ=-1/6