选D
AB的中点(1-a,a+2,2a+1)
|OM|^2=(1-a)^2+(a+2)^2+(2a+1)^2
=6a^2+6a+6
当a=-1/2时|OM|^2最小值=9/2
|OM|最小值=3√2/2