-3a+b与5a+7b垂直,16a+11b与2a-7b垂直
则(-3a+b).(5a+7b)=0且(16a+11b).(2a-7b)=0
即 -15a²-16a.b+7b²=0且32a²-90a.b-77b²=0
则a.b=(-15a²+7b²)/16=(32a²-77b²)/90
即 (-15a²+7b²)/8=(32a²-77b²)/45
即 -15*45a²+7*45b²=32*8a²-77*8b²
∴ a²=b²
即 -15a²-16a.b+7a²=0
∴ -2a.b=a²=|a|*|b|
则夹角的余弦=(a.b)/(|a|*|b|)=-1/2
∴ 夹角是120°