(a+3b)⊥(7a-5b),则(a+3b)(7a-5b)=0,即7a^2+16ab-15b^2=0,(1)
且(a-4b)⊥(7a-5b),则(a+3b)-(a-4b)=7b⊥(7a-5b)
即b⊥(7a-5b),则b//(a-4b),则可知b//a
即a,b夹角为0或Pai
或者用代数的方法,b⊥(7a-5b),则b(7a-5b)=0,得7ab-5b^2=0,(2)
由(2)得7ab=5b^2代入(1)得5ab=7b^2
即7*a的模*b的模*cost=5*b的模的平方
5*a的模*b的模*cost=7*a的模的平方
两式相乘得,(cost)^2=1,则cost=1或-1,
t=0,或Pai