(1)由方程组 2a+b=13 a+2b=11 两式相加,得a+b=8,
再与方程组中两式分别相减,得 a=5 b=3 ;
(2)由(1)可知,A(5,0),B(3,2),
如图,过B点作BD⊥x轴,垂足为D,
则S△ABQ=S梯形BDEQ-S△ABD-S△AQE
=1 2 (2+|m|)×(6-3)-1 2 ×2×(5-3)-1 2 ×(6-5)×|m|
=|m|+1;
(3)∵S梯形OABC=1 2 ×(3+5)×2=8,
依题意,得|m|+1=1 2 ×8,
解得m=±3,
∴Q(6,3)或(6,-3).