(1)a^2-c^2=b^2-mbc
所以b^2+c^2-a^2=mbc
所以cosA=(b^2+c^2-a^2)/2bc=m/2
又√2sinA=√3cosA,即tanA>0(A为锐角)
即(cosA)^2=2/5
所以m^2=8/5,m=2√10/5或-2√10/5(舍)
所以m=2√10/5
(2)由a/sinA=R,所以R=√5,sinA=√3/√5
所以b=√5sinB,c=√5sinC
S=bcsinA/2=(5sinBsinC*√3/√5)/2
=√15/2sinBsinC=√15/2*(-1/2)[cos(B+C)-cos(B-C)]
=-√15/4[-cosA-cos(B-C)]
=√6/4+√15/4cos(B-C)
显然当B=C时,S最大
所以S的最大值为(√6+√15)/4