(1)△ABC外接圆半径为R=√2.
由正弦定理:a/sinA=b/sinB=c/sinC=2R得
sinA=a/(2√2),sinB=b/(2√2),sinC=c/(2√2)
代入已知条件2√2*(sin^2A-sin^2C)=(a-b)sinB中
化简得 a²+b²-c²=ab
由余弦定理得 cosC=(a²+b²-c²)/(2ab)=1/2
∴C=60°.
c=(2R)sinC=(2√2)sin60°=√6.
(2)∵a²+b²≥2ab,即c²+ab ≥2ab,
∴ab≤c²,即ab≤6.
故SΔABC=(1/2)absin 60°≤(3/2)√3.
即SΔABC最大值=(3/2)√3.