2R(sin²A-sin²C)=(√2a-b)sinB
(2R)²sin²A-(2R)²sin²C=(√2a-b)*(2R)SinB
a²-c²=(√2a-b)b=√2ab-b²
a²+b²-c²=√2ab
cosC=(a²+b²-c²)/(2ab)=√2/2
C=45度
c=2RsinC=√2R
c²=2R²=a²+b²-√2ab≥(2-√2)ab……a=b时取等号
ab≤2R²/(2-√2)=(2+√2)R²
S=(1/2)absinC=(√2/4)ab≤[(√2+1)/2]R²
即：三角形ABC的面积的最大值=[(√2+1)/2]R² (此时a=b)