(1)∵0<θ<π,C=
π
3 ,cos(θ+C)=
3
5 ,
∴可得θ+C=θ+
π
3 是锐角,sin(θ+C)=sin(θ+
π
3 )=
4
5
∴cosθ=cos[(θ+
π
3 )-
π
3 ]=
3
5 ×
1
2 +
4
5 ×
3
2 =
4
3 +3
10
即 cosθ=
4
3 +3
10 …(6分)
(2)∵A+B=π-C,可得sinC=sin(A+B)
∴由sinC+sin(A-B)=3sin2B,得sin(A+B)+sin(A-B)=3sin2B,
即2sinAcosB=6sinBcosB,可得cosB(sinA-3sinB)=0
∴cosB=0或sinA=3sinB
①cosB=0,得B=
π
2 ,结合C=
π
3 得A=
π
6
∴a=
3
3 ,b=
2
3
3
△ABC的面积S=
1
2 absinC
3
6 …..(4分)
②若sinA=3sinB,则a=3b,
由余弦定理c 2=a 2+b 2-2abcosC,得1=10b 2-6b 2cos
π
3
即7b 2=1,解之得b=
7
7 ,从而a=
3
7
7
△ABC的面积S=
1
2 absinC=
3
3
28 …(4分)