解:由已知条件得
4R2(sin2A-sin2C)=(a-b)·2RsinB,
由正弦定理得a2-c2=(a-b)b,
即a2+b2-c2=ab.
再由余弦定理的推论得
cosC==,
又C是△ABC的内角,∴C=45°.
∴S=absinC=·2RsinA·2RsinB·
=R2sinAsinB
=-R2[cos(A+B)-cos(A-B)]
=R2[+cos(A-B)],
当A=B时,面积S有最大值R2.