已知函数F(X)=根号2SIN(2X-派/4)+2COS^2X-1

（1）F(x)=sin2x-cos2x+cos2x=sin2x,
F(x)的最大值=1,此时2x=(2k+1/2)π,x的集合是{x|x=(k+1/4)π,k∈Z}.
(2)b=sin(5π/6)=1/2,
由余弦定理,3/16=1/4+c^-c/2,
c^-c/2+1/16=0,
c=1/4,
∴S△ABC=(1/2)bcsinA=√3/32.