比较麻烦,要分段讨论
当a>=b时F（a,b)=b
当a==g(x),x^2-5/2x-2/3 >=0 得到A={x=另一个数}
1.在A这个范围内G（x)=F(F(f(x),g(x)),h(x))=F（g(x),h(x)）
再令g(x)>=h(x)）,可求出x的一个范围B1,B1一定要在A之内,G（x)=F（g(x),h(x)）=h(x),在B1内h(x)的极值就是G（x）的极值
再令g(x)=h(x)）可求出x的一个范围B3,B3不能在A之内.
没有具体计算,所以不知道B1,B2,B3,B4是不是非空（我猜定有空集存在）