①
∵AE=4,EF=3.AF=5
∴角AEF=90度（勾股逆定理）
∴角AEB＋角FEC=90°
又 ∠B=90°
∴∠BAE+∠AEB=90°
∴角BAE=角FEC
又 角B=角C
∴△ABE∽△EFC
∴AB/CE=BE/CF=AE/EF=4/3
所以设AB=4a 则CE=3a
勾股 BE=4×根号（1-a^2)
因为正方形
所以BE+EC=AB
所以4a=4×根号（1-a^2)+3a
两边平方 并解得a^2=16/17
正方形面积=（4a）^2=16a=16×16/17=256/17
②
因为角APD=60度
∴角BPA＋角DPC=120°
又 ∠B=60°
∴∠BAP+∠BPA=120°
∴角BAP=角DPC
又 角B=角C
∴△ABP∽△DPC
∴CP/AB=DP/AP=CD/BP=2/3
设AB=a 则CP=a×2/3
因为AB=BP+CP
所以a=1+a×2/3
所以a=3
即三角形ABC的边长是3