假设a>b,则F1(c,0)、F2(-c,0),其中c²=a²-b²
因为向量PF1·向量PF2=0
所以PF1⊥PF2
所以P在以F1F2为直径的圆上
即P(x,y)在圆O:x²+y²=c²上
又:P(x,y)在椭圆C:x²/a²+y²/b²=1上
将椭圆C与圆O的方程联立:
C:x²/a²+y²/b²=1
O:x²+y²=a²-b²
解得:x²=(a^4-2a²b²)/(a²-b²)=(a^4-2a²b²)/c²
y²=b^4/(a²-b²)=b^4/c²
所以|y|=b²/c
所以S=1/2*|F1F2|*|y|=1/2*2c*b²/c=b²
所以b=3