设园的方程为(x-a)²+(y-b)²=r²,圆心O（a,b）,半径r
依题意A(0,0),B(6,0),C(-1,7)三点均在圆上
分别代入得
(-a)²+(-b)²=r² （1）
(6-a)²+(-b)²=r² （2）
(-1-a)²+(7-b)²=r² （3）
（2）-（1）得
(6-a)²-a²=0
36-12a=0;36=12a
a=3
（3）-（1）得
(-1-a)²+(7-b)²-a²-b²=0
16-9+49-14b=0
14b=56
b=4
将a=3,b=4代入（1）
(-3)²+(-4)²=r²
r²=9+16=25
则三角形ABC的外接圆的方程是(x-3)²+(y-4)²=25