解题思路：（1）利用旋转的性质得到∠OAM=∠OBN，OA=OB，∠AOM=∠BON，从而证明△AOM≌△BON，问题得证；
（2）利用上题证得的全等三角形可以得到BN=AM，设AM=x，然后表示出AP，在直角三角形AMP中利用勾股定理列出方程求解即可．
（1）∵O为正方形ABCD的对角线的交点，
∴∠OAM=∠OBN=45°，OA=OB，∠AOB=90°．（1分）
又∵∠EOG=90°，
∴∠EOG-∠AON=∠AOB-∠AON，即∠AOM=∠BON．（2分）
在△AOM和△BON中，
∵∠OAM=∠OBN，OA=OB，∠AOM=∠BON，
∴△AOM≌△BON．（ASA）（3分）
∴OM=ON．（4分）
（2）∵OF为正方形OEFG的对角线，
∴∠POM=∠PON=45°．
又∵OM=ON，OP=OP，
∴△POM≌△PON．（SAS）（5分）
∴PM=PN．
又∵PM=5，
∴PN=5．（6分）
∵△AOM≌△BON，
∴BN=AM．（7分）
设AM=x，则AP=AB-PN-BN=12-5-x=7-x．（8分）
在Rt△AMP中，
∵AM2+AP2=PM2，
∴x2+（7-x）2=25．（9分）
化简得x2-7x+12=0．
解这个方程得x1=3，x2=4．
∴AM的长为3或4．（10分）
点评：
本题考点： 旋转的性质；全等三角形的判定与性质；勾股定理；正方形的性质．
考点点评： 本题考查了旋转的性质，解决此类问题的关键是正确的利用旋转不变量．