AB⊥BC,O是AC的中点,
∴OA=OC=OB,
OP⊥底面ABC,
∴PA=PB=PC,
AB=BC,
以OA,OB,OP为x,y,z轴建立空间直角坐标系,设A(1,0,0),B(0,1,0),P(0,0,p),则C(-1,0,0),PC中点D(-1/2,0,p/2),
∴向量PA=(1,0,-p),BD=(-1/2,-1,p/2),
(1)由AB=PA得2=1+p^2,p^2=1,
向量PA*BD=-1/2-p^2/2=-1,
|PA|=√2,|BD|=√(3/2),
直线PA与BD所成角的余弦值=1/[√2*√(3/2)]=√3/3.
(2)平面OPC的法向量是OB=(0,1,0),
设平面PBC的法向量为(m,n,1),则
PB*(m,n,1)=(0,1,-p)*(m,n,1)=n-p=0,
BC*(m,n,1)=(-1,-1,0)*(m,n,1)=-m-n=0,
∴m=-n=-p,
二面角O-PC-B的大小为π/3,
向量(0,1,0)*(-p,p,1)=p=(1/2)√(1+2p^2),
∴2p=√(1+2p^2),
4p^2=1+2p^2,
p^2=1/2,
∴k=AB/PA=√2/√(1+p^2)=2√3/3.