解:∵向量a与向量b垂直,∴a*b=sinθ-2cosθ=0,即sinθ=2cosθ
∵(sinθ)^2+(cosθ)^2=1
∴(2cosθ)^2+(cosθ)^2=1,即(cosθ)^2=1/5
∵θ∈(0,π/2)
∴cosθ=√5/5,sinθ=2cosθ=2√5/5
∵5cos(θ-φ)=3√5cosφ,即5cosθcosφ+5sinθsinφ=3√5cosφ
∴√5cosφ+2√5sinφ=3√5cosφ,即sinφ=cosφ
∴tanφ=1
∵0<φ<π/2,∴φ=π/4
∴cosφ=cos(π/4)=√2/2