第一个问题:
∵向量OA=(sinα,1)、向量OB=(cosα,9)、向量OC=(-sinα,2),
∴向量AB=向量OB-向量OA=(cosα-sinα,8),
向量CA=向量OA-向量OC=(2sinα,-1).
∴向量BP=(cosα-sinα,8),∴向量PB=-向量BP=(sinα-cosα,-8).
∴f(α)=向量PB·向量CA=2sinα(sinα-cosα)+8
=2(sinα)^2-2sinαcosα+8=1-cos2α-sin2α+8=9-(sin2α+cos2α)
=9-√2[sin2αcos(π/4)+cos2αsin(π/4)]=9-√2sin(2α+π/4).
∵-π/8<α<π/2,∴-π/4<2α<π,∴0<2α+π/4<π+π/4,
∴当0<2α+π/4≦π/2时,f(α)单调递减,当π/2<2α+π/4<π+π/4时,f(α)单调递增.
由0<2α+π/4≦π/2,得:-π/4<2α≦π/4,∴-π/8<α≦π/8.
由π/2<2α+π/4<π+π/4,得:π/4<2α<π,∴π/8<α<π/2.
即:函数f(α)的单调递减区间是(-π/8,π/8],单调递增区间是(π/8,π/2).
∵0<2α+π/4<π+π/4,∴-√2/2<sin(2α+π/4)≦1,∴-√2≦-√2sin(2α+π/4)<1,
∴9-√2≦9-√2sin(2α+π/4)<10.
∴函数f(α)的值域是[9-√2,10).
第二个问题:
∵向量AB=(cosα-sinα,8)、向量BP=(cosα-sinα,8),
∴向量AP=(2cosα-2sinα,16),又向量OA=(sinα,1),
∴向量OP=向量OA+向量AP=(2cosα-sinα,17),而向量OC=(-sinα,2).
∵O、P、C三点共线,∴向量OP、向量OC共线,∴2(2cosα-sinα)+17sinα=0,
∴4cosα+15sinα=0,∴tanα=-4/15.
由-π/8<α<π/2、tanα=-4/15,得:-π/8<α<0,
∴sinα=-√{(sinα)^2/[(cosα)^2+(sinα)^2]}=(tanα)/√[1+(tanα)^2]
=-(4/15)/√[1+(4/15)^2]=-4/√(225+16)=-4/√241.
∴cosα=√[1-(sinα)^2]=√(1-16/241)=15/√241.
∴sinα+cosα=11/√241,∴(sinα+cosα)^2=121/241.
∵向量OA=(sinα,1)、向量OB=(cosα,9),
∴向量OA+向量OB=(sinα+cosα,10),
∴|向量OA+向量OB|=√[(sinα+cosα)^2+100]=√(121/241+100)
=√24221/√241.