(1)
α=cos(π/6)+isin(π/6) (以下,煩雑になるのでφ=π/6とおく)
α+β=(cosφ+cosθ)+i(sinφ+sinθ)
......=2cos((φ+θ)/2)cos((φ-θ)/2)+2isin((φ+θ)/2)cos((φ-θ)/2)
......=2cos((φ-θ)/2){cos((φ+θ)/2)+isin((φ+θ)/2)}
α-β=(cosφ-cosθ)+i(sinφ-sinθ)
......=-2sin((φ+θ)/2)sin((φ-θ)/2)+2icos((φ+θ)/2)sin((φ-θ)/2)
......=2sin((φ-θ)/2){-sin((φ+θ)/2)+icos((φ+θ)/2)}
......=2sin((φ-θ)/2){cos((φ+θ+π)/2)+isin((φ+θ+π)/2)}
φ>θ すなわち,θ<π/6 のとき,sin((φ-θ)/2)>0
arg(α-β)=(φ+θ+π)/2
φ<θ すなわち,θ>π/6 のとき,sin((φ-θ)/2)<0
arg(α-β)=(φ+θ+π)/2-π=(φ+θ-π)/2
arg((α+β-0)/(α-β-0))
=arg(α+β)-arg(α-β)
φ>θ のとき,
arg((α+β-0)/(α-β-0))=π/2
φ<θ のとき,
arg((α+β-0)/(α-β-0))=-π/2
よって,l とm は直交する。
(2)
Cを表す複素数はα. arg(α)=φ,
Bを表す複素数はα-β.
φ>θ のとき,
arg(α-β)=(φ+θ+π)/2
∠BOC=arg(α)-arg(α-β)
........=(φ-θ-π)/2
........=-5π/12-θ/2
φ<θ のとき,
arg(α-β)=(φ+θ+π)/2-π=(φ+θ-π)/2
∠BOC=arg(α)-arg(α-β)
........=(φ-θ+π)/2
........=7π/12-θ/2
(3)
0≦θ<π/6,π/6<θ≦π より,
⁻π/2≦-θ/2<-π/12,-π/12<-θ/2≦0
φ>θ のとき,
∠BOC=-5π/12-θ/2
より,
-π/2≦∠BOC<-π/2,-π/2<∠BOC≦-5π/12
φ<θ のとき,
∠BOC=7π/12-θ/2
より,
π/12≦∠BOC<π/2,π/2<∠BOC≦7π/12
sin((φ-θ)/2) の正負で場合分けするのが気付きにくいと思います。