sinθ=a,cosθ=bとおくと、
π/2≦θ≦πより、
a≧0,b≦0
a+b=1/√5
a²+b²=1
だから、
a²+(1/√5-a)²=1
2a²-(2/√5)a+1/5=1
a²-(1/√5)a-2/5=0
5a²-√5a-2=0
解の公式を使って
a=(√5±3√5)/10
a≧0より、a=2√5/5
このとき、b=-√5/5
加法定理を用いて、
2cos(2θ-π/3)
=2{cos2θ・cos(π/3)+sin2θ・sin(π/3)}
=2{cos2θ・(1/2)+sin2θ・√3/2)}
=cos2θ+√3sin2θ
2倍角の公式を用いて
=(cos²θ-sin²θ)+√3・2sinθcosθ
=b²-a²+2√3ab
=(-√5/5)²-(2√5/5)²+2√3(-√5/5)・(2√5/5)
=(1/5)-(4/5)-(4√3/5)
=(-3/5)-(4√3/5)