2014학년도 7월 고3 전국연합학력평가 수학 영역 B형 17번

$\dfrac\pi2<\theta<\pi$인 $\theta$에 대하여 두 행렬 $\begin{pmatrix}k&0\\0&k\end{pmatrix}$, $\begin{pmatrix}\cos\theta&-\sin\theta\\\sin\theta&\cos\theta\end{pmatrix}$로 나타내어지는 각각의 일차변환 $f$, $g$의 합성변환 $h=f\circ g$에 의하여 점 $\mathrm{A}(2,0)$이 점 $\mathrm{B}(-2,4)$로 옮겨진다. 일차변환 $h$에 의하여 점 $\mathrm{B}$가 옮겨지는 점이 $\mathrm{P}(a,b)$일 때, $ab$의 값은? [4점]