2008학년도 11월 고2 전국연합학력평가 수학 영역 나형 19번

실수 $a$, $b$에 대하여 연립방정식 $\begin{pmatrix}a+2&b\\-b&a\end{pmatrix}\begin{pmatrix}x\\y\end{pmatrix}=\begin{pmatrix}0\\0\end{pmatrix}$이 $x=0$, $y=0$ 이외의 해를 가질 때, $a+b$의 최댓값을 $M$, 최솟값을 $m$이라 하자. 이때, $M^2+m^2$의 값은? [4점]