2018학년도 사관학교 1차 선발시험 수학 영역 가형 29번

그림과 같이 한 변의 길이가 2인 정삼각형 $\mathrm{ABC}$와 반지름의 길이가 1이고 선분 $\mathrm{AB}$와 직선 $\mathrm{BC}$에 동시에 접하는 원 $O$가 있다. 원 $O$ 위의 점 $\mathrm P$와 선분 $\mathrm{BC}$ 위의 점 $\mathrm Q$에 대하여 $\overrightarrow{\mathrm{AP}}\cdot\overrightarrow{\mathrm{AQ}}$의 최댓값과 최솟값의 합은 $a+b\sqrt3$이다. $a^2+b^2$의 값을 구하시오. (단, $a$, $b$는 유리수이고, 원 $O$의 중심은 삼각형 $\mathrm{ABC}$의 외부에 있다.) [4점]