2020학년도 6월 모의평가 수학 영역 가형 26번

좌표평면에서 $|\overrightarrow{\mathrm{OP}}|=10$을 만족시키는 점 $\mathrm{P}$가 나타내는 도형 위의 점 $\mathrm{A}(a,b)$에서의 접선을 $l$, 원점을 지나고 방향벡터가 $(1,1)$인 직선을 $m$이라 하고, 두 직선 $l$, $m$이 이루는 예각의 크기를 $\theta$라 하자. $\cos\theta=\frac{\sqrt2}{10}$일 때, 두 수 $a$, $b$의 곱 $ab$의 값을 구하시오.

(단, $\mathrm{O}$는 원점이고, $a>b>0$이다.) [4점]