다음은 이차정사각행렬 A에 대하여 A2−(1+p)A+pE=O일 때, An(n≥2인 자연수)을 αA+βE로 나타내는 과정이다. (단, E는 단위행렬, O는 영행렬, p, α, β는 실수이다.)
A2−A=p(A−E)이므로
A3−A2=p(A2−A)=p2(A−E)
A4−A3=p2(A2−A)=p3(A−E)
⋮
An−An−1=(가)(A−E)이다.
따라서 An−A=(p+p2+p3+⋯+pn−1)(A−E)이므로
(ⅰ) p=1일 때, An=(나)A−(n−1)E
(ⅱ) p=1일 때, An=(다)A−p−11(pn−p)E이다.
위 과정에서 (가), (나), (다)에 알맞은 것은? [3점]