解: |A-λE| =
1-λ -3 3
3 -5-λ 3
6 -6 4-λ
r1-r2,r3-2r2
-2-λ 2+λ 0
3 -5-λ 3
0 4+2λ -2-λ
c2+c1+2c3
-2-λ 0 0
3 4-λ 3
0 0 -2-λ
= (4-λ)(2+λ)^2
所以 A 的特征值为 4,-2,-2.
(A-4E)X=0 的基础解系为 a1=(1,1,2)^T
(A+2E)X=0 的基础解系为 a2=(1,1,0)^T, a3=(-1,0,1)^T
令P=(a1,a2,a3), 则P可逆, 且 P^-1AP=diag(4,-2,-2).