三阶矩阵A的特征值为1,-1,2,设B=A^3-3A^2,求|B|

设A的正交化矩阵是X,X'表示X的逆,则X'AX=d(1,-1,2),(X'AX)^3=X‘A^3X=d(1,-1,8),(X'AX)^2=X'A^2X=d(1,1,4),
X'BX=X'A^3X-3X'A^2X=d(-2,-4,-4)
所以|B|=|X'||B||X|=-32