设线性方程组x

由题意A＝

12−2
2−1λ
31−1，
∵B≠0
∴秩B≥1．
由于A与B均为3阶方阵，且AB=0，
∴秩A+秩B≤3．
又∵秩≥1，
∴秩A≤3-秩B≤3-1=2，即矩阵A必不可逆，
∴|A|=0．
即
.
12−2
2−1λ
31−1.＝5(λ−1)＝0
∴λ=1．