V 是数域F上的n阶矩阵全体,并任选V的一组基,计算σ与τ 在该组基下的矩阵.

取一组标准的基底E_{i,j}, 也就是由恰在(i,j)位置为1, 其余元素为0的矩阵构成的基
那么矩阵X=[x1,x2,...,xn]可以在这组基下表示成一个列向量vec(X)=[x1^T,x2^T,...,xn^T]^T, 也就是把X按列堆起来
然后线性映射X->AXB就可以表示成vec(X)->vec(AXB)
所以要求的表示矩阵就是满足vec(AXB)=T vec(X)的矩阵T
这个矩阵一般用Kronecker乘积来表示, T = B^T o A
这里U o V的定义是这样: 如果U是mxn的矩阵U=[uij], 那么
U o V =
u11V u12V ... u1nV
u21V u22V ... u2nV
...
um1V um2V ... umnV
U和V的阶数可以没有联系.
对于你的问题,
σ: X->AX, 表示矩阵就是I o A, 是一个块对角阵
τ: X->P^{-1}XP, 表示矩阵就是P^T o P^{-1}, 这个矩阵就不要去具体写出来了(如果一定想写出来那就用伴随阵把P^{-1}表示出来再代Kronecker积的定义)