贡献者： certain_pineapple
预备知识 群代数与正则表示
，
不变子空间，
直和（线性空间）
1. 等价表示
定义 1 等价表示
若 $D(g)$ 与 $D'(g)$ 同为群 $G$ 的 $n$ 维表示，且存在可逆的 $n$ 维矩阵 $C$ 满足于 $\forall g\in G$，$C^{-1}D(g)C=D'(g)$，那么称 $D(g)$ 与 $D'(g)$ 为等价表示，记作 $D(g)\cong D'(g)$。
等价表示在本质上是对群空间中基的不同选取，定义中提到的变换矩阵 $C$ 则恰好是不同基底之间的过渡矩阵矩阵。
等价表示的定义与相似矩阵类似，因此也有与相似矩阵类似的性质——等价矩阵的迹均相等。
$$tr(D'(g))=tr(C^{-1}D(g)C)=tr(D(g)CC^{-1})=tr(D(g))~.$$
在群表示类中，表示矩阵的迹被称为特征标，这将是一个重要的概念。
回忆共轭元素的概念定义 1 ，$g^{-1}g_\alpha g=g_\beta$，则有 $D^{-1}(g)D(g_\alpha)D(g)=D(g_\beta)$，则不难看出：
$$tr(D(g_\beta))=tr(D^{-1}(g)D(g_\alpha)D(g))=tr(D(g_\alpha)D(g)D^{-1}(g))=tr(D(g_\alpha))~.$$
则有：
推论 1
属于同一个共轭类的元素的同一个表示下特征标相同。
2. 可约表示与不可约表示
在给出可约表示的具体定义之前，先给出一个从形式上的理解：可约表示就是指那那些存在某个等价表示有如下分块矩阵形式的表示：
\begin{equation}
D(g)=\begin{pmatrix}
D^1(g) & M\\
0 & D^2(g)
\end{pmatrix}~.
\end{equation}
上式中的 M 可以为 0，对于 M 等于 0 的情况我们称其为完全可约表示。反之，若不存在这样的等价表示则称为不可约表示。
验证乘法规则：
\begin{align}
D(g_1)D(g_2)&=
\begin{pmatrix}
D^1(g_1) & M(g_1)\\
0 & D^2(g_1)
\end{pmatrix}
\begin{pmatrix}
D^1(g_2) & M(g_2)\\
0 & D^2(g_2)
\end{pmatrix} \\
&=\begin{pmatrix}
D^1(g_1)D^1(g_2) & D^1(g_1)M(g_2)+M(g_1)D^2(g_2)\\
0 & D^2(g_1)D^2(g_2)
\end{pmatrix} \\
&=\begin{pmatrix}
D^1(g_1g_2) & D^1(g_1)M(g_2)+M(g_1)D^2(g_2)\\
0 & D^2(g_1g_2)
\end{pmatrix}~.
\end{align}
容易看出对角线上的 “块” 满足群乘法规则。
可以证明的一点是，对于有限群来说，可约表示一定完全可约。
我们也可以从线性空间的角度来看可约表示的定义，那么其可以定义为1：
定义 2 不可约表示
对于群 $G$ 的一个表示 $(\phi,V)$ 如果 $V$ 的 $G$ 不变子空间只有 $\{0\}$ 和 $V$，(即没有非平凡的 $G$ 不变子空间)，那么称 $(\phi,V)$ 是不可约的；否则称 $(\phi,V)$ 是可约的。
定义 3
对于有限维线性空间，若在 $V$ 上的群 $G$ 的表示 $(\phi,V)$ 是可约的，那么 $V$ 有一个非平凡的 $G$ 不变子空间 $U$，从而 $\phi$ 有子表示 $\phi_U$，并且 $\phi$ 在 $V$ 的适当基下提供的矩阵表示 $\Phi$ 具有形式：
$$\Phi(g)=\begin{pmatrix}
\Phi_U(g) & C(g)\\
0 & B(g)
\end{pmatrix},~~~\forall g\in G~.$$
更进一步的有如果 $C(g)=0$，那么 $V$ 则是两个不变子空间的直和，可以定义：
定义 4 完全可约表示
对于群 $G$ 的一个表示 $(\phi,V)$，对于 $V$ 的每一个 $G$ 不变子空间，都有它在 $V$ 中的 $G$ 不变补空间，那么称 $(\phi,V)$ 是完全可约的。
值得注意的是，不可约表示也是完全可约的。
1. ^ 这部分内容参考 [1]
[1] ^ 丘维声. 群表示论. 高等教育出版社, 2011.12.