二次多项式与二次型

                     

贡献者: addis

预备知识 二次型,正定矩阵(实数)

   所有的 $N$ 元二次(齐次)多项式都可以表示为

\begin{equation} P(x_1,\dots,x_N) = \sum_{i=1}^N\sum_{j=1}^N a_{i,j}x_i x_j \qquad (a_{i,j}, x_k \in \mathbb R)~, \end{equation}
其中 $a_{i,j}$ 是对称矩阵 $ \boldsymbol{\mathbf{A}} $ 的矩阵元。这是一个二次型在某组基底下的对称矩阵表示($ \boldsymbol{\mathbf{x}} ^{\mathrm{T}} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} $)。由于 $x_i x_j = x_j x_i$,所以规定 $ \boldsymbol{\mathbf{A}} $ 为对称矩阵并不影响一般性,反而可以简化运算。

极值

   要求二次多项式的极值,先求驻点:

\begin{equation} \frac{\partial}{\partial{x_i}} P(x_1,\dots,x_N) = 2\sum_j a_{ij} x_j = 0 \qquad (i = 1,\dots,N)~. \end{equation}
所以这相当于解齐次线性方程组
\begin{equation} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} ~. \end{equation}
可见它的解集要么是 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 一个点,要么是一个子空间(零空间)

   若矩阵 $ \boldsymbol{\mathbf{A}} $ 是正定的,那么当 $ \boldsymbol{\mathbf{x}} \ne \boldsymbol{\mathbf{0}} $ 时 $ \boldsymbol{\mathbf{x}} ^{\mathrm{T}} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} > 0$,即 $ \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} \ne \boldsymbol{\mathbf{0}} $,可以马上得到只有 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 一点是齐次方程组的解,且该点是全局最小值,也是唯一一个极值点。若 $ \boldsymbol{\mathbf{A}} $ 是负定的,那么同理 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 就是全局最大值。

1. 非齐次二次多项式的极值

\begin{equation} P(x_1,\dots,x_N) = \sum_{i=1}^N\sum_{j=1}^N a_{i,j}x_i x_j + \sum_{i=1}^N b_i x_i + C~. \end{equation}
求驻点相当于求解非齐次方程组
\begin{equation} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} = - \boldsymbol{\mathbf{b}} ~. \end{equation}
当 $ \boldsymbol{\mathbf{A}} $ 是正定(负定)时,由于矩阵是满秩的,有且仅有一个解,这个点就是最小(最大)值。

                     

© 小时科技 保留一切权利