二次多项式与二次型

                     

贡献者: addis

预备知识 二次型,正定矩阵

   所有的 $N$ 元二次(齐次)多项式都可以表示为

\begin{equation} P(x_1,\dots,x_N) = \sum_{i=1}^N\sum_{j=1}^N a_{i,j}x_i x_j \end{equation}
其中 $a_{i,j}$ 是对称矩阵 $ \boldsymbol{\mathbf{A}} $ 的矩阵元.这是一个二次型在某组基底下的矩阵表示($ \boldsymbol{\mathbf{x}} ^{\mathrm{T}} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} $).由于 $x_i x_j = x_j x_i$,所以规定 $ \boldsymbol{\mathbf{A}} $ 为对称矩阵并不影响一般性,反而可以简化运算.

极值

   要求二次多项式的极值,先求驻点:

\begin{equation} \frac{\partial}{\partial{x_i}} P(x_1,\dots,x_N) = 2\sum_j a_{ij} x_j = 0 \qquad (i = 1,\dots,N) \end{equation}
所以这相当于解齐次线性方程组
\begin{equation} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} \end{equation}
可见它的解集要么是 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 一个点,要么是一个子空间(零空间)

   若矩阵 $ \boldsymbol{\mathbf{A}} $ 是正定的,那么当 $ \boldsymbol{\mathbf{x}} \ne \boldsymbol{\mathbf{0}} $ 时 $ \boldsymbol{\mathbf{x}} ^{\mathrm{T}} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} > 0$,即 $ \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} \ne \boldsymbol{\mathbf{0}} $,可以马上得到只有 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 一点是齐次方程组的解,且该点是全局最小值,也是唯一一个驻点和极值点.若 $ \boldsymbol{\mathbf{A}} $ 是负定的,那么同理 $ \boldsymbol{\mathbf{x}} = \boldsymbol{\mathbf{0}} $ 就是全局最大值.此时齐次方程组的解只有一个点,可以推断 $ \boldsymbol{\mathbf{A}} $ 是满秩的,可见正定(负定)矩阵都是满秩的.

1. 非齐次二次多项式的极值

\begin{equation} P(x_1,\dots,x_N) = \sum_{i=1}^N\sum_{j=1}^N a_{i,j}x_i x_j + \sum_{i=1}^N b_i x_i + C \end{equation}
求驻点相当于求解非齐次方程组
\begin{equation} \boldsymbol{\mathbf{A}} \boldsymbol{\mathbf{x}} = - \boldsymbol{\mathbf{b}} \end{equation}
当 $ \boldsymbol{\mathbf{A}} $ 是正定(负定)时,由于矩阵是满秩的,有且仅有一个解,这个点就是最小(最大)值.


致读者: 小时百科一直以来坚持所有内容免费,这导致我们处于严重的亏损状态。 长此以往很可能会最终导致我们不得不选择大量广告以及内容付费等。 因此,我们请求广大读者热心打赏 ,使网站得以健康发展。 如果看到这条信息的每位读者能慷慨打赏 10 元,我们一个星期内就能脱离亏损, 并保证在接下来的一整年里向所有读者继续免费提供优质内容。 但遗憾的是只有不到 1% 的读者愿意捐款, 他们的付出帮助了 99% 的读者免费获取知识, 我们在此表示感谢。

                     

友情链接: 超理论坛 | ©小时科技 保留一切权利