在统计学和控制理论中，卡尔曼滤波(Kalman filtering)，也称为线性二次估计(LQE)，是一种算法，卡尔曼滤波会根据各测量量在不同时间下的值，考虑各时间下的联合分布，产生比仅基于单个测量值更精确的未知变量的估计。过滤器以鲁道夫·卡尔曼命名，他是该理论的主要开发者之一。
卡尔曼滤波器在技术上有许多应用。一个常见的应用是用于车辆，特别是飞机和宇宙飞船的引导、导航和控制。[1] 此外，卡尔曼滤波器在信号处理和计量经济学等领域的时间序列分析中是一个广泛应用的概念。卡尔曼滤波器也是机器人运动规划和控制领域的主要课题之一，有时也被包括在轨迹优化中。 卡尔曼滤波器也用于模拟中枢神经系统对运动的控制。由于发出运动命令和接收感觉反馈之间的时间延迟，卡尔曼滤波器的使用支持用于估计运动系统的当前状态和发出更新命令的现实模型。[2]
该算法分两步进行。在预测步骤中，卡尔曼滤波器产生当前状态变量及其不确定性的估计。一旦观察到下一次测量的结果(必然被一定量的误差所破坏，包括随机噪声)，就使用加权平均值来更新这些估计值，以更高的确定性给予估计值更多的权重。该算法是递归的。它可以实时运行，仅使用当前输入测量值和先前计算的状态及其不确定性矩阵；不需要额外的过去信息。
使用卡尔曼滤波器并不假设误差是高斯的。[3] 然而，在所有误差都是高斯的特殊情况下，滤波器产生精确的条件概率估计。
该方法的扩展和推广也已得到发展，如适用于非线性系统的扩展卡尔曼滤波器和无迹卡尔曼滤波器。底层模型类似于隐马尔可夫模型，只是潜变量的状态空间是连续的，并且所有的潜在变量和观测变量都具有高斯分布。
过滤器以匈牙利移民鲁道夫·卡尔曼的名字命名[4][5] 彼得·斯沃林也在早期开发了类似的算法。 南加州大学的理查德·布奇对这一理论做出了贡献，导致它有时被称为卡尔曼-布奇滤波器。 斯坦利·施密特通常被认为是卡尔曼滤波器的第一个实现者。他意识到滤波器可以分为两个不同的部分，一部分用于传感器输出之间的时间段，另一部分用于合并测量值。[6] 正是在卡尔曼访问美国国家航空航天局艾姆斯研究中心期间，施密特看到卡尔曼的想法适用于阿波罗计划的非线性轨迹估计问题，从而将其纳入阿波罗导航计算机。 这种卡尔曼滤波器最早由斯维林(1958)、卡尔曼(1960)以及卡尔曼和布奇(1961)在技术论文中描述和部分开发。
Apollo计算机使用2k磁芯RAM和36k芯绳存储器[...]。CPU由IC构建[...]。时钟速度低于100 kHz [...]。事实上，麻省理工学院的工程师能够将这样的优秀软件（卡尔曼滤波器的首批应用之一）打包到这幺小的计算机中，这一点非常值得称赞的。
——Matthew Reed 对 Jack Crenshaw 的采访 , TRS-80.org (2009) [1]
卡尔曼滤波器在美国海军核弹道导弹潜艇导航系统的实现中，以及在巡航导弹(如美国海军的战斧导弹和美国空军的空中发射巡航导弹)的制导和导航系统中至关重要。它们还用于可重复使用运载火箭的制导和导航系统，以及停靠在国际空间站的航天器的姿态控制和导航系统。[7]
这种数字滤波器有时称为 平流层诺维奇-卡尔曼-布奇滤波器 因为它是苏联数学家拉斯兰·斯特拉诺维奇(Ruslan Stratonovich)较早开发的更一般的非线性滤波器的特例。[8][9][10][11] 事实上，一些特殊情况下的线性滤波器方程出现在同温层诺维奇在1960年夏天之前发表的论文中，当时卡尔曼在莫斯科的一次会议上会见了同温层诺维奇。[12]
卡尔曼滤波器使用系统的动态模型(例如，运动的物理定律)、该系统的已知控制输入以及多个连续测量(例如来自传感器的测量)来形成系统变化量(其状态)的估计，该估计优于仅使用一个测量获得的估计。因此，它是一种常见的传感器融合和数据融合算法。
有噪声的传感器数据、描述系统演化的方程中的近似值以及未考虑的外部因素都限制了确定系统状态的可能性。卡尔曼滤波器能有效地处理传感器数据噪声引起的不确定性，在某种程度上还能处理随机的外部因素。卡尔曼滤波器产生系统状态的估计，作为系统预测状态和使用加权平均值的新测量的平均值。权重的目的是使具有更好(即更小)估计不确定性的值更“可信”。 权重是根据协方差计算的，协方差是对系统状态预测的估计不确定性的度量。加权平均的结果是一个新的状态估计值，它位于预测状态和测量状态之间，比单独的状态估计值具有更好的不确定性。这个过程在每个时间步重复，新的估计值及其协方差通知在下一次迭代中使用的预测。这意味着卡尔曼滤波器递归工作，只需要系统状态的最后一次“最佳猜测”，而不是整个历史来计算新状态。
测量值和当前状态估计值的相对确定性是一个重要的考虑因素，通常用卡尔曼滤波器来讨论滤波器的响应 增加。卡尔曼增益是给测量和当前状态估计的相对权重，可以“调整”以实现特定的性能。高增益时，滤波器会在最近的测量中增加权重，从而更加响应地跟踪测量结果。低增益时，滤波器更接近模型预测。在极端情况下，接近1的高增益将导致更跳跃的估计轨迹，而接近0的低增益将消除噪声但降低响应性。
当执行滤波器的实际计算时(如下所述)，状态估计和协方差被编码成矩阵，以处理单个计算集中涉及的多维。这允许在任何过渡模型或协方差中表示不同状态变量(例如位置、速度和加速度)之间的线性关系。
作为一个示例应用，考虑确定卡车精确位置的问题。卡车可以配备一个全球定位系统单元，提供几米内的位置估计。全球定位系统估计可能会有噪音；读数快速“跳跃”,尽管保持在离真实位置几米的范围内。此外，由于卡车被期望遵循物理定律，它的位置也可以通过对其速度随时间的积分来估计，通过跟踪车轮旋转和方向盘角度来确定。这是一种被称为航位推算的技术。通常情况下，航位推算将提供卡车位置的非常平滑的估计，但随着小误差的累积，它会随着时间推移而漂移。
在这个例子中，卡尔曼滤波器可以被认为在两个不同的阶段操作:预测和更新。在预测阶段，卡车的旧位置将根据物理运动规律(动态或“状态转换”模型)进行修改。不仅会计算新的位置估计，还会计算新的协方差。也许协方差与卡车的速度成正比，因为我们对高速行驶时航位推算位置估计的准确性更不确定，但对慢速行驶时的位置估计却非常确定。接下来，在更新阶段，从全球定位系统单元获取卡车位置的测量值。伴随着这种测量而来的是一些不确定性，其相对于前一阶段预测的协方差决定了新测量对更新预测的影响程度。理想情况下，由于航位推算估计值倾向于偏离真实位置，全球定位系统测量值应该将位置估计值拉回到真实位置，但不要干扰到快速跳跃和产生噪音的程度。
卡尔曼滤波器是一种有效的递归滤波器，它通过一系列噪声测量来估计线性动态系统的内部状态。 它被广泛用于工程和计量经济学应用，从雷达和计算机视觉到结构宏观经济模型的估计，[13][14] 是控制理论和控制系统工程中的一个重要课题。 卡尔曼滤波器与线性二次调节器(LQR)一起解决线性二次高斯控制问题(LQG)。 卡尔曼滤波器、线性二次调节器和线性二次高斯控制器是控制理论中最基本问题的解决方案。
在大多数应用中，内部状态比测量的几个“可观察”参数大得多(更多自由度)。 然而，通过组合一系列测量，卡尔曼滤波器可以估计整个内部状态。
在登普斯特-谢弗理论中，每个状态方程或观测值被认为是线性信度函数的特殊情况，卡尔曼滤波器是在连接树或马尔可夫树上组合线性置信函数的特殊情况。其他方法包括使用贝叶斯或证据更新状态方程的信念过滤器。
现在已经开发了各种各样的卡尔曼滤波器，从卡尔曼的原始公式，现在称为“简单”卡尔曼滤波器，卡尔曼-布奇滤波器，施密特的“扩展”滤波器，信息滤波器，以及由比尔曼，桑顿和许多其他人开发的各种“平方根”滤波器。也许最常用的非常简单的卡尔曼滤波器是锁相环，它现在在无线电中普遍存在，特别是调频无线电、电视机、卫星通信接收机、外层空间通信系统和几乎任何其他电子通信设备。
卡尔曼滤波器基于时域离散的线性动态系统。它们以马尔可夫链为模型，马尔可夫链建立在线性算子上，受包括高斯噪声在内的误差干扰。系统的状态用实数向量表示。在每个离散时间增量，线性算子被应用于状态以产生新的状态，其中混合了一些噪声，并且可选地来自系统上的控制的一些信息(如果它们是已知的)。然后，另一个混合了更多噪声的线性算子从真实(“隐藏”)状态产生观察到的输出。卡尔曼滤波器可以被视为类似于隐马尔可夫模型，关键区别在于隐状态变量取值于连续空间(与隐马尔可夫模型中的离散状态空间相反)。卡尔曼滤波器的方程和隐马尔可夫模型的方程有很强的相似性。Roweis和Ghahramani (1999)对这一模型和其他模型进行了回顾，[15] 和汉密尔顿(1994)，第13章。[16]
为了使用卡尔曼滤波器来估计仅给出一系列噪声观测的过程的内部状态，必须根据卡尔曼滤波器的框架来建模该过程。这意味着指定以下矩阵:
卡尔曼滤波器模型在某个时间假设真实状态 k 是从(k − 1)根据
其中，
有时 k 观察(或测量)zk 真实状态x的k 是根据
其中，
初始状态和每个步骤{ x的噪声矢量0，w1,...，wk, v1 ...vk}都被认为是相互独立的。
许多真实的动力系统并不完全符合这个模型。事实上，未建模动态会严重降低滤波器的性能，即使它应该以未知的随机信号作为输入。原因是未建模动态的影响取决于输入，因此，可能会使估计算法不稳定(它发散)。另一方面，独立的白噪声信号不会使算法发散。测量噪声和未建模动态之间的区别是一个困难的问题，在鲁棒控制的框架下，在控制理论中进行处理。[17][18]
卡尔曼滤波器是一个递归估计器。这意味着仅需要来自前一时间步的估计状态和当前测量来计算当前状态的估计。与批量估计技术相比，不需要观察和/或估计的历史。在下文中，符号 代表的估计值 有时 n 给定的观察值，包括时间 m ≤ n。
过滤器的状态由两个变量表示:
卡尔曼滤波可以写成一个方程，但它通常被概念化为两个不同的阶段:“预测”和“更新”。预测阶段使用前一时间步的状态估计来产生当前时间步的状态估计。这种预测状态估计也被称为 推理的 状态估计，因为虽然它是当前时间步的状态估计，但不包括来自当前时间步的观察信息。 在更新阶段，当前 推理的 预测与当前观察信息相结合，以改进状态估计。 这种改进的估计称为 后验的 状态估计。
通常，这两个阶段交替进行，预测会将状态推进到下一次计划的观察，而更新会包含该观察。 然而，这不是必须的；如果观察由于某种原因不可用，可以跳过更新并执行多个预测步骤。 同样，如果同时有多个独立的观察可用，则可以执行多个更新步骤(通常使用不同的观察矩阵Hk)中。[19][20]
| 预测的（先验）状态估计 | |
| 预测的（先验）误差的协方差 |
| 增益（测量预拟合残差） | |
| 增益(测量预拟合残差)的 协方差 | |
| 最优卡尔曼增益 | |
| 更新后（后验）的状态估计 | |
| 更新后的（后验）状态的协方差 | |
| 综合测量数据后的拟合残差 |
更新的公式(后验的)上述估计协方差对于最优K是有效的k 最小化残余误差的增益，这种形式在应用中应用最广泛。公式的证明可在 派生 节，其中公式对任何K都有效k 也显示了。
如果模型是准确的，则 和 精确地反映初始状态值的分布，然后保留以下不变量:
其中， 的期望值是 。也就是说，所有估计的平均误差为零。
还有:
因此协方差矩阵准确地反映了估计的协方差。
卡尔曼滤波器的实际实现通常是困难的，因为很难获得噪声协方差矩阵Q的良好估计k 和Rk。 在这个领域已经做了大量的研究来从数据中估计这些协方差。 实现这一点的一个实际方法是 自协方差最小二乘法 利用常规运行数据的时延自动方差来估计协方差的技术。[21][22] 使用ALS技术计算噪声协方差矩阵的GNU Octave和Matlab代码可在GNU通用公共许可证下在线获得。[23]
从理论上可以得出，在以下情况下卡尔曼滤波器是最佳线性滤波器:a)模型与实际系统完全匹配，b)输入噪声是白噪声(不相关)，以及c)噪声的协方差是精确已知的。在过去的几十年中，已经提出了几种噪声协方差估计方法，包括上面提到的ALS。在估计协方差之后，评估滤波器的性能是有用的；即是否有可能提高状态估计质量。如果卡尔曼滤波器工作最佳，则创新序列(输出预测误差)是白噪声，因此创新的白度属性测量滤波器性能。为此可以使用几种不同的方法。[24] 如果噪声项是非高斯分布的，则使用概率不等式或大样本理论来评估滤波器估计性能的方法在文献中是已知的。[25][26]
假设一辆卡车在无摩擦的直轨上。起初，卡车在位置0处是静止的，但是它受到随机的不受控制的力的冲击。我们每隔δ测量一次卡车的位置t 秒，但是这些测量是不精确的；我们想保持一个卡车其中，以及它的速度是多少的模型。我们在此展示如何推导出我们创建卡尔曼滤波器的模型。
因为 是不变的，它们的时间指数会下降。
卡车的位置和速度由线性状态空间描述
其中， 速度，也就是位置相对于时间的导数。
我们假设在(k − 1)和 k 不受控制的力导致恒定的加速度 ak 这是正态分布，平均值为0，标准差为0 σa。从牛顿运动定律我们得出结论
(注意没有 因为我们没有已知的控制输入。相反，我们假设 ak 是未知输入的影响 将该效果应用于状态向量),其中
以便
其中，
请注意矩阵 不是满秩的(如果 )中。因此，分布 不是绝对连续的，也没有概率密度函数。避免显式简并分布的另一种表达方式是
在每一个时间步骤中，都会对卡车的真实位置进行噪声测量。让我们假设测量噪声 vk 也是正态分布，平均值为0，标准差为0 σz。
其中，
和
我们非常精确地知道卡车的初始启动状态，所以我们初始化
为了告诉滤波器我们知道确切的位置和速度，我们给它一个零协方差矩阵:
如果初始位置和速度不完全已知，协方差矩阵应该用对角线上的适当方差初始化:
然后，与模型中已经存在的信息相比，过滤器将更喜欢来自第一次测量的信息。
为简单起见，假设控制输入 。卡尔曼滤波器可以写为:
。
如果我们包括非零控制输入，类似的方程成立。重要的是要注意增益矩阵 独立于测量而发展 。由上可知，更新卡尔曼增益所需的四个方程如下:
,
,
,
。
由于增益矩阵只取决于模型，而不取决于测量值，因此可以离线计算。增益矩阵的收敛性 到渐近矩阵 在瓦尔兰德和迪马基斯建立的条件下持有 。[27] 模拟确定了收敛的步骤数。对于上述移动卡车示例，使用 。和 ，模拟显示收敛于 迭代。
使用渐近增益，假设 和 独立于 卡尔曼滤波器变成线性时不变滤波器:
。
从误差协方差P上的不变量开始k | k 如上
在的定义中替换
替换
和
通过收集误差向量，我们得到
由于测量误差vk 与其他项不相关，这变成
由向量协方差的性质可知
利用P上的不变量k | k−1 R的定义k 成为
这个公式(有时称为协方差更新方程的约瑟夫形式)对任何K值都有效k。结果是如果Kk 是最佳的卡尔曼增益，这可以进一步简化如下所示。
卡尔曼滤波器是最小均方误差估计器。中的错误 后验的 状态估计是
我们寻求最小化这个向量的大小的平方的期望值， 。这相当于最小化 后验的 估计协方差矩阵 。通过将上面等式中的项展开并收集，我们得到:
当迹线相对于增益矩阵的矩阵导数为零时，迹线被最小化。使用梯度矩阵规则和矩阵的对称性，我们发现
为K解决这个问题k 得到卡尔曼增益:
这种增益称为 最佳卡尔曼增益，是使用时产生MMSE估计的值。
用于计算的公式 后验的 当卡尔曼增益等于上述的最佳值时，误差协方差可以简化。将右边卡尔曼增益公式的两边乘以SkKkT由此可见
回到我们的扩展公式 后验的 误差协方差，
我们发现最后两项抵消了，给出
这个公式在计算上更便宜，因此几乎总是在实践中使用，但只适用于最佳增益。如果算术精度异常低，导致数值稳定性问题，或者如果故意使用非最佳卡尔曼增益，则不能应用这种简化；这 后验的 必须使用上面导出的误差协方差公式(约瑟夫形式)。
卡尔曼滤波方程提供状态的估计 及其误差协方差 递归地。估计及其质量取决于系统参数和作为估计器输入的噪声统计。本节分析滤波器统计输入的不确定性的影响。[28] 在没有可靠的统计数据或噪声协方差矩阵的真实值的情况下 和 ，表达式
不再提供实际误差协方差。换句话说， 。 在大多数实时应用中，用于设计卡尔曼滤波器的协方差矩阵不同于实际(真实)噪声协方差矩阵。[来源请求] 该灵敏度分析描述了噪声协方差以及系统矩阵时估计误差协方差的行为 和 作为输入馈送到滤波器的是不正确的。因此，灵敏度分析描述了估计器对估计器的错误统计和参数输入的鲁棒性(或灵敏度)。
这种讨论仅限于统计不确定性情况下的误差敏感性分析。这里实际的噪声协方差表示为 和 而估计器中使用的设计值分别为 和 分别是。实际误差协方差表示为 和 卡尔曼滤波器的计算结果称为Riccati变量。当...的时候 和 ，这意味着 。当使用以下方法计算实际误差协方差时 ，取代 利用这个事实 和 ，得到以下递归方程 (d ):
和
计算时 通过设计，过滤器隐含地假设 和 。请注意，的递归表达式 和 除了存在 和 代替设计值 和 分别是。对卡尔曼滤波系统的鲁棒性进行了研究。[29]
卡尔曼滤波器的一个问题是它的数值稳定性。 如果过程噪声协方差Qk 小的时候，舍入误差经常会导致一个小的正特征值被计算为一个负数。 这使得状态协方差矩阵P的数值表示不确定，而其原码是正定的。
正定矩阵具有它们有三角形矩阵平方根P的性质 = S ST。 这可以使用乔莱斯基分解算法有效地计算，但更重要的是，如果协方差保持这种形式，它永远不会有负对角线或变得不对称。一个等价的形式是U-D分解形式，P = U D UT其中U是一个单位三角形矩阵(有单位对角线)，D是一个对角矩阵。
在这两者之间，U-D因式分解使用相同的存储量和稍少的计算量，并且是最常用的平方根形式。 (早期关于相对效率的文献有些误导，因为它假设平方根比除法更耗时，[30] 而在21世纪的计算机上，它们只是稍微贵一点。)
G. J .比尔曼和C. L .桑顿开发了平方根形式的卡尔曼预测和更新步骤的有效算法。[30]
信用证T 创新协方差矩阵S的分解k 是另一种数值高效且鲁棒的平方根滤波器的基础。[31] 该算法从线性代数包(LAPACK)中实现的LU分解开始。这些结果被进一步考虑到信用证中T 用Golub和Van Loan(算法4.1.2)给出的方法构造对称非奇异矩阵。[32] 旋转任何奇异协方差矩阵，使得第一对角划分是非奇异的且条件良好。旋转算法必须保留与观察到的状态变量H直接对应的创新协方差矩阵的任何部分kxk|k-1 与中的辅助观察相关联的 yk。身份证t 平方根滤波需要观测向量的正交化。[31] 这可以通过在Higham中使用方法2对辅助变量的协方差矩阵的平方根求逆来实现。 263)。[33]
卡尔曼滤波器可以表示为最简单的动态贝叶斯网络之一。卡尔曼滤波器使用输入的测量值和数学过程模型递归地计算状态随时间的真实值的估计值。类似地，递归贝叶斯估计使用输入测量值和数学过程模型随着时间递归地计算未知概率密度函数(PDF)的估计。[34]
在递归贝叶斯估计中，真实状态被假设为未观察到的马尔可夫过程，并且测量值是隐马尔可夫模型(HMM)的观察状态。
由于马尔可夫假设，真实状态与所有给定的前一状态有条件地独立。
同样，在 k-此时间步仅取决于当前状态，并且在给定当前状态的情况下，有条件地独立于所有其他状态。
利用这些假设，隐马尔可夫模型在所有状态下的概率分布可以简单地写成:
然而，当卡尔曼滤波器用于估计状态x时，感兴趣的概率分布是与当前状态相关联的概率分布，其条件是直到当前时间步长的测量。这是通过将先前的状态边缘化并除以测量集的概率来实现的。
这导致了 预测 和 更新 卡尔曼滤波的步骤用概率写成。与预测状态相关联的概率分布是与从(k − 第1步到 k-th和与先前状态相关联的概率分布 。
根据时间设置的测量 t 存在
更新的概率分布与测量可能性和预测状态的乘积成正比。
分母
是一个标准化术语。
其余的概率密度函数为
注意，前一时间步的概率密度函数被归纳为估计状态和协方差。这是合理的，因为作为一个最佳估计器，卡尔曼滤波器充分利用了测量值，因此 给定测量值 卡尔曼滤波估计。
与上述递归贝叶斯解释相关，卡尔曼滤波器可以被视为生成模型，即 发生 随机观测流z = (z0，z1，z2,...)中。具体来说，该过程是
注意，这个过程与隐马尔可夫模型具有相同的结构，除了离散状态和观测值被从高斯分布中采样的连续变量代替。
在某些应用中，计算 可能性 卡尔曼滤波器在给定的参数集(先验分布、过渡和观测模型以及控制输入)下会产生特定的观测信号。这种概率被称为边际似然，因为它对隐藏状态变量的值进行积分(“边际化”)，所以它可以仅使用观察到的信号来计算。边际似然可以用于评估不同的参数选择，或者使用贝叶斯模型比较将卡尔曼滤波器与其他模型进行比较。
作为递归滤波计算的副作用，计算边际似然是很简单的。通过链式法则，可能性可以被分解为给定先前观测的每个观测的概率的乘积，
,
由于卡尔曼滤波描述的是马尔可夫过程，所有来自先前观测的相关信息都包含在当前状态估计中 边际似然由下式给出
即高斯密度的乘积，每个对应于一个观测z的密度k 在当前滤波分布下 。这可以很容易地计算为简单的递归更新；然而，为了避免数值下溢，在实际实现中通常需要计算 原木 边际可能性 相反。通过公约 ，这可以通过递归更新规则来完成
其中， 是测量向量的维数。[35]
使用这种(对数)观测可能性(给定滤波器参数)的一个重要应用是多目标跟踪。例如，考虑一个对象跟踪场景，其中观察流是输入，但是不知道场景中有多少对象(或者，对象的数量是已知的，但大于一个)。在这种情况下，可能事先不知道哪个物体产生了哪些观察/测量结果。多假设跟踪器(MHT)通常将形成不同的跟踪关联假设，其中每个假设可以被视为卡尔曼滤波器(在线性高斯情况下)，具有与假设对象相关联的特定参数集。因此，计算所考虑的不同假设的观察可能性是很重要的，这样最有可能找到一个。
最佳固定滞后平滑器提供以下最佳估计 对于给定的固定滞后 使用来自 到 。[37] 它可以通过增广状态使用先前的理论导出，并且滤波器的主要方程如下:
其中:
其中， 和 预测误差协方差和标准卡尔曼滤波器的增益(即， )中。
如果估计误差协方差被定义为
那么我们有了对估计的改进 由下式给出:
固定间隔平滑器
最佳固定间隔平滑器提供以下最佳估计 （ )使用固定间隔的测量值 到 。这也被称为“卡尔曼平滑”。有几种常用的平滑算法。
Rauch–Tung–Striebel(RTS)平滑器是一种用于固定间隔平滑的有效双通道算法。[38]
正向通过与常规卡尔曼滤波算法相同。这些 过滤 先验和后验状态估计 , 和协方差 , 保存以备后移使用。
在反向过程中，我们计算 平滑 国家估计 和协方差 。我们从最后一个时间步开始，使用下列递归方程在时间上向后进行:
其中，
。
请注意 是时间步长的后验状态估计 和 是时间步的先验状态估计 。同样的符号也适用于协方差。
RTS算法的一个替代方案是比尔曼开发的修正的布赖森-弗雷泽(MBF)固定区间平滑器。[39] 这还使用了一个后向通道，用于处理卡尔曼滤波器前向通道中保存的数据。向后传递的方程包括递归 计算在每个观测时间用来计算平滑状态和协方差的数据。
递归方程是
其中， 残差协方差和 。平滑后的状态和协方差可以通过等式中的替换得到
或者
MBF的一个重要优点是它不需要找到协方差矩阵的逆阵。
最小方差平滑器可以获得尽可能好的误差性能，只要模型是线性的，它们的参数和噪声统计是精确已知的。[39] 这种平滑器是最优非因果维纳滤波器的时变状态空间推广。
更平滑的计算分两步进行。前向计算包括一步预测，由下式给出
上述系统被称为逆维纳-霍普夫因子。后向递归是上述前向系统的伴随。向后传球的结果 可以通过在时间反演上操作正向方程来计算 时间逆转了结果。在输出估计的情况下，平滑估计为
取最小方差平滑收益率的因果部分
这与最小方差卡尔曼滤波器相同。上述解决方案最小化了输出估计误差的方差。请注意，劳赫-东-斯特里贝尔平滑推导假设基础分布是高斯分布，而最小方差解不是。用于状态估计和输入估计的最佳平滑器可以类似地构造。
期望最大化算法可用于计算最小方差滤波器和平滑器中未知状态空间参数的近似最大似然估计。问题假设中经常存在不确定性。可以通过在Riccati方程中增加一个正定项来设计一个适应不确定性的平滑器。[42]
在模型是非线性的情况下，逐步线性化可以在最小方差滤波器和平滑递归(扩展卡尔曼滤波)内。
频率加权卡尔曼滤波器
弗莱彻和曼森在20世纪30年代进行了不同频率声音感知的开创性研究。他们的工作导致了在工业噪声和听力损失调查中对测量到的声级进行加权的标准方法。此后，频率权重被用于滤波器和控制器设计中，以管理感兴趣频带内的性能。
通常，频率整形函数用于加权指定频带中误差频谱密度的平均功率。让 表示传统卡尔曼滤波器表现出的输出估计误差。还有，让 表示因果频率加权传递函数。使方差最小化的最佳解决方案 通过简单的构造产生 。
的设计 仍然是一个悬而未决的问题。一种方法是识别产生估计误差和设置的系统 等于该系统的倒数。[43] 可以重复该过程，以增加滤波器阶数为代价来获得均方误差改进。同样的技术也可以应用于平滑器。
非线性滤波器
基本卡尔曼滤波器限于线性假设。然而，更复杂的系统可能是非线性的。非线性既可以与过程模型相关联，也可以与观察模型相关联，或者与两者都相关联。
在扩展卡尔曼滤波器(EKF)中，状态转移和观测模型不必是状态的线性函数，而是可以是非线性函数。这些函数是可微类型的。
功能 f 可用于根据先前的估计计算预测状态 h 可用于根据预测状态计算预测测量值。然而， f 和 h 不能直接应用于协方差。取而代之的是偏导数矩阵(雅可比矩阵)。
在每一个时间步，雅可比矩阵用当前预测的状态来评估。这些矩阵可用于卡尔曼滤波方程。这个过程基本上将当前估计值周围的非线性函数线性化。
当状态转换和观察模型——即预测和更新功能 和 —是高度非线性的，扩展卡尔曼滤波器会给出特别差的性能。[44] 这是因为协方差是通过基础非线性模型的线性化传播的。无味卡尔曼滤波器(UKF) [44] 使用确定性采样技术(unscented transformation，UT)在均值周围选取一组最小的采样点(sigma points)。西格玛点随后通过非线性函数传播，由此形成新的均值和协方差估计。最终的滤波器取决于如何计算输出的变换统计量，以及使用哪组σ点。应该指出的是，总是有可能以一致的方式构建新的英国金融机构。[45] 对于某些系统，得到的UKF更准确地估计了真实的均值和协方差。[46] 这可以用蒙特卡罗抽样或后验统计量的泰勒级数展开来验证。 此外，这种技术消除了显式计算雅可比矩阵的要求，而对于复杂函数来说，这本身可能是一项困难的任务(即，如果通过分析进行，则需要复杂的导数，如果通过数值进行，则计算成本高)，如果不是不可能的话(如果这些函数不是可微的)。
西格玛点
对于随机向量 σ点是任何一组向量
归因于
西格玛点数和权重的简单选择 在UKF算法中是
其中， 是的平均值 。向量 是 j第四栏 其中， 。矩阵 应该使用数值有效和稳定的方法来计算，例如Cholesky分解。平均值的权重， ，可以任意选择。
另一个流行的参数化(概括了上述内容)是
和 控制西格玛点的扩散。 与…的分布有关 。
合适的值取决于手头的问题，但典型的建议是 , ，和 。然而，更大的值 (例如， )可能是有益的，以便更好地捕捉分布的扩散和可能的非线性。[47] 如果 是高斯分布的， 是最理想的。[48]
预测
与EKF一样，UKF预测可以独立于UKF更新，与线性(或实际上EKF)更新结合使用，反之亦然。
给定均值和协方差的估计， 和 ，一个人获得 西格玛点，如上一节所述。西格玛点通过转换函数传播 f。
。
传播的σ点被加权以产生预测的平均值和协方差。
其中， 是原始西格玛点的一阶权重，并且 是二阶权重。矩阵 是过渡噪声的协方差， 。
更新
给定预测估计 和 ，一套新的 西格玛点 具有相应的一阶权重 和二阶权重 是经过计算的。[49] 这些西格玛点通过以下方式转换 。
。
然后计算变换点的经验均值和协方差。
其中， 是观测噪声的协方差矩阵， 。此外，还需要交叉协方差矩阵
其中， 未转换的西格玛点是从 和 。
卡尔曼增益为
更新后的均值和协方差估计为
卡尔曼-布奇滤波器
卡尔曼-布奇滤波器(以理查德·斯诺登·布奇的名字命名)是卡尔曼滤波器的连续时间版本。[50][51]
它基于状态空间模型
其中， 和 表示两个白噪声项的强度(或者更准确地说:功率谱密度-功率谱密度矩阵) 和 分别是。
滤波器由两个微分方程组成，一个用于状态估计，另一个用于协方差:
卡尔曼增益为
请注意，在以下表达式中 观测噪声的协方差 同时表示预测误差的协方差(或 创新) ；这些协方差只有在连续时间的情况下才相等。[52]
连续时间内不存在离散时间卡尔曼滤波的预测和更新步骤之间的区别。
协方差的第二个微分方程是Riccati方程的一个例子。
混合卡尔曼滤波器
大多数物理系统被表示为连续时间模型，而离散时间测量通常通过数字处理器进行状态估计。因此，系统模型和测量模型由
其中，
。
预测方程是从连续时间卡尔曼滤波器的方程导出的， 。预测状态和协方差分别通过求解一组微分方程来计算，该组微分方程的初始值等于前一步的估计值。
更新方程与离散时间卡尔曼滤波器的方程相同。
稀疏信号恢复的变体
传统的卡尔曼滤波器也被用于从噪声观测中恢复稀疏的、可能是动态的信号。近期研究[53][54][55] 利用压缩感知/采样理论中的概念，例如限制等距性质和相关的概率恢复参数，依次估计本质上低维系统中的稀疏状态。
应用程序
^Paul Zarchan; Howard Musoff (2000). Fundamentals of Kalman Filtering: A Practical Approach. American Institute of Aeronautics and Astronautics, Incorporated. ISBN 978-1-56347-455-2..
^Wolpert, Daniel; Ghahramani, Zoubin (2000). "Computational principles of movement neuroscience". Nature Neuroscience. 3: 1212–7. doi:10.1038/81497. PMID 11127840..
^Kalman, R. E. (1960). "A New Approach to Linear Filtering and Prediction Problems". Journal of Basic Engineering. 82: 35. doi:10.1115/1.3662552..
^Lauritzen, S. L. (December 1981). "Time series analysis in 1880. A discussion of contributions made by T.N. Thiele". International Statistical Review. 49 (3): 319–331. doi:10.2307/1402616. JSTOR 1402616. He derives a recursive procedure for estimating the regression component and predicting the Brownian motion. The procedure is now known as Kalman filtering..
^Lauritzen, S. L. (2002). Thiele: Pioneer in Statistics. New York: Oxford University Press. p. 41. ISBN 978-0-19-850972-1. He solves the problem of estimating the regression coefficients and predicting the values of the Brownian motion by the method of least squares and gives an elegant recursive procedure for carrying out the calculations. The procedure is nowadays known as Kalman filtering..
^Mohinder S. Grewal and Angus P. Andrews.
^Gaylor, David; Lightsey, E. Glenn (2003). "GPS/INS Kalman Filter Design for Spacecraft Operating in the Proximity of International Space Station". AIAA Guidance, Navigation, and Control Conference and Exhibit. doi:10.2514/6.2003-5445. ISBN 978-1-62410-090-1..
^Stratonovich, R. L. (1959). Optimum nonlinear systems which bring about a separation of a signal with constant parameters from noise. Radiofizika, 2:6, pp. 892–901..
^Stratonovich, R. L. (1959). On the theory of optimal non-linear filtering of random functions. Theory of Probability and Its Applications, 4, pp. 223–225..
^Stratonovich, R. L. (1960) Application of the Markov processes theory to optimal filtering. Radio Engineering and Electronic Physics, 5:11, pp. 1–19..
^Stratonovich, R. L. (1960). Conditional Markov Processes. Theory of Probability and Its Applications, 5, pp. 156–178..
^Stepanov, O. A. (15 May 2011). "Kalman filtering: Past and present. An outlook from Russia. (On the occasion of the 80th birthday of Rudolf Emil Kalman)". Gyroscopy and Navigation. 2 (2): 105. doi:10.1134/S2075108711020076..
^Ingvar Strid; Karl Walentin (April 2009). "Block Kalman Filtering for Large-Scale DSGE Models". Computational Economics. 33 (3): 277–304. CiteSeerX 10.1.1.232.3790. doi:10.1007/s10614-008-9160-4..
^Martin Møller Andreasen (2008). "Non-linear DSGE Models, The Central Difference Kalman Filter, and The Mean Shifted Particle Filter" (PDF)..
^Roweis, S; Ghahramani, Z (1999). "A unifying review of linear gaussian models" (PDF). Neural Computation. 11 (2): 305–45. doi:10.1162/089976699300016674. PMID 9950734..
^Hamilton, J. (1994), Time Series Analysis, Princeton University Press. Chapter 13, 'The Kalman Filter'.
^Ishihara, J.Y.; Terra, M.H.; Campos, J.C.T. (2006). "Robust Kalman Filter for Descriptor Systems". IEEE Transactions on Automatic Control. 51 (8): 1354. doi:10.1109/TAC.2006.878741..
^Terra, Marco H.; Cerri, Joao P.; Ishihara, Joao Y. (2014). "Optimal Robust Linear Quadratic Regulator for Systems Subject to Uncertainties". IEEE Transactions on Automatic Control. 59 (9): 2586–2591. doi:10.1109/TAC.2014.2309282..
^Kelly, Alonzo (1994). "A 3D state space formulation of a navigation Kalman filter for autonomous vehicles" (PDF). DTIC Document: 13. 2006 Corrected Version.
^Reid, Ian; Term, Hilary. "Estimation II" (PDF). www.robots.ox.ac.uk. Oxford University. Retrieved 6 August 2014..
^Rajamani, Murali (October 2007). Data-based Techniques to Improve State Estimation in Model Predictive Control (PDF) (PhD Thesis). University of Wisconsin–Madison..
^Rajamani, Murali R.; Rawlings, James B. (2009). "Estimation of the disturbance structure from data using semidefinite programming and optimal weighting". Automatica. 45 (1): 142–148. doi:10.1016/j.automatica.2008.05.032..
^"Autocovariance Least-Squares Toolbox". Jbrwww.che.wisc.edu. Retrieved 2014-06-02..
^Three optimality tests with numerical examples are described in Peter, Matisko (2012). "Optimality Tests and Adaptive Kalman Filter". 16th IFAC Symposium on System Identification. Ifac Proceedings Volumes. 16th IFAC Symposium on System Identification. 45. pp. 1523–1528. doi:10.3182/20120711-3-BE-2027.00011. ISBN 978-3-902823-06-9..
^Spall, James C. (1995). "The Kantorovich inequality for error analysis of the Kalman filter with unknown noise distributions". Automatica. 31 (10): 1513–1517. doi:10.1016/0005-1098(95)00069-9..
^Maryak, J.L.; Spall, J.C.; Heydon, B.D. (2004). "Use of the Kalman Filter for Inference in State-Space Models with Unknown Noise Distributions". IEEE Transactions on Automatic Control. 49: 87–90. doi:10.1109/TAC.2003.821415..
^Walrand, Jean; Dimakis, Antonis (August 2006). Random processes in Systems -- Lecture Notes (PDF). pp. 69–70..
^Anderson, Brian D. O.; Moore, John B. (1979). Optimal Filtering. New York: Prentice Hall. pp. 129–133. ISBN 978-0-13-638122-8..
^Jingyang Lu. "False information injection attack on dynamic state estimation in multi-sensor systems", Fusion 2014.
^Thornton, Catherine L. (15 October 1976). "Triangular Covariance Factorizations for Kalman Filtering" (PDF). (PhD thesis). NASA. NASA Technical Memorandum 33-798..
^Bar-Shalom, Yaakov; Li, X. Rong; Kirubarajan, Thiagalingam (July 2001). Estimation with Applications to Tracking and Navigation. New York: John Wiley & Sons. pp. 308–317. ISBN 978-0-471-41655-5..
^Golub, Gene H.; Van Loan, Charles F. (1996). Matrix Computations. Johns Hopkins Studies in the Mathematical Sciences (Third ed.). Baltimore, Maryland: Johns Hopkins University. p. 139. ISBN 978-0-8018-5414-9..
^Higham, Nicholas J. (2002). Accuracy and Stability of Numerical Algorithms (Second ed.). Philadelphia, PA: Society for Industrial and Applied Mathematics. p. 680. ISBN 978-0-89871-521-7..
^Masreliez, C. Johan; Martin, R D (1977). "Robust Bayesian estimation for the linear model and robustifying the Kalman filter". IEEE Transactions on Automatic Control. 22 (3): 361–371. doi:10.1109/TAC.1977.1101538..
^Lütkepohl, Helmut (1991). Introduction to Multiple Time Series Analysis. Heidelberg: Springer-Verlag Berlin. p. 435..
^Gabriel T. Terejanu (2012-08-04). "Discrete Kalman Filter Tutorial" (PDF). Retrieved 2016-04-13..
^Anderson, Brian D. O.; Moore, John B. (1979). Optimal Filtering. Englewood Cliffs, NJ: Prentice Hall, Inc. pp. 176–190. ISBN 978-0-13-638122-8..
^Rauch, H.E.; Tung, F.; Striebel, C. T. (August 1965). "Maximum likelihood estimates of linear dynamic systems". AIAA Journal. 3 (8): 1445–1450. Bibcode:1965AIAAJ...3.1445.. doi:10.2514/3.3166..
^Bierman, G.J. (1977). "Factorization Methods for Discrete Sequential Estimation". Factorization Methods for Discrete Sequential Estimation. Bibcode:1977fmds.book.....B..
^Einicke, G.A. (April 2007). "Asymptotic Optimality of the Minimum-Variance Fixed-Interval Smoother". IEEE Trans. Signal Process. 55 (4): 1543–1547. Bibcode:2007ITSP...55.1543E. doi:10.1109/TSP.2006.889402..
^Einicke, G.A.; Ralston, J.C.; Hargrave, C.O.; Reid, D.C.; Hainsworth, D.W. (December 2008). "Longwall Mining Automation. An Application of Minimum-Variance Smoothing". IEEE Control Systems Magazine. 28 (6): 28–37. doi:10.1109/MCS.2008.929281..
^Einicke, G.A. (December 2009). "Asymptotic Optimality of the Minimum-Variance Fixed-Interval Smoother". IEEE Transactions on Automatic Control. 54 (12): 2904–2908. Bibcode:2007ITSP...55.1543E. doi:10.1109/TSP.2006.889402..
^Einicke, G.A. (December 2014). "Iterative Frequency-Weighted Filtering and Smoothing Procedures". IEEE Signal Processing Letters. 21 (12): 1467–1470. Bibcode:2014ISPL...21.1467E. doi:10.1109/LSP.2014.2341641..
^Julier, Simon J.; Uhlmann, Jeffrey K. (1997). "A new extension of the Kalman filter to nonlinear systems" (PDF). Int. Symp. Aerospace/Defense Sensing, Simul. And Controls. Signal Processing, Sensor Fusion, and Target Recognition VI. 3: 182. Bibcode:1997SPIE.3068..182J. CiteSeerX 10.1.1.5.2891. doi:10.1117/12.280797. Retrieved 2008-05-03..
^Menegaz, H. M. T.; Ishihara, J. Y.; Borges, G. A.; Vargas, A. N. (October 2015). "A Systematization of the Unscented Kalman Filter Theory". IEEE Transactions on Automatic Control. 60 (10): 2583–2598. doi:10.1109/tac.2015.2404511. hdl:20.500.11824/251. ISSN 0018-9286..
^Gustafsson, Fredrik; Hendeby, Gustaf (2012). "Some Relations Between Extended and Unscented Kalman Filters". IEEE Transactions on Signal Processing. 60 (2): 545–555. Bibcode:2012ITSP...60..545G. doi:10.1109/tsp.2011.2172431..
^The UKF exposed: How it works, when it works and when it’s better to sample. (2016)．DOI：10.5281/zenodo.44386．.
^Wan, E.A.; Van Der Merwe, R. (2000). "The unscented Kalman filter for nonlinear estimation" (PDF). Proceedings of the IEEE 2000 Adaptive Systems for Signal Processing, Communications, and Control Symposium (Cat. No.00EX373). p. 153. CiteSeerX 10.1.1.361.9373. doi:10.1109/ASSPCC.2000.882463. ISBN 978-0-7803-5800-3..
^Sarkka, Simo (September 2007). "On Unscented Kalman Filtering for State Estimation of Continuous-Time Nonlinear Systems". IEEE Transactions on Automatic Control. 52 (9): 1631–1641. doi:10.1109/TAC.2007.904453..
^Bucy, R.S. and Joseph, P.D., Filtering for Stochastic Processes with Applications to Guidance, John Wiley & Sons, 1968; 2nd Edition, AMS Chelsea Publ., 2005. ISBN 0-8218-3782-6.
^Jazwinski, Andrew H., Stochastic processes and filtering theory, Academic Press, New York, 1970. ISBN 0-12-381550-9.
^Kailath, T. (1968). "An innovations approach to least-squares estimation--Part I: Linear filtering in additive white noise". IEEE Transactions on Automatic Control. 13 (6): 646–655. doi:10.1109/TAC.1968.1099025..
^Vaswani, Namrata (2008). "Kalman filtered Compressed Sensing". 2008 15th IEEE International Conference on Image Processing. pp. 893–896. arXiv:0804.0819. doi:10.1109/ICIP.2008.4711899. ISBN 978-1-4244-1765-0..
^Carmi, Avishy; Gurfil, Pini; Kanevsky, Dimitri (2010). "Methods for sparse signal recovery using Kalman filtering with embedded pseudo-measurement norms and quasi-norms". IEEE Transactions on Signal Processing. 58 (4): 2405–2409. Bibcode:2010ITSP...58.2405C. doi:10.1109/TSP.2009.2038959..
^Zachariah, Dave; Chatterjee, Saikat; Jansson, Magnus (2012). "Dynamic Iterative Pursuit". IEEE Transactions on Signal Processing. 60 (9): 4967–4972. arXiv:1206.2496. Bibcode:2012ITSP...60.4967Z. doi:10.1109/TSP.2012.2203813..
^Vasebi, Amir; Partovibakhsh, Maral; Bathaee, S. Mohammad Taghi (2007). "A novel combined battery model for state-of-charge estimation in lead-acid batteries based on extended Kalman filter for hybrid electric vehicle applications". Journal of Power Sources. 174 (1): 30–40. Bibcode:2007JPS...174...30V. doi:10.1016/j.jpowsour.2007.04.011..
^Vasebi, A.; Bathaee, S.M.T.; Partovibakhsh, M. (2008). "Predicting state of charge of lead-acid batteries for hybrid electric vehicles by extended Kalman filter". Energy Conversion and Management. 49: 75–82. doi:10.1016/j.enconman.2007.05.017..
^Fruhwirth, R. (1987). "Application of Kalman filtering to track and vertex fitting". Nucl. Instrum. Methods. A262 (2–3): 444–450. Bibcode:1987NIMPA.262..444F. doi:10.1016/0168-9002(87)90887-4..
^Harvey, Andrew C. (1994). "Applications of the Kalman filter in econometrics". In Bewley, Truman. Advances in Econometrics. New York: Cambridge University Press. pp. 285f. ISBN 978-0-521-46726-1..
^Boulfelfel, D.; Rangayyan, R.M.; Hahn, L.J.; Kloiber, R.; Kuduvalli, G.R. (1994). "Two-dimensional restoration of single photon emission computed tomography images using the Kalman filter". IEEE Transactions on Medical Imaging. 13 (1): 102–109. doi:10.1109/42.276148. PMID 18218487..
^Bock, Y.; Crowell, B.; Webb, F.; Kedar, S.; Clayton, R.; Miyahara, B. (2008). "Fusion of High-Rate GPS and Seismic Data: Applications to Early Warning Systems for Mitigation of Geological Hazards". American Geophysical Union. 43: G43B–01. Bibcode:2008AGUFM.G43B..01B..
^Wolpert, D. M.; Miall, R. C. (1996). "Forward Models for Physiological Motor Control". Neural Netw. 9 (8): 1265–1279. doi:10.1016/S0893-6080(96)00035-4. PMID 12662535..
暂无