由贝叶斯理解卡尔曼滤波器
卡尔曼滤波是一种用于状态估计的强大工具,其重要性在于可以通过利用先前的信息和测量数据来估计系统的未知状态,并预测未来状态。其内在联系与贝叶斯定理密切相关。
贝叶斯定理描述了在观测到新数据后如何更新对事件概率的信念。它指导我们在已知先验信息的情况下,通过考虑新的观测数据来更新我们对事件的信念。
现有文献中更侧重于从MSE最小化的角度理解卡尔曼滤波器,而本推送将尝试由贝叶斯意义对卡尔曼滤波器进行推导,从而给出卡尔曼滤波器的贝叶斯理解。
贝叶斯状态估计的问题描述
对离散时间状态空间模型进行符号设定,并推导贝叶斯状态估计方法。时间时刻目标的状态,记作,描述了目标的所有动态,比如位置、速度等。这个状态随时间通过一个隐藏的马尔可夫过程演变,定义为:
其中是目标状态的维度,是描述目标从到的马尔可夫函数,是与目标状态的噪声。将隐含目标状态的传感器观测记作,通过观测模型获得,表达为:
其中是观测向量的维度,是观测函数,是观测噪声。目标状态和测量的集合分别表示为*和*。该状态空间模型在图1中有图示表示,系统在时间的隐含时变状态可以通过观测模型观察为推理得到。
贝叶斯状态估计的目的是使用所有可用的观测值来估计隐藏目标状态随时间的变化,例如
从概率意义上来说,我们的目标是获得概率密度函数:
贝叶斯滤波
引理1(贝叶斯滤波):如果已有时间的概率密度函数,则时间 的概率密度函数由下式给出
证明:
在贝叶斯意义上,状态空间估计(也称为滤波)同样有两部分:预测和更新。如果可用,则该二次估计被描述为(贝叶斯重要公式1)
首先,由时刻的后验→时刻的预测(贝叶斯重要公式2):
(1):.
(2):与之前的观测值均无关
然后,由时刻的预测→更新时刻的后验(贝叶斯重要公式3)
(1):贝叶斯公式.
(2):.
(3):对使用贝叶斯公式.
(4):与之前的观测值均无关.
(5):忽略归一化常数,被忽略的分母表示为:.
证毕。
“物理意义:
如果已知时刻的后验概率密度函数,那么时刻的后验概率密度函数可计算得到:
.
.
当状态从时刻移动到时刻,使用状态转移概率密度函数预测时间处的一个假设目标状态,然后对先前的目标状态进行积分。一旦预测可用,再通过测量概率密度函数计算预测假设与实际目标状态接近的程度,并在其中进行必要的假设修正。这种顺序的双重估计构成了贝叶斯滤波过程的基础。
”
一旦更新的概率密度函数可用,就可以使用
预期后验 (EAP)或最大后验概率 (MAP)来估计目标状态:
EAP:
MAP:
卡尔曼滤波
卡尔曼滤波由两个部分组成:预测和更新
线性高斯状态空间模型描述为
为状态转移矩阵,为控制矩阵,为状态转移噪声,假设为协方差为的高斯白噪声。为观测矩阵为观测噪声,假设为协方差为的高斯白噪声。假设噪声向量是独立且同分布的。
由于在卡尔曼滤波器中采用高斯状态空间模型,那么贝叶斯重要公式1可直接写成高斯分布的形式:
代表均值,代表方差,并进行如下的符号简化表示:.
结合引理1:如果 处的后验已知,意味着期望 和协方差 估计值已知,则足以计算预测和更新的均值和协方差。
“概率密度函数已知,并且分布形式为高斯分布,那么期望和协方差可直接得出。
”
引理2(卡尔曼滤波器预测):如果在时间 时协方差 和期望 已知,则预测协方差和期望由下式给出
证明:
预测期望:
(1),(2):由期望的性质可解.
(3):状态转移噪声为均值为0的高斯白噪声,所以与无关
(4):状态转移噪声为均值为0的高斯白噪声,所以均值.
预测方差:
(1),(2):由方差的性质可解.
(3):状态转移噪声为均值为0的高斯白噪声,所以与无关
(4):状态转移噪声为均值为0的高斯白噪声,。
证毕。
引理3(卡尔曼滤波器更新):
如果在时间 预测的协方差 和期望 已知,则更新的协方差 和期望 由下式给出
证明:
更新步骤由(贝叶斯重要公式3)得出,可表示为
上式展开为概率密度函数的形式:
那么可表示为:
“在上述推导过程中, 不含项的常数项被合并为某个常数表示。
”
接下来按照定义式直接写出:
对比由(贝叶斯重要公式3)得出的和按照定义式直接写出,根据对应项系数相等即可得出
证毕。
虽然由MSE最小化角度推导得到的卡尔曼滤波器的理论已经足够完善,并且可直接应用于科研过程,但贝叶斯解释卡尔曼滤波器在现实中具有重要的意义,主要体现在以下几个方面:
不确定性建模: 贝叶斯解释使卡尔曼滤波器能够处理不确定性。卡尔曼滤波器考虑了系统的动态模型(状态转移方程)和观测模型(观测方程),并利用贝叶斯推断的思想,将先验信息和新的观测数据结合起来,通过概率分布对系统状态进行建模,从而考虑了系统状态的不确定性。 优化状态估计: 贝叶斯解释下的卡尔曼滤波器提供了一种优化状态估计的框架。通过预测步骤和更新步骤,不断地利用先前的状态估计和新的观测数据,以最优化的方式估计系统的状态。这种优化状态估计对于许多现实场景如导航、目标跟踪、机器人控制等具有重要意义。 实时应用和递归性质: 贝叶斯解释的卡尔曼滤波器具有递归性质,即每次新的观测到达时都可以更新状态估计,从而实现实时的状态估计和预测。这对于需要实时响应和迭代更新的应用领域尤其重要,比如导航系统、飞行器控制、无人车辆等。