§1.4 协方差传播律

官方工学老师·21 页·深入(追求细节与边界)·0 次浏览·2 天前
误差传递测量精度非线性函数矩阵推导

协方差传播律

搞懂从输入协方差到输出协方差的完整推导与适用边界

按 空格/→ 演示下一步

1 / 21 页

全部页面点击任意一页,跳回舞台从这页播放

误差传递测量精度非线性函数矩阵推导

协方差传播律

搞懂从输入协方差到输出协方差的完整推导与适用边界

1第 1 页 · 协方差传播律

协方差的概念

上一页揭示了方差在加减运算中会因变量间的协同关系而变化。要说清这个'协同关系'是什么,得回到一个更基础的概念——协方差。

定义
两变量各自偏离均值后乘积的期望,衡量共同偏离的方向与程度
符号含义
正:同向偏离;负:反向偏离;零:无线性协同关系
与方差的关系
方差是变量与自身的协方差,是协方差的特例
量纲依赖
数值受单位影响,无法直接跨量纲比较大小
两人齐步走对应 →协方差

步调一致为正,默契越强值越大;反向走为负;各走各的接近 0

Cov(X,Y)=E[(XμX)(YμY)]=1ni(xixˉ)(yiyˉ)\text{Cov}(X,Y)=E[(X-\mu_X)(Y-\mu_Y)]=\frac{1}{n}\sum_{i}(x_i-\bar{x})(y_i-\bar{y})
2第 2 页 · 协方差的概念

协方差矩阵

上一节我们学了协方差——它能描述两个变量之间的「共舞关系」。但实际问题中往往有多个变量同时出现,比如机器人的位置、速度、姿态……这时候得把所有的两两关系组织起来。

矩阵定义
把 n 个变量的两两协方差,按行列排成 n×n 的方阵
对角线
各分量自身的方差——变量与自身的「协方差」
非对角线
不同分量两两之间的协方差
对称性
C[i][j]=C[j][i],交换变量协方差不变
班级 n 人两两默契评分表对应 →n 维协方差矩阵

行列都是同学,对角线自评代表方差,非对角线互评代表协方差

C=[σ12σ12σ1nσ21σ22σ2nσn1σn2σn2]\mathbf{C}=\begin{bmatrix}\sigma_1^2&\sigma_{12}&\cdots&\sigma_{1n}\\\sigma_{21}&\sigma_2^2&\cdots&\sigma_{2n}\\\vdots&\vdots&\ddots&\vdots\\\sigma_{n1}&\sigma_{n2}&\cdots&\sigma_n^2\end{bmatrix}
3第 3 页 · 协方差矩阵

相关系数

上一页协方差矩阵里的数值会随单位改变:把“元”换成“千元”,协方差就缩小 1000 倍。若只想比较两个变量是否同涨同落,应先消除各自尺度。

标准化协方差
分别用 X、Y 的标准差缩放协方差,得到无量纲的 r。
方向与强弱
r 越接近 ±1,线性关系越强;正负表示同向或反向。
端点与零点
r=±1 表示严格线性关系;r=0 不含线性信息,也不代表独立。
两人走路的同步性对应 →相关系数

同向同拍接近 1,反向同拍接近 −1,动作大小不参与比较。

rXY=Cov(X,Y)σXσY,rXY[1,1]r_{XY}=\frac{\operatorname{Cov}(X,Y)}{\sigma_X\sigma_Y},\quad r_{XY}\in[-1,1]
4第 4 页 · 相关系数

协方差矩阵的结构

从矩阵结构出发:先看对称性,再区分对角线与非对角线各自的含义。

图解渲染中…
d1对角线是方差 σ²_i,不是相关系数r1ρ_ij = σ_ij/(σ_i·σ_j),R 是 Σ 标准化后的产物
5第 5 页 · 协方差矩阵的结构

什么是协方差传播律

前页我们看到协方差矩阵刻画了多变量之间的不确定性结构。实际测量里,我们真正关心的往往是 X 经函数变换后的 Y,比如测了长宽要算面积。那么 Y 的不确定性是怎么从 X 传过来的?

核心问题
Y = f(X) 时,Y 的协方差如何由 X 的协方差和函数 f 共同决定
线性情形
若 Y = AX + b,则 D(Y) = A·D(X)·Aᵀ,存在闭合公式
非线性情形
用一阶 Taylor 展开近似线性化,得 D(Y) ≈ J·D(X)·Jᵀ
二阶量的传播
协方差是二阶矩,传播律天然带 A·Σ·Aᵀ 结构,而非 A·Σ
相关性的影响
X 分量独立时交叉项消失,公式退化为各通道方差加权
水流通过管网对应 →协方差传播律

扰动从上游向下游传播;下游方差等于上游扰动按管径加权后两两交叉叠加,正对应 A·Σ·Aᵀ

DY=ADXAT(线性情形)D_Y = A\,D_X\,A^T \quad\text{(线性情形)}
6第 6 页 · 什么是协方差传播律

传播律的推导路径

从协方差矩阵定义出发,沿线性变换逐步推导,最终得到矩阵形式的传播律。

1
定义协方差矩阵
写出 Σ_X = E[(X-μ)(X-μ)^T] 的矩阵定义形式
2
设定线性变换
设 Y = AX + b,由期望线性性得 μ_Y = Aμ_X + b
3
化简偏差向量
Y - μ_Y = A(X - μ_X),把问题归到零均值情形
4
代入并提取矩阵
把偏差代入定义,矩阵A与A^T提到期望外侧
5
得到传播律
由期望线性性,最终 Σ_Y = A Σ_X A^T
7第 7 页 · 传播律的推导路径

一维线性函数

实验时仪器读数 X 有方差 σ²,反映测量波动幅度。把读数乘灵敏度系数 k、再加零点偏移 c,得到真实值 Y = kX + c。Y 的方差是多少?这是最简情形的传播律问题,也是后面多维推广的起点。

一维线性变换
Y = kX + c,k 是斜率(放大倍数),c 是常数平移量
常数 c 不影响方差
c 只把整体平移,波动幅度没变,所以 D(Y) 中不含 c
传播公式
D(Y) = k² · D(X),方差被线性变换放大 k² 倍
k² 的来源
Y − EY = k(X − EX),代入方差定义,平方后 k² 自然出现
温度计摄氏转华氏对应 →Y = kX + c 方差传播

32° 是平移不影响波动,1.8 倍放大温差幅度,方差变 1.8² ≈ 3.24 倍

Y=kX+c,D(Y)=k2D(X)Y = kX + c,\quad D(Y) = k^{2}\,D(X)
8第 8 页 · 一维线性函数

一维线性传播的推导

把一维线性函数 Y=aX+b 代入方差定义,一步步推出 D(Y)=a²D(X)。

1
写出线性关系
设 Y = aX + b,其中 a、b 是常数
2
求 Y 的期望
由期望线性性得 E[Y] = aE[X] + b
3
代入方差定义
D(Y) = E[(Y − E[Y])²],把上一步代入
4
展开并化简
b 全部抵消,只剩 a²E[(X − E[X])²]
5
得到传播律
D(Y) = a²D(X),常数 b 不影响方差
9第 9 页 · 一维线性传播的推导

多维线性函数矩阵形式

一维时 Y = aX + b,结论是 Var(Y) = a²Var(X),方差被系数平方缩放。当 X、Y 都升级成向量、a 升级成矩阵 A 时,这个「平方缩放」会变成什么矩阵运算?

函数升维:Y = AX + B
X 是 n 维随机向量,A 是 m×n 常数矩阵,B 是 m 维常数向量
传播公式
Cov(Y) = A·Cov(X)·Aᵀ,左侧乘 A、右侧乘 Aᵀ,双侧夹住原协方差
两侧必乘的根据
A 把 X 的概率椭球拉伸旋转成 Y 的椭球,协方差作为形状描述符必须跟着变
维数自检
n 维 X 经 m×n 矩阵 A 得 m 维 Y,结果 m×m 协方差,维数天然对齐
双手挤压的黏土椭球对应 →协方差传播 A·Cov(X)·Aᵀ

黏土形状=数据协方差分布,两手=公式两侧的乘子 A、Aᵀ,挤压动作=线性变换,结果=变形后的新椭球

Cov(Y)=ACov(X)ATCov(Y) = A \, Cov(X) \, A^{T}
10第 10 页 · 多维线性函数矩阵形式

矩阵传播的几何解释

从左到右:单位球→P拉伸成椭球→F再变换;右下两框揭示变换的几何本质是旋转+伸缩。

图解渲染中…
a1等概率球面,协方差为单位阵时的初始形态c1输出误差椭球,公式即协方差传播律FPFᵀd1主轴方向改变:原主轴被F旋转到新方向d2主轴长度改变:新轴长=√λ,λ是FPFᵀ特征值
11第 11 页 · 矩阵传播的几何解释

多维线性传播的推导

把一维推导抬到多维,沿矩阵形式一步步推出 Cov(Y) = AΣAᵀ。

1
设定问题
设 Y = AX + b,X 的均值为 μ、协方差矩阵为 Σ_X
2
求期望向量
由期望的线性性质,E[Y] = Aμ + b
3
构造离差
Y − E[Y] = A(X − μ),常数 b 自动被消去
4
代入定义
Cov(Y) = E[(Y−E[Y])(Y−E[Y])ᵀ]
5
得到传播律
展开后中间项即 Σ_X,故 Cov(Y) = AΣ_X Aᵀ
12第 12 页 · 多维线性传播的推导

非线性问题的出现

前页推导的传播律要求 Y = AX + b——严格的线性关系。但测绘中真正关心的量,大多不是线性的:三角高程含 tan、坐标转换含 sin cos,连两点距离都是开方。面对这些'弯'函数,传播律还能用吗?

线性传播的适用前提
函数必须严格满足 Y = AX + b,系数不随 X 变化
三角高程
h = D·tan(α) + i − v,含正切函数,对观测值非线性
坐标转换
含 sin/cos 的旋转矩阵,把 (x,y) 转到新坐标系,本质非线性
距离与方位角
D = √((Δx)²+(Δy)²) 含开方,对坐标是非线性
核心疑问
非线性函数下,协方差还能像线性那样传播吗?
直线轨道上匀速运行的列车对应 →山区弯道上变速运行的列车

直线匀速,位置=Vt 直接算(线性);山区变速,不能简单用 Vt 算(非线性)

h=Dtanα+ivh = D\tan\alpha + i - v
13第 13 页 · 非线性问题的出现

泰勒展开线性化

非线性函数没法直接套传播律,得先在观测值附近把它"掰直"——这就是泰勒一阶展开。

1
写出非线性函数
明确 y=f(x) 的形式,区分自变量与因变量
2
选定展开点
取观测值 x₀,真值未知只能在此处近似
3
求 Jacobian
对各分量求偏导,得 J=∂f/∂x 在 x₀ 处
4
写出线性近似
f(x)≈f(x₀)+J·Δx,丢掉高阶项
5
代入传播律
把 J 视作系数 A,套入 D_y=J·D_x·Jᵀ
14第 14 页 · 泰勒展开线性化

线性化后的传播公式

沿箭头从左到右读:非线性函数经线性化得到增量式,系数即权系数阵 A。

图解渲染中…
a5A 即偏导数矩阵,多元时为雅可比阵a4Δy≈A·Δx 是线性化核心近似式a6最终传播公式 D_y=A·D_x·Aᵀ
15第 15 页 · 线性化后的传播公式

精度评定指标

上一页推到了传播律终点——输出量协方差阵 D_Y = K D_X K^T。可工程师口头引用的是「点位中误差 ±5mm」,不是整张矩阵。矩阵对角线、非对角线各代表什么精度含义?这页拆开看。

传播律的产出
线性化后传播律直接给出 Y 的完整协方差阵 D_Y,全表信息一次到位
中误差 σ
分量方差开根号 σᵢ=√Dᵢᵢ,工程上最常引用的「±几毫米」就是它
协方差与相关系数
非对角线 Dᵢⱼ 或 ρᵢⱼ=Dᵢⱼ/(σᵢσⱼ),描述两分量间的耦合程度
点位综合精度
σ_P²=σ_x²+σ_y²+2σ_xy,多维位置的总不确定度(含耦合项)
GPS 卫星几何同时拉偏 x、y对应 →协方差项的物理来源

对角线=各方向独立晃动;非对角线=两方向一起晃的同步程度

DY=KDXKTσi=DiiD_Y = K D_X K^T\quad\Rightarrow\quad \sigma_i = \sqrt{D_{ii}}
16第 16 页 · 精度评定指标

典型应用实例

python

极坐标变换实例:演示非线性函数如何用雅可比矩阵传播协方差。

代码高亮加载中…

非线性函数先泰勒展开得雅可比 J,代入 Σ_out = J·Σ_in·Jᵀ 即得输出精度。

17第 17 页 · 典型应用实例

线性vs非线性对比

线性传播可精确平移协方差;非线性传播通常依赖局部线性化,二阶项被忽略,二者不能混同。

线性问题
  • 模型:Y=aX+b,仅含线性项与常数项
  • 公式:C_Y=aC_Xaᵀ,b不改变协方差
  • 几何:协方差椭球经矩阵变换后仍为椭球
  • 结论:在模型定义域内全局精确,无截断误差
非线性问题
  • 模型:Y=f(X),完整分布通常无闭式传递
  • 近似:J为f对X的雅可比,Ĉ_Y=JC_XJᵀ
  • 误差:二阶及高阶矩效应被截断
  • 结论:仅在局部小扰动下可靠,强非线性需数值法
模型为仿射函数时使用精确传播;否则仅作局部一阶近似,扰动较大或弯曲明显时必须改用数值方法。
18第 18 页 · 线性vs非线性对比

知识要点回顾

  • 传播律把输入的不确定性沿函数关系映射到输出
  • 线性情形核心公式:D_Y = A·D_X·Aᵀ
  • 非线性靠泰勒一阶展开化为线性问题
  • 主要应用是精度评定与误差分析
  • 高阶项量级决定线性近似是否成立
延伸主题:最小二乘平差中的精度评定逆传播与信息矩阵非高斯分布的不确定性传播
19第 19 页 · 知识要点回顾

自测检验

点击作答

已知随机向量 X 经线性变换 Y = AX + b(A 为常矩阵),协方差传播律的正确形式是?

20第 20 页 · 自测检验

深入思考

先独立想,再对照参考答案——好问题比好答案更值钱。

1协方差传播律本质上在描述什么?它把'误差会传递'的直觉变成了怎样的数学语言?

参考答案随机变量经线性(或线性化)变换时,二阶矩按 Σ_y = JΣ_xJᵀ 演化;雅可比矩阵把'输入微小变化对输出的灵敏度'精确编码为传播权重。

2在你熟悉的测量场景(如三边定位、前方交会)中,协方差传播律如何帮你定位'最弱观测方向'?

参考答案对结果协方差阵做特征值分解,最大特征值方向就是误差椭球的最长轴——即精度最薄弱的方向,可据此调整观测权重或补测。

3线性化后的传播公式 Σ_y = JΣ_xJᵀ 在什么条件下会显著偏离真实误差分布?请举例说明。

参考答案函数强非线性或输入误差较大时,一阶泰勒截断丢失高阶项,椭球假设不再成立;误差可能偏斜甚至多模态,需用蒙特卡洛或无迹变换验证。

21第 21 页 · 深入思考