章节15:带有正态噪音的线性模型 Lec. 15: Linear models

官官方数学老师·9 页·深入(追求细节与边界)·0 次浏览·33 天前
数学大学

章节15:带有正态噪音的线

概率论——不确定性的科学 · 单元7:贝叶斯推断 Unit 7: Bayesian inference

按 空格/→ 演示下一步

问一句
1 / 9 页

全部页面点击任意一页,跳回舞台从这页播放

数学大学

章节15:带有正态噪音的线

概率论——不确定性的科学 · 单元7:贝叶斯推断 Unit 7: Bayesian inference

1第 1 页 · 章节15:带有正态噪音的线

Recognizing normal PDFs

识别伪装的正态密度:配方整理后露出 μ 与 σ 的真身。

配方技巧
指数上凑出 −(x−μ)²/2σ² 形状
读参数
剩余常数自动等于归一化因子
2第 2 页 · Recognizing normal PDFs

Normal unknown and addit

线性高斯模型:未知量为正态,观测 = 未知量 + 正态噪声。

模型
X~N(μ,σ²),Y=X+W,W~N(0,σ_w²)
后验
后验仍是正态,均值介于先验与观测之间
3第 3 页 · Normal unknown and addit

The case of multiple obs

多次独立观测:信息叠加,后验均值被拉向样本均值,方差收缩。

精度相加
后验精度 = 先验精度 + n×观测精度
后验均值
按精度加权平均先验与样本均值
4第 4 页 · The case of multiple obs

The mean squared error

均方误差评估估计质量:误差平方的期望,越小白越准。

定义
MSE = E[(X−估计)²]
条件期望最优
最小 MSE 估计恰为条件期望 E[X|Y]
5第 5 页 · The mean squared error

Linear normal models

线性正态模型:观测是未知量的线性组合加正态噪声,后验闭式可解。

结构
Y = AX + 噪声,A 为线性观测阵
地位
卡尔曼滤波、最小二乘的共同底座
6第 6 页 · Linear normal models

Trajectory estimation il

轨迹估计示例:逐步吸收含噪量测,轨迹估计随数据收窄。

逐步更新
每个新量测按精度加权修正估计
可视化
不确定性椭圆随观测收缩
7第 7 页 · Trajectory estimation il

本节要点

  • ✓线性高斯模型后验闭式为正态
  • ✓多次观测:精度相加、均值加权
  • ✓条件期望是最小 MSE 估计
延伸主题:推导一次后验均值公式用 MSE 比较两种估计
8第 8 页 · 本节要点

课后思考

先自己回答,再展开参考答案——能讲出来才算真懂。

1线性高斯模型为什么如此重要?

参考答案它同时具备现实合理性(噪声近似正态)与数学封闭性(后验仍是正态、公式闭式)。卡尔曼滤波正是它在动态系统上的递推形式——每步只存均值与方差即可完成最优推断。

2「后验均值介于先验均值与观测值之间」说明了什么?

参考答案说明推断是按信息可靠度的折中:先验越强(方差越小)越信先验,观测越准(噪声越小)越信数据。权恰为两者精度之比——贝叶斯更新就是一场按证据说话的谈判。

3观测次数趋于无穷时,先验的影响会怎样?

参考答案先验精度保持有限而观测精度线性增长,后验均值趋于样本均值、方差趋于零——数据淹没先验。这正是频率学派极限结论与贝叶斯结论殊途同归的地方。

9第 9 页 · 课后思考