章节15:带有正态噪音的线性模型 Lec. 15: Linear models
数学大学
章节15:带有正态噪音的线
概率论——不确定性的科学 · 单元7:贝叶斯推断 Unit 7: Bayesian inference
按 空格/→ 演示下一步
全部页面点击任意一页,跳回舞台从这页播放
数学大学
章节15:带有正态噪音的线
概率论——不确定性的科学 · 单元7:贝叶斯推断 Unit 7: Bayesian inference
Recognizing normal PDFs
识别伪装的正态密度:配方整理后露出 μ 与 σ 的真身。
配方技巧
指数上凑出 −(x−μ)²/2σ² 形状
读参数
剩余常数自动等于归一化因子
Normal unknown and addit
线性高斯模型:未知量为正态,观测 = 未知量 + 正态噪声。
模型
X~N(μ,σ²),Y=X+W,W~N(0,σ_w²)
后验
后验仍是正态,均值介于先验与观测之间
The case of multiple obs
多次独立观测:信息叠加,后验均值被拉向样本均值,方差收缩。
精度相加
后验精度 = 先验精度 + n×观测精度
后验均值
按精度加权平均先验与样本均值
The mean squared error
均方误差评估估计质量:误差平方的期望,越小白越准。
定义
MSE = E[(X−估计)²]
条件期望最优
最小 MSE 估计恰为条件期望 E[X|Y]
Linear normal models
线性正态模型:观测是未知量的线性组合加正态噪声,后验闭式可解。
结构
Y = AX + 噪声,A 为线性观测阵
地位
卡尔曼滤波、最小二乘的共同底座
Trajectory estimation il
轨迹估计示例:逐步吸收含噪量测,轨迹估计随数据收窄。
逐步更新
每个新量测按精度加权修正估计
可视化
不确定性椭圆随观测收缩
本节要点
- ✓线性高斯模型后验闭式为正态
- ✓多次观测:精度相加、均值加权
- ✓条件期望是最小 MSE 估计
延伸主题:推导一次后验均值公式用 MSE 比较两种估计
课后思考
先自己回答,再展开参考答案——能讲出来才算真懂。
1线性高斯模型为什么如此重要?
参考答案它同时具备现实合理性(噪声近似正态)与数学封闭性(后验仍是正态、公式闭式)。卡尔曼滤波正是它在动态系统上的递推形式——每步只存均值与方差即可完成最优推断。
2「后验均值介于先验均值与观测值之间」说明了什么?
参考答案说明推断是按信息可靠度的折中:先验越强(方差越小)越信先验,观测越准(噪声越小)越信数据。权恰为两者精度之比——贝叶斯更新就是一场按证据说话的谈判。
3观测次数趋于无穷时,先验的影响会怎样?
参考答案先验精度保持有限而观测精度线性增长,后验均值趋于样本均值、方差趋于零——数据淹没先验。这正是频率学派极限结论与贝叶斯结论殊途同归的地方。