信息技术大学
无监督与降维
AI 与大模型·算法岗面试 · 第 1 章 机器学习基础
按 空格/→ 演示下一步
全部页面点击任意一页，跳回舞台从这页播放
信息技术大学
无监督与降维
AI 与大模型·算法岗面试 · 第 1 章 机器学习基础
KMeans 与 K 值选择
中心点反复拉扯到收敛：K 要人给，肘部法与轮廓系数帮忙挑。
算法循环
分配到最近中心，再重算均值，迭代到稳定
K 选择
肘部法看 SSE 拐点，轮廓系数看紧致分离
初值敏感
多次重启取最优，k-means++ 分散初值
层次聚类
自底向上合并或自顶向下分裂：谱系图上任意高度切割出层数。
凝聚式
每点一簇，两两合并直至全一簇
距离定义
单链最短、全链最长、平均链，形态各异
谱系图
一次建模多层结果，切割高度定簇数
PCA 原理
找方差最大的投影方向：协方差矩阵分解，前 k 个主成分保住主要信息。
目标
投影后方差最大，信息损失最小
求解
协方差特征分解或直接 SVD
选维
按解释方差比例，累计 85%~95% 常用
用途
降维去冗余、可视化、加速下游
异常检测思路
异常是「不像大多数」：统计距离、局部密度、隔离树各擅其场。
统计法
3σ、箱线图 IQR，单变量利器
密度法
LOF 看局部密度，与邻居悬殊即异常
隔离森林
异常点更易被随机切分提前隔离
本节要点
- ✓KMeans 初值敏感，k-means++ 缓解
- ✓谱系图一刀切出任意簇数
- ✓PCA 保方差最大的方向
- ✓异常检测：距离、密度、隔离
延伸主题：跑一次肘部法PCA 可视化高维数据
课后思考
先自己回答，再展开参考答案——能讲出来才算真懂。
1PCA 之前为什么要先标准化？
参考答案PCA 沿方差最大方向投影；特征量纲不同时，数值大的特征独占方差话语权，主成分退化为量纲差异。标准化让各特征在同一尺度上竞争。
2KMeans 一定收敛吗？收敛到全局最优吗？
参考答案每轮 SSE 单调不增且有下界，必收敛；但收敛点是局部最优，依赖初值。实践用 k-means++ 分散初值并多次重启取最优。
3无监督任务怎么评估好坏？
参考答案没有标签只能间接评估：簇内紧致与簇间分离（轮廓系数）、子采样重跑的稳定性、下游任务效果。有少量标注可作外部基准。