4.1 三大类学习

机器学习的所有算法，按照”有没有标准答案”和”怎么给反馈”，可以分成三大类：监督学习、无监督学习、强化学习。这三类的区别，决定了你需要什么样的数据、能解决什么样的问题、以及怎么评估好坏。

打个比方：监督学习像是做卷子有标准答案，做完对答案就知道哪道题错了；无监督学习像是拿到一堆卡片让你自己分类，没人告诉你该分几类、按什么分；强化学习像是玩游戏，不说每一步对不对，只说最后赢了还是输了，你要自己摸索出赢的策略。

本节先从三大类的定义和典型任务开始，然后深入监督学习的两大核心任务类型：分类和回归。相关概念的深入展开见子文件夹 概念 和 深挖。

监督学习：有标准答案的学习

监督学习（Supervised Learning）是目前应用最广、理论基础最成熟的机器学习范式。它的核心特点是：训练数据中包含标签（label）——也就是标准答案。模型的任务是学会从输入特征预测输出标签的映射关系 ¹。

举个例子：给你 10000 张照片，每张都标注了”猫”或”狗”。模型要学的就是”什么样的像素排列是猫，什么样的是狗”。训练完成后，给一张新照片，模型能判断它更像猫还是更像狗。这里的”猫/狗标注”就是标签。

监督学习像一个学生做题的过程：做题（训练），对答案（计算损失），改正（更新参数），再做下一套题。因为有明确的正确和错误，进展是可衡量的。

监督学习的两个核心任务是分类和回归，下面分别展开。

分类：预测”属于哪一类”

分类（Classification）的输出是离散的类别标签。判断一封邮件是”垃圾邮件”还是”正常邮件”，识别一张图片里是”猫”还是”狗”，判断一个交易是”欺诈”还是”正常”——这些都是分类问题 ²。

分类又分为两种：

• 二分类（Binary Classification）：只有两个选项。是/不是，真/假，正常/异常。比如信用卡交易欺诈检测——要么是欺诈，要么不是。
• 多分类（Multi-class Classification）：有多个互斥的选项。手写数字识别把每张图分到 0-9 十个数字中的某一个；新闻分类把一篇文章归到”体育""财经""科技”等类别中的某一类。

分类模型输出的通常不是”答案是猫”这样一句话，而是一个概率值：比如”80% 概率是猫，20% 概率是狗”。选概率最高的那个作为最终预测类别。这让分类模型不仅能给出答案，还能表达自信程度——90% 概率和 51% 概率虽然都预测同一类，但可靠性完全不同。

分类效果的衡量不是只看”对了几个”。准确率（Accuracy）虽然直观，但在类别不平衡时（比如欺诈交易只占全部交易的 0.1%）会严重误导——模型只要永远说”不是欺诈”，准确率就有 99.9%，但完全没抓到欺诈。因此还需要查准率（Precision）、查全率（Recall）和 F1 分数等指标 ³。

常见的分类算法包括逻辑回归（虽叫”回归”但做的是分类）、决策树、随机森林、支持向量机（SVM）、XGBoost 以及神经网络的 Softmax 分类器。这些算法的特点和对比见 4.3 五个必知算法。

回归：预测”数值是多少”

回归（Regression）的输出是连续的数值。预测明天的气温是多少摄氏度，预测一套房子值多少钱，预测一个用户的点击率——这些都是回归问题 ⁴。

回归和分类的底层数学是一样的——都是找一个函数，输入 X，输出 Y。区别在于 Y 的类型：分类的 Y 是”A/B/C”（离散的类别），回归的 Y 是”3.14”（连续的数值）。

打个比方：分类是”这个水果是苹果还是橙子”，回归是”这个苹果有多重”。前者问的是”是什么”，后者问的是”是多少”。

回归的评估指标是误差的大小：均方误差（MSE）衡量预测值和真实值差距的平方平均，平均绝对误差（MAE）衡量差距的绝对值的平均，R 方（R-squared）衡量模型解释了数据多少比例的变异。和分类一样，选哪个指标取决于业务场景——预测房价误差 1 万可以接受，但预测药品剂量误差 1 毫克可能就是致命的。

常见的回归算法包括线性回归（最基础，可解释性最强）、岭回归（带 L2 正则化的线性回归）、Lasso 回归（带 L1 正则化，能自动做特征选择）、决策树回归、随机森林回归以及 XGBoost 回归。

分类 vs 回归：快速判断表

无监督学习：自己找规律的学习

无监督学习（Unsupervised Learning）处理的是没有标签的数据。你扔给模型一堆数据，不告诉它任何答案，让它自己发现其中的结构、分组或规律 ⁵。

打个比方：给你 10000 张动物照片，但没有标注。无监督学习能自己发现”好像有一群四条腿的、一群两条腿有翅膀的、一群生活在水里的”——它不知道这些分别叫”狗""鸟""鱼”，但它发现了这个分组规律。

无监督学习更接近人类的学习方式。一个婴儿认识世界，不是靠别人告诉他每样东西的名字——他先观察到”有的东西会动、有的不会""有的能吃、有的不能吃”，自己归纳出世界的规律，然后才学会贴标签。无监督学习做的就是这个”归纳规律但不贴标签”的工作 ⁶。

无监督学习的三大支柱任务：

1. 聚类（Clustering）：把相似的数据归为一组。比如把用户分成”高价值用户""普通用户""流失风险用户”三类，每一类内的用户行为相似，类与类之间差异明显。K-Means 是最经典的聚类算法，此外还有 DBSCAN（基于密度的聚类，能发现任意形状的簇）和层次聚类（输出树状分类结构，适合探索性分析）。

2. 降维（Dimensionality Reduction）：把很多个特征压缩成少数几个，同时尽量保留重要信息。比如一个用户有 200 个行为指标，降维后可能只需要 3 个综合指标就能概括。PCA（主成分分析）是最常用的线性降维方法，t-SNE 和 UMAP 则擅长把高维数据变成 2D 或 3D 的可视化。

3. 异常检测（Anomaly Detection）：找出”不合群”的数据点。信用卡交易中突然出现一笔 100 万元的消费（平时就几百元），这就是异常 ⁷。异常检测在金融风控、工业设备故障预判、网络安全入侵检测等领域有广泛应用。

无监督学习最大的挑战是评估困难——因为没有标签，你不知道聚类分得好不好。通常的做法是用轮廓系数（Silhouette Score）这种内部指标，或者让领域专家人工判断结果是否合理，或者把无监督学到的特征用到下游监督任务中，看监督任务的性能有没有提升。

强化学习：从奖惩中学策略

强化学习（Reinforcement Learning）和前两种范式完全不同。没有标准答案，甚至没有”对/错”的直接反馈——只有一个奖励信号（reward signal），告诉你最终结果好不好，但不会告诉你每一步应该怎么做 ⁸。

打个比方：下围棋。没人告诉你每一步该走哪里，你只能自己下，下完整盘棋才知道赢了还是输了。赢了一盘，你知道这盘棋的策略大概是对的，但具体哪一步是关键？不一定清楚。你需要下几万盘、几十万盘，才能慢慢摸索出”在某种局面下走某一步更容易赢”的规律。

强化学习的核心角色：

• 智能体（Agent）：做决策的那一方。在围棋里是 AI 棋手，在自动驾驶里是控制方向盘的程序。
• 环境（Environment）：智能体所处的外部世界。智能体做出动作后，环境给出新的状态和奖励。
• 策略（Policy）：智能体”在什么状态下该采取什么行动”的决策规则。这是强化学习最终要学出来的东西。

强化学习的核心矛盾是探索 vs 利用（Exploration vs Exploitation）：

• 探索：尝试新的、效果未知的动作，可能发现更好的策略。
• 利用：重复已知效果好的动作，稳定获取奖励。

这就像选餐厅：是去那家你已经知道好吃的店（利用），还是去试试新开的店（探索）？总吃同一家会很稳妥，但可能错过更好吃的。总尝新可能一直踩雷。强化学习算法需要在两者之间找到最优的平衡 ⁹。

强化学习的典型应用：AlphaGo 下围棋、DQN 玩 Atari 游戏、机器人学会走路、ChatGPT 的 RLHF（从人类反馈中强化学习，你会在 第11章 · 模型微调 中遇到它）中的奖励模型训练。

强化学习的现实挑战比监督学习大得多：奖励信号稀疏（下完一盘棋才知道输赢，中间 200 步都没有反馈）、环境可能随机变化、训练需要海量交互（AlphaGo 训练下了几千万盘棋）。因此强化学习的应用场景目前主要集中在游戏、机器人控制和推荐系统等特定领域，远不如监督学习普及。

三种学习的全景对比

如何选择

拿到一个实际问题，先问三个问题：

1. 你有标签吗？ 有标签，且目标是精确预测某个具体值或类别 -> 监督学习。
2. 你只是想探索数据，并不需要精确预测？ -> 无监督学习（聚类、降维、异常检测）。
3. 你需要做出序列决策，且只有最终结果的奖惩反馈？ -> 强化学习。

在实际项目中，这三种范式经常混合使用。比如先用无监督的聚类给用户分群，再用监督学习在每个群里预测用户会不会流失。或者用强化学习的训练框架，但内部的策略网络是用监督学习（模仿人类操作）来预训练的。理解这三种范式是理解一切机器学习方法的前提。

上一节：章首 | 下一节：4.3 五个必知算法