概念-线性回归

一句话理解

线性回归是最简单的机器学习算法：找一条直线（或超平面）来拟合数据，让预测值和真实值的差距最小。

核心公式

y = w₁x₁ + w₂x₂ + ... + wₙxₙ + b

其中 w 是权重（每个特征有多重要），b 是偏置（基础值）。

比喻：你想预测房价，已知面积和房价的关系。线性回归就是画一条穿过数据点的直线——新房子来了，看它在直线上对应的价格。

什么时候用

2026 年地位

虽然深度学习更强大，但线性回归仍然是：

• 任何回归问题的 baseline 首选
• 可解释性需求场景的标准工具
• 面试和课程的基础必学内容

相关笔记

• 第4章 · 机器学习核心算法 — 机器学习算法全景
• 决策树 (Decision Tree) — 非线性替代方案
• 过拟合 (Overfitting) — 线性回归也能过拟合

来源

• Hastie et al., “The Elements of Statistical Learning”, Chapter 3, https://hastie.su.domains/ElemStatLearn/