https://gheillcoat.github.io/ Auntilz 的私人书房：读书札记、技术随笔与随手写下的想法，支持 Obsidian 双链、LaTeX、Mermaid 与完整的 Markdown。 zh-CN Mon, 02 Nov 2026 09:01:18 GMT https://gheillcoat.github.io/posts/ch13-rag/%E6%B7%B1%E6%8C%96/%E6%B7%B1%E6%8C%96-%E5%88%86%E5%9D%97%E7%AD%96%E7%95%A5%E5%AE%9E%E6%B5%8B https://gheillcoat.github.io/posts/ch13-rag/%E6%B7%B1%E6%8C%96/%E6%B7%B1%E6%8C%96-%E5%88%86%E5%9D%97%E7%AD%96%E7%95%A5%E5%AE%9E%E6%B5%8B Fri, 09 Oct 2026 00:00:00 GMT Ch13 RAG https://gheillcoat.github.io/posts/ch03-ai%E6%95%B0%E5%AD%A6/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E9%87%87%E6%A0%B7%E7%AD%96%E7%95%A5 https://gheillcoat.github.io/posts/ch03-ai%E6%95%B0%E5%AD%A6/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E9%87%87%E6%A0%B7%E7%AD%96%E7%95%A5 Mon, 06 Jul 2026 00:00:00 GMT AI 生成文本时，不是直接选概率最高的词，而是从概率分布中"采样"——Temperature、Top-K、Top-P 是三种控制"随机性"的策略，决定 AI 是保守还是创意。 Ch03 AI数学 https://gheillcoat.github.io/posts/ch04-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92 https://gheillcoat.github.io/posts/ch04-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E7%BA%BF%E6%80%A7%E5%9B%9E%E5%BD%92 Mon, 06 Jul 2026 00:00:00 GMT 线性回归是最简单的机器学习算法：找一条直线（或超平面）来拟合数据，让预测值和真实值的差距最小。 Ch04 机器学习 https://gheillcoat.github.io/posts/ch05-%E8%AF%84%E4%BC%B0%E4%B8%8E%E7%89%B9%E5%BE%81%E5%B7%A5%E7%A8%8B/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E7%89%B9%E5%BE%81%E5%B7%A5%E7%A8%8B https://gheillcoat.github.io/posts/ch05-%E8%AF%84%E4%BC%B0%E4%B8%8E%E7%89%B9%E5%BE%81%E5%B7%A5%E7%A8%8B/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E7%89%B9%E5%BE%81%E5%B7%A5%E7%A8%8B Mon, 06 Jul 2026 00:00:00 GMT 特征工程是把原始数据"翻译"成模型能理解的语言——好的特征能让简单模型获得好效果，差的特征让复杂模型也无能为力。 Ch05 评估与特征工程 https://gheillcoat.github.io/posts/ch06-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%9F%BA%E7%A1%80/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E4%BC%98%E5%8C%96%E5%99%A8%E8%AF%A6%E8%A7%A3 https://gheillcoat.github.io/posts/ch06-%E7%A5%9E%E7%BB%8F%E7%BD%91%E7%BB%9C%E5%9F%BA%E7%A1%80/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E4%BC%98%E5%8C%96%E5%99%A8%E8%AF%A6%E8%A7%A3 Mon, 06 Jul 2026 00:00:00 GMT 优化器是神经网络的"导航系统"——它决定模型参数往哪个方向调、调多大步，让损失函数值越来越小。Adam 是 2026 年最常用的优化器。 Ch06 神经网络基础 https://gheillcoat.github.io/posts/ch09-transformer/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E8%87%AA%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6%E8%AF%A6%E8%A7%A3 https://gheillcoat.github.io/posts/ch09-transformer/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E8%87%AA%E6%B3%A8%E6%84%8F%E5%8A%9B%E6%9C%BA%E5%88%B6%E8%AF%A6%E8%A7%A3 Mon, 06 Jul 2026 00:00:00 GMT 自注意力机制（Self-Attention）让序列中的每个词都能"看到"所有其他词，直接计算任意两个词之间的关联强度——这是 Transformer 超越 RNN 的核心武器。 Ch09 Transformer https://gheillcoat.github.io/posts/ch10-llm%E6%9E%B6%E6%9E%84/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-llm%E6%A6%82%E8%BF%B0 https://gheillcoat.github.io/posts/ch10-llm%E6%9E%B6%E6%9E%84/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-llm%E6%A6%82%E8%BF%B0 Mon, 06 Jul 2026 00:00:00 GMT LLM（Large Language Model，大语言模型）是一种通过海量文本训练出来的神经网络，核心能力是"预测下一个词"——但规模足够大后，涌现出推理、翻译、编程等复杂能力。 Ch10 LLM架构 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-dpo https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-dpo Mon, 06 Jul 2026 00:00:00 GMT DPO（Direct Preference Optimization）是一种无需强化学习的对齐方法，直接用人类偏好数据微调模型，比 RLHF 更简单、更稳定。 Ch11 模型微调 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-rlhf https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-rlhf Mon, 06 Jul 2026 00:00:00 GMT RLHF（Reinforcement Learning from Human Feedback）是用人类偏好来训练 AI 的方法：先让人类对 AI 的多个回答打分，再训练一个"奖励模型"来模拟人类的打分标准，最后用强化学习让 AI 往高分方向优化。 Ch11 模型微调 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-sft https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-sft Mon, 06 Jul 2026 00:00:00 GMT SFT（Supervised Fine-Tuning，监督微调）是用高质量"问题-答案"对来训练模型，让它学会按指令回答——这是把"只会补全文本"的预训练模型变成"能听懂人话"的对话模型的关键一步。 Ch11 模型微调 https://gheillcoat.github.io/posts/ch12-prompt%E5%B7%A5%E7%A8%8B/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-wikilink https://gheillcoat.github.io/posts/ch12-prompt%E5%B7%A5%E7%A8%8B/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-wikilink Mon, 06 Jul 2026 00:00:00 GMT WikiLink（笔记名）是 Obsidian 的核心链接语法，用双方括号包裹笔记名即可创建双向链接——既可以从 A 跳到 B，也能在 B 上看到"谁链接了我"。 Ch12 Prompt工程 https://gheillcoat.github.io/posts/ch13-rag/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E9%87%8D%E6%8E%92%E5%BA%8F https://gheillcoat.github.io/posts/ch13-rag/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E9%87%8D%E6%8E%92%E5%BA%8F Mon, 06 Jul 2026 00:00:00 GMT Ch13 RAG https://gheillcoat.github.io/posts/ch14-agent%E5%8E%9F%E7%90%86/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-agent%E8%AF%84%E4%BC%B0 https://gheillcoat.github.io/posts/ch14-agent%E5%8E%9F%E7%90%86/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-agent%E8%AF%84%E4%BC%B0 Mon, 06 Jul 2026 00:00:00 GMT Ch14 Agent原理 https://gheillcoat.github.io/posts/ch17-%E5%A4%9A%E6%A8%A1%E6%80%81ai/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-llava https://gheillcoat.github.io/posts/ch17-%E5%A4%9A%E6%A8%A1%E6%80%81ai/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-llava Mon, 06 Jul 2026 00:00:00 GMT Ch17 多模态AI https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-awq https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-awq Mon, 06 Jul 2026 00:00:00 GMT AWQ（Activation-aware Weight Quantization）是一种 4-bit 权重量化方法，通过分析激活值分布来保护重要权重通道，在几乎不损失精度的情况下将模型缩小 4 倍。 Ch20 推理部署 https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-smoothquant https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-smoothquant Mon, 06 Jul 2026 00:00:00 GMT Ch20 推理部署 https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9 https://gheillcoat.github.io/posts/ch20-%E6%8E%A8%E7%90%86%E9%83%A8%E7%BD%B2/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E6%A8%A1%E5%9E%8B%E5%8E%8B%E7%BC%A9 Mon, 06 Jul 2026 00:00:00 GMT 模型压缩是用各种技术把大模型"变小变快"，让它在普通硬件上也能跑——核心方法包括量化、蒸馏、剪枝、低秩分解。 Ch20 推理部署 https://gheillcoat.github.io/posts/%E6%9C%AF%E8%AF%AD%E5%AF%B9%E7%85%A7%E8%A1%A8 https://gheillcoat.github.io/posts/%E6%9C%AF%E8%AF%AD%E5%AF%B9%E7%85%A7%E8%A1%A8 Mon, 06 Jul 2026 00:00:00 GMT - 专有名词索引 — 250+ 中文词条索引 - 标签索引 — 按标签浏览 - 知识图谱 — 知识全景图 根目录 https://gheillcoat.github.io/posts/%E6%A0%87%E7%AD%BE%E7%B4%A2%E5%BC%95 https://gheillcoat.github.io/posts/%E6%A0%87%E7%AD%BE%E7%B4%A2%E5%BC%95 Mon, 06 Jul 2026 00:00:00 GMT 在 Obsidian 中： - 搜索 tag:智能体 查看所有 Agent 相关笔记 - 搜索 tag:基础 tag:深度学习 查看基础深度学习笔记 - 在图表视图中按标签着色 根目录 https://gheillcoat.github.io/posts/%E8%87%AA%E6%B5%8B%E9%A2%98 https://gheillcoat.github.io/posts/%E8%87%AA%E6%B5%8B%E9%A2%98 Mon, 06 Jul 2026 00:00:00 GMT 1. AI 的三次浪潮分别是什么？每次浪潮的核心技术是什么？ 2. 符号主义和连接主义的核心区别是什么？ 3. 2026 年 AI 格局与 2023 年比有什么关键变化？ 根目录 https://gheillcoat.github.io/posts/%E7%AB%A0%E9%97%B4%E7%9F%A5%E8%AF%86%E5%9B%BE%E8%B0%B1 https://gheillcoat.github.io/posts/%E7%AB%A0%E9%97%B4%E7%9F%A5%E8%AF%86%E5%9B%BE%E8%B0%B1 Mon, 06 Jul 2026 00:00:00 GMT subgraph 机器学习层 Ch04Ch04 机器学习核心算法 Ch05Ch05 模型评估与特征工程 end 根目录 https://gheillcoat.github.io/posts/%E9%A1%B9%E7%9B%AE/%E6%91%98%E8%A6%81 https://gheillcoat.github.io/posts/%E9%A1%B9%E7%9B%AE/%E6%91%98%E8%A6%81 Mon, 06 Jul 2026 00:00:00 GMT 零基础入门：项目一 → 项目二 → 项目三 → 项目四 项目 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/112-%E5%85%A8%E9%87%8F%E5%BE%AE%E8%B0%83%E4%B8%8Elora https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/112-%E5%85%A8%E9%87%8F%E5%BE%AE%E8%B0%83%E4%B8%8Elora Thu, 02 Jul 2026 00:00:00 GMT 全量微调（Full Fine-Tuning）是最传统、最彻底的微调方式：在预训练模型的基础上，用特定任务的数据集，更新模型的所有参数，使模型从"通用能力"转向"特定领域能力"。^Howard & Ruder, "Universal Language Model Fine-tuni Ch11 模型微调 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/114-sft https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/114-sft Thu, 02 Jul 2026 00:00:00 GMT 想象你去图书馆读书。过去的三年，你每天从早到晚翻阅图书馆里所有的书——小说、论文、新闻、百科、代码、论坛帖子。你读完了相当于整个互联网的文字量。现在的你能续写任何一段文字的开头，能补全一首诗，能根据前文猜测接下来最可能出现的词。但有人突然问你："帮我写一封给客户的道歉邮件"，你愣 Ch11 模型微调 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/115-dpo%E4%B8%8E%E5%81%8F%E5%A5%BD%E5%AF%B9%E9%BD%90 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/115-dpo%E4%B8%8E%E5%81%8F%E5%A5%BD%E5%AF%B9%E9%BD%90 Thu, 02 Jul 2026 00:00:00 GMT SFT（监督微调，详见第11.6节）教会了模型"怎么回答"。但会回答，不等于回答得好。 想象你在教一个学徒做菜。SFT阶段，你给了他100本菜谱，他学会了每道菜的标准做法——油温多少、调料多少、翻炒几分钟。现在你让他做一盘鱼香肉丝，他做出来了，步骤完全正确。但你又让他做第二遍，说 Ch11 模型微调 https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/117-2026%E5%B9%B4%E5%BE%AE%E8%B0%83%E6%96%B0%E8%B6%8B%E5%8A%BF https://gheillcoat.github.io/posts/ch11-%E6%A8%A1%E5%9E%8B%E5%BE%AE%E8%B0%83/117-2026%E5%B9%B4%E5%BE%AE%E8%B0%83%E6%96%B0%E8%B6%8B%E5%8A%BF Thu, 02 Jul 2026 00:00:00 GMT Ch11 模型微调 https://gheillcoat.github.io/posts/_root/agent https://gheillcoat.github.io/posts/_root/agent Wed, 01 Jul 2026 00:00:00 GMT 所有 AI agent 与此 vault 交互时必须遵守的规则。 _root https://gheillcoat.github.io/posts/_root/%E4%BB%8E%E5%93%AA%E9%87%8C%E5%BC%80%E5%A7%8B https://gheillcoat.github.io/posts/_root/%E4%BB%8E%E5%93%AA%E9%87%8C%E5%BC%80%E5%A7%8B Wed, 01 Jul 2026 00:00:00 GMT 打开这个 vault，你可能不知道先看什么。这里有三条路，按你的情况选一条。 _root https://gheillcoat.github.io/posts/ch03-ai%E6%95%B0%E5%AD%A6/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E4%BF%A1%E6%81%AF%E7%86%B5 https://gheillcoat.github.io/posts/ch03-ai%E6%95%B0%E5%AD%A6/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-%E4%BF%A1%E6%81%AF%E7%86%B5 Wed, 01 Jul 2026 00:00:00 GMT 信息熵（Information Entropy）是信息论的核心概念，由 Claude Shannon 于 1948 年提出。熵衡量一个随机变量的不确定性或信息量。在机器学习中，信息熵及其衍生概念（交叉熵、KL 散度）是理解损失函数、模型评估和信息理论的基础。几乎所有分类问题的损失 Ch03 AI数学 https://gheillcoat.github.io/posts/ch04-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-bagging https://gheillcoat.github.io/posts/ch04-%E6%9C%BA%E5%99%A8%E5%AD%A6%E4%B9%A0/%E6%A6%82%E5%BF%B5/%E6%A6%82%E5%BF%B5-bagging Wed, 01 Jul 2026 00:00:00 GMT Bagging (Bootstrap Aggregating, 装袋法/自助聚合) 是一种并行式集成学习方法。其核心思想是：通过对训练集进行多次自助采样 (Bootstrap Sampling) 生成多个不同的子训练集，在每个子集上独立训练一个基学习器 (Base Learner Ch04 机器学习