索引 / 标签
#概念
共 30 篇
- Ch12 Prompt工程
概念-WikiLink
WikiLink(笔记名)是 Obsidian 的核心链接语法,用双方括号包裹笔记名即可创建双向链接——既可以从 A 跳到 B,也能在 B 上看到"谁链接了我"。
约 1 分钟284 字 - Ch04 机器学习
Bagging (Bootstrap Aggregating)
Bagging (Bootstrap Aggregating, 装袋法/自助聚合) 是一种并行式集成学习方法。其核心思想是:通过对训练集进行多次自助采样 (Bootstrap Sampling) 生成多个不同的子训练集,在每个子集上独立训练一个基学习器 (Base Learner
约 3 分钟1,019 字 - Ch04 机器学习
Boosting (提升法)
Boosting (提升法) 是一种串行式集成学习方法,核心思想是:通过迭代训练一系列弱学习器 (Weak Learners),每个后续学习器都聚焦于前一个学习器的错误样本,最终将所有弱学习器加权组合成一个强学习器。
约 4 分钟1,166 字 - Ch04 机器学习
Isolation Forest (孤立森林/隔离森林)
Isolation Forest (iForest, 孤立森林/隔离森林) 是一种基于集成学习的无监督异常检测算法,由 Liu, Ting, 和 Zhou 于 2008 年提出。其核心思想极其简洁:异常点 (Anomaly) 是"少而不同"的,因此更容易被随机分割隔离。
约 4 分钟1,288 字 - Ch04 机器学习
概念-XGBoost
一句话理解 XGBoost(eXtreme Gradient Boosting)是 2014 年由陈天奇提出的梯度提升树算法,2026 年仍是结构化/表格数据的王者,在 Kaggle 竞赛和工
约 5 分钟1,533 字 - Ch04 机器学习
决策树 (Decision Tree)
决策树 (Decision Tree) 是机器学习中最基础、最直观的模型之一。它的核心思想非常简单:通过一系列 if-then 规则将数据不断划分,最终做出预测。决策树既可以用于分类 (Classification Tree) 也可以用于回归 (Regression Tree,
约 4 分钟1,261 字 - Ch04 机器学习
概念-随机森林
随机森林(Random Forest)是多棵决策树的 Bagging 集成:每棵树用随机抽样的样本和随机选择的特征训练,最终通过投票(分类)或平均(回归)输出结果。它是快速获得可靠 baseline 的首选算法,也是工业界最常用的可解释性模型之一。
约 5 分钟1,492 字 - Ch05 评估与特征工程
交叉验证 (Cross-Validation)
概述 交叉验证(Cross-Validation, CV)是机器学习中评估模型泛化能力(Generalization)的核心技术。其基本思想是将数据集划分为多个互斥子集(Fold),轮流使用其
约 4 分钟1,150 字 - Ch05 评估与特征工程
偏差方差权衡 (Bias-Variance Tradeoff)
概述 偏差-方差权衡(Bias-Variance Tradeoff)是机器学习理论中最核心的概念之一,描述了模型预测误差可以被分解为三个不可约的成分:偏差(Bias)、方差(Variance)
约 4 分钟1,432 字 - Ch05 评估与特征工程
学习曲线 (Learning Curves)
概述 学习曲线(Learning Curves)是机器学习和深度学习中用于诊断模型性能的核心可视化工具。它通过绘制训练集大小与模型性能(误差/准确率)之间的关系,帮助我们回答一系列关键问题:模
约 4 分钟1,432 字 - Ch05 评估与特征工程
数据增强 (Data Augmentation)
概述 数据增强(Data Augmentation)是一种通过人工方式扩充训练数据的技术,通过对原始数据施加各种保持语义的变换(Transformations),生成新的、多样化的训练样本。它
约 6 分钟2,070 字 - Ch06 神经网络基础
Leaky ReLU 与 ReLU 变体家族
ReLU (Rectified Linear Unit) 是深度学习中最常用的激活函数,但它有一个著名缺陷:"死亡神经元" (Dying ReLU) 问题——当神经元输出恒为负值时,梯度永远为 0,该神经元就"死了",再也不会被激活。为了解决这个问题,研究者提出了多种 ReLU
约 2 分钟767 字 - Ch06 神经网络基础
学习率 (Learning Rate)
概述 学习率(Learning Rate, LR)是深度学习优化中最重要的超参数,没有之一。它控制着模型参数每次更新的步长大小,直接决定了模型能否收敛、收敛速度有多快、以及最终能达到的性能水平
约 5 分钟1,611 字 - Ch10 LLM架构
概念-Jamba
一句话理解 Jamba 是 Mamba(状态空间模型)与 Transformer 的混合架构 LLM,部分层用 Mamba 处理长序列(线性复杂度),部分层用 Transformer 捕捉全局
约 5 分钟1,501 字 - Ch12 Prompt工程
概念-提示词注入
一句话理解 提示词注入(Prompt Injection as a Technique)是一种上下文管理技术,核心做法是把工具描述、可用数据、外部信息直接塞进 Prompt,让模型"看到"外部
约 3 分钟946 字 - Ch13 RAG
Bi-Encoder (双塔模型/双编码器)
概述 Bi-Encoder (双编码器) 是一种双塔架构的神经网络模型,核心思想是将两个输入 (如 Query 和 Document、User 和 Item) 分别通过独立的编码器编码为向量表
约 3 分钟892 字 - Ch13 RAG
概念-ColBERT
一句话理解 ColBERT(Contextualized Late Interaction over BERT)是一种延迟交互检索模型,它的核心思想是:不对 query 和 document
约 4 分钟1,272 字 - Ch13 RAG
概念-CrossEncoder
一句话理解 Cross-Encoder(交叉编码器)是同时输入 query 和 document、通过 Transformer 的全注意力机制进行深度交互、输出一个相关性分数的模型。它是检索系
约 3 分钟1,040 字 - Ch13 RAG
概念-Neo4j
一句话理解 Neo4j 是最流行的图数据库,使用 Cypher 查询语言,是 Graph RAG 的常见基础设施。自 2007 年首次发布以来,Neo4j 已经从一个学术项目发展为全球装机量最
约 3 分钟864 字 - Ch13 RAG
概念-上下文管理技术
一句话理解 上下文管理技术(Context Management Techniques)指的是在没有 Function Calling 的年代,如何让模型使用外部工具——把工具塞进上下文。这些
约 4 分钟1,281 字 - Ch13 RAG
概念-图数据库与知识图谱
一句话理解 图数据库(Graph Database)和知识图谱(Knowledge Graph)是两种紧密相关但不同的概念:图数据库存储实体-关系-实体的三元组,是一种数据存储技术;知识图谱是
约 3 分钟1,093 字 - Ch14 Agent原理
概念-AgenticWorkflow
一句话理解 Agentic Workflow(智能体工作流)是一种模型自主决定路径,不是预定义规则而是 LLM 做决策的工作流模式。这是三种工作流模式中最灵活、最强大、也最难控制的一种。在 A
约 4 分钟1,147 字 - Ch14 Agent原理
概念-DynamicWorkflow
一句话理解 Dynamic Workflow(动态工作流)是一种条件分支、路径根据输入变化,但分支逻辑是预定义的工作流模式。与 Static Workflow 的"一条路走到黑"不同,Dyna
约 4 分钟1,247 字 - Ch14 Agent原理
概念-Hook机制
一句话理解 Hook 机制(Hook Mechanism)是一种早期的"伪 Function Calling"实现:模型输出特定标记时触发外部函数,如 SEARCH:xxx → 执行搜索 →
约 3 分钟1,001 字 - Ch14 Agent原理
概念-StaticWorkflow
一句话理解 Static Workflow(静态工作流)是一种固定步骤、无分支、每次执行完全相同的流程。在 AI 应用开发中,它是最简单、最可控的工作流模式:每一步做什么、顺序如何、输入输出是
约 4 分钟1,123 字 - Ch20 推理部署
概念-llama.cpp
llama.cpp 是纯 C/C++ 实现的 LLM 推理框架,专为消费级硬件(CPU/集成显卡)优化,GGUF 量化格式让大模型在普通电脑上也能运行。它是 Ollama、LM Studio 等工具的底层引擎,也是整个本地 AI 推理生态的基石。
约 3 分钟966 字 - Ch20 推理部署
概念-Ollama
Ollama 是本地运行大模型的最简单工具。一条命令 ollama run llama4.1 就能下载模型、启动推理服务、进入交互式对话。它把模型权重管理、量化、推理、API 服务全部封装好,用户不需要关心 GGUF 格式、CUDA 配置、tokenizer 等底层细节。
约 4 分钟1,127 字 - Ch20 推理部署
概念-vLLM
vLLM 是高吞吐量的开源 LLM 推理引擎,通过 PagedAttention 技术管理 KV 缓存,实现生产环境下的极致推理性能。如果说 Ollama 是个人跑模型的"一键工具",vLLM 就是企业部署模型的"涡轮引擎"。
约 4 分钟1,255 字 - Ch20 推理部署
概念-渐进式加载
一句话理解 渐进式加载(Progressive Loading)是一种上下文管理策略,核心思想是分步注入上下文:先给模型摘要或索引,当模型需要更多细节时,再加载完整内容。它的设计动机很简单——
约 4 分钟1,139 字 - Ch22 技术全景
概念-ObsidianGraphView
一句话理解 Obsidian Graph View(Obsidian 图谱视图)是Obsidian 内置的知识图谱可视化工具,wikilink 天然形成知识网络。每当你用 概念-WikiLin
约 5 分钟1,483 字