索引 / 标签
#LLM
共 7 篇
- Ch10 LLM架构
概念-LLM概述
LLM（Large Language Model，大语言模型）是一种通过海量文本训练出来的神经网络，核心能力是"预测下一个词"——但规模足够大后，涌现出推理、翻译、编程等复杂能力。
约 1 分钟284 字 - Ch10 LLM架构
Token (词元)
Token 是 LLM 处理文本的最小单位——不是字，不是词，而是介于两者之间的"子词单元"。LLM 先把文本切成 Token，再给每个 Token 一个数字 ID，然后才能做数学运算。
约 4 分钟1,258 字 - Ch11 模型微调
精选训练数据集 (Curated Training Data)
概述 训练数据是 LLM 性能的基石。2023 年之前，LLM 训练主要依赖大规模网页抓取 (Common Crawl)，数据量大但质量参差不齐。2023-2026 年间，业界逐渐形成共识：数
约 5 分钟1,713 字 - Ch14 Agent原理
概念-FunctionCalling
一句话理解 Function Calling让模型不直接回答，而是输出结构化的函数调用请求——"我要调用这个工具，参数是这些"。模型不再编造答案，而是精确表达它需要什么外部信息来完成任务。 零
约 3 分钟1,010 字 - Ch14 Agent原理
概念-ReActAgent
一句话理解 ReAct Agent是Reasoning + Acting交替循环的Agent范式：Think(思考) → Act(行动) → Observe(观察) → Think(再思考).
约 3 分钟963 字 - Ch14 Agent原理
概念-纯对话
一句话理解 纯对话(Pure Chat)是AI最早的交互形态：用户问，模型答，一问一答，无外部能力，无记忆。每一次对话都是独立的、无状态的文本交换。 零基础理解 就像和一个失忆的人聊天——每次
约 4 分钟1,166 字 - Ch20 推理部署
深挖-量化
一句话理解 模型量化（Quantization）是将神经网络中原本用 32-bit 浮点数（FP32）表示的权重和激活值，转换为更低精度（如 FP16、INT8、INT4）的数值表示，从而大幅
约 6 分钟1,894 字