根目录

术语对照表

英文术语 → 中文翻译 + 一句话解释。阅读笔记时遇到英文词,来这查。

基础概念

英文中文一句话
AI / Artificial Intelligence人工智能让计算机模仿人类智能的技术
ML / Machine Learning机器学习AI 的一个分支,让计算机从数据中学习
DL / Deep Learning深度学习用多层神经网络做机器学习
LLM / Large Language Model大语言模型用海量文本训练的巨型神经网络
AGI / Artificial General Intelligence通用人工智能能在任何任务上达到人类水平的人工智能

架构

英文中文一句话
Transformer变换器(不翻译)现代 AI 的底层架构,核心是自注意力
Attention注意力机制让模型”关注”输入中重要的部分
Self-Attention自注意力序列中每个词互相对比,找出关联
Encoder编码器把输入”理解”成内部表示
Decoder解码器把内部表示”翻译”成输出
FFN / Feed-Forward Network前馈网络Transformer 中的”知识存储”层
Embedding嵌入 / 向量化把文字变成一串数字
Token词元 / 令牌模型处理的最小文本单位
Tokenizer分词器把文本切分成 token 的工具

训练

英文中文一句话
Fine-tuning微调在预训练模型上用自己的数据继续训练
SFT / Supervised Fine-Tuning监督微调用”问题-答案”对教模型对话
RLHF人类反馈强化学习让人类打分来训练模型
DPO / Direct Preference Optimization直接偏好优化不需要奖励模型的简化版 RLHF
LoRA低秩适配只训练小补丁,不改变原模型
QLoRA量化低秩适配LoRA + 4-bit 量化,更省显存
PEFT参数高效微调只微调少量参数的技术总称
Pre-training预训练在海量数据上的初始训练
Epoch轮次模型把全部数据学完一遍
Batch Size批次大小每次训练用多少条数据
Learning Rate学习率每次参数调整的步长

推理与部署

英文中文一句话
Inference推理模型生成答案的过程
Quantization量化用更少的比特表示权重,压缩模型
GGUFGGUF 格式llama.cpp 使用的模型文件格式
vLLMvLLM 引擎高性能 LLM 推理框架
OllamaOllama 工具一键在本地跑大模型
Latency延迟从提问到收到第一个字的时间
Throughput吞吐量每秒能处理多少个请求

RAG

英文中文一句话
RAG / Retrieval-Augmented Generation检索增强生成先搜资料,再让 AI 根据资料回答
Chunking分块把长文档切小段,方便检索
Vector Database向量数据库存储和搜索向量(数字串)的数据库
BM25BM25 算法传统关键词搜索算法
Reranking重排序对初步检索结果精排,挑最相关的
Semantic Search语义搜索按含义搜索,不是按关键词

Agent

英文中文一句话
Agent智能体 / 代理能自主使用工具完成任务的 AI
ReAct推理-行动循环Agent 的思考→行动→观察循环
Function Calling函数调用让 LLM 能调用外部 API/工具
Tool Use工具使用Agent 调用外部工具的能力
MCP / Model Context Protocol模型上下文协议AI 连接工具的通用接口标准
A2A / Agent-to-AgentAgent 间通信协议Agent 之间对话的标准协议
Multi-Agent多智能体多个 Agent 协同工作

多模态

英文中文一句话
Multimodal多模态同时处理文字、图片、声音等多种信息
VLM / Vision Language Model视觉语言模型能”看图说话”的 AI
CLIPCLIP 模型把图片和文字映射到同一个向量空间
ViT / Vision Transformer视觉 Transformer用 Transformer 处理图像
Diffusion Model扩散模型从噪声中逐步”还原”出图像的生成模型
TTS / Text-to-Speech文字转语音把文字变成语音

评估

英文中文一句话
Benchmark基准测试标准化的模型能力测试
Hallucination幻觉模型编造事实
Ground Truth真实答案人工标注的正确结果
Precision精确率预测为正的样本中多少是真的
Recall召回率真正的正样本中多少被找到了
F1 ScoreF1 分数精确率和召回率的调和平均

相关笔记

关联4

知识图谱

局部图谱 · 点节点跳转