索引 / 标签
#技术栈
共 7 篇
- Ch22 技术全景
22.1 全栈架构
概念 AI 应用不是"一个模型",而是一组技术像楼房的楼层一样叠在一起的技术栈(tech stack)。就像你点外卖:你打开手机 App(应用层),App 把你的订单发给商家管理后台(编排层)
约 6 分钟1,831 字 - Ch22 技术全景
22.2 推理引擎:从云端到边缘
模型训练好之后,让它"干活"的过程叫推理(inference)。一个 700 亿参数的模型如果用最原始的方式运行,单次回答可能要等几十秒,而且一张显卡只能服务一个请求。推理引擎就是在模型和用户之间架设的加速层,让同一个模型跑得更快、服务更多人、消耗更少显存。
约 3 分钟1,008 字 - Ch22 技术全景
22.3 Agent 框架:选型指南
概念 Agent 是能自主规划和执行任务流的 AI 程序。普通对话模型是你问一句它答一句的"答题机器",Agent 则像一个"助理":接到任务后自己决定先做什么、再做什么、遇到问题调用什么工具
约 4 分钟1,284 字 - Ch22 技术全景
22.4 微调技术:SFT -> LoRA -> DPO 管线
概念 基座模型像一个通识教育毕业的大学生 -- 什么都知道一点,但不会写你公司的周报格式,不知道你团队内部的术语,也不理解你希望它用什么语气跟客户说话。微调(fine-tuning)就是让这个
约 5 分钟1,642 字 - Ch22 技术全景
22.5 RAG 技术栈
RAG(Retrieval-Augmented Generation,检索增强生成)解决的是大模型最根本的限制:知识截止日期。模型在训练结束后,世界还在变化,新知识持续产生。RAG 的思路很直觉:让模型回答前先去"翻书"。
约 5 分钟1,455 字 - Ch22 技术全景
22.6 多模态模型一览
多模态(multimodal)指 AI 不止能处理文字,还能理解和生成图像、语音、视频等多种信息形式。就像人类不仅会读书写字,还会看图、听声音、看视频 -- 多模态模型让 AI 也具备了这些"感官能力"。
约 4 分钟1,232 字 - Ch22 技术全景
第22章 · 2026 AI 技术全景
本章给出一张全栈地图。知道"有什么"比知道"怎么用"更优先 -- 当你知道 vLLM 存在,自然会去查怎么部署;如果不知道,你可能以为只有 Ollama 一条路。 从应用层到训练层,七层架构逐
约 3 分钟853 字