索引 / 标签

#技术栈

共 7 篇

  1. Ch22 技术全景

    22.1 全栈架构

    概念 AI 应用不是"一个模型",而是一组技术像楼房的楼层一样叠在一起的技术栈(tech stack)。就像你点外卖:你打开手机 App(应用层),App 把你的订单发给商家管理后台(编排层)

    约 6 分钟1,831 字
  2. Ch22 技术全景

    22.2 推理引擎:从云端到边缘

    模型训练好之后,让它"干活"的过程叫推理(inference)。一个 700 亿参数的模型如果用最原始的方式运行,单次回答可能要等几十秒,而且一张显卡只能服务一个请求。推理引擎就是在模型和用户之间架设的加速层,让同一个模型跑得更快、服务更多人、消耗更少显存。

    约 3 分钟1,008 字
  3. Ch22 技术全景

    22.3 Agent 框架:选型指南

    概念 Agent 是能自主规划和执行任务流的 AI 程序。普通对话模型是你问一句它答一句的"答题机器",Agent 则像一个"助理":接到任务后自己决定先做什么、再做什么、遇到问题调用什么工具

    约 4 分钟1,284 字
  4. Ch22 技术全景

    22.4 微调技术:SFT -> LoRA -> DPO 管线

    概念 基座模型像一个通识教育毕业的大学生 -- 什么都知道一点,但不会写你公司的周报格式,不知道你团队内部的术语,也不理解你希望它用什么语气跟客户说话。微调(fine-tuning)就是让这个

    约 5 分钟1,642 字
  5. Ch22 技术全景

    22.5 RAG 技术栈

    RAG(Retrieval-Augmented Generation,检索增强生成)解决的是大模型最根本的限制:知识截止日期。模型在训练结束后,世界还在变化,新知识持续产生。RAG 的思路很直觉:让模型回答前先去"翻书"。

    约 5 分钟1,455 字
  6. Ch22 技术全景

    22.6 多模态模型一览

    多模态(multimodal)指 AI 不止能处理文字,还能理解和生成图像、语音、视频等多种信息形式。就像人类不仅会读书写字,还会看图、听声音、看视频 -- 多模态模型让 AI 也具备了这些"感官能力"。

    约 4 分钟1,232 字
  7. Ch22 技术全景

    第22章 · 2026 AI 技术全景

    本章给出一张全栈地图。知道"有什么"比知道"怎么用"更优先 -- 当你知道 vLLM 存在,自然会去查怎么部署;如果不知道,你可能以为只有 Ollama 一条路。 从应用层到训练层,七层架构逐

    约 3 分钟853 字