Ch10 LLM架构修订于 二〇二六年七月二日
10.9 LLM选型决策框架
面对 2026 年琳琅满目的 LLM 选择，如何做出理性决策？以下框架从三个维度提供结构化指导。
10.9.1 维度一：任务类型 → 推荐模型
| 任务场景 | 首选模型 | 备选方案 | 决策理由 |
|---|---|---|---|
| 通用对话/写作 | Claude Opus 4.8 | GPT-5.5 | 写作质量更高，长上下文更稳定 |
| 代码生成/调试 | GPT-5.5 | DeepSeek-V4 | Agent 工具调用最成熟，代码补全准确率高 |
| 数学/科学推理 | DeepSeek-V4 | GPT-5.5 | R1 风格推理链，成本仅为 GPT-5.5 的 1/30 |
| 超长文档分析（>200K） | Gemini 3.5 Pro | Claude Opus 4.8 | 2M 窗口是唯一选择，且缓存命中价格低 |
| 中文内容创作 | Qwen 3.7 | GLM 5.2 | 中文语料训练最充分，多尺寸可选 |
| 多模态理解（图像+视频） | Gemini 3.5 Pro | GPT-5.5 | 视频理解原生支持，且与 Google 生态集成 |
| 企业内部知识库 RAG | DeepSeek-V4（本地） | Qwen 3.7（本地） | 开源可私有化部署，数据不出企业网络 |
| 法律/医疗/合规 | Claude Opus 4.8 | GPT-5.5 | 宪法 AI 训练，幻觉率低，安全性最高 |
| 边缘设备/手机端 | Qwen 3.7（0.5B-7B） | GLM 5.2（小尺寸） | 全尺寸开源，量化后可在手机端运行 |
| 大规模批量推理 | DeepSeek-V4 | Qwen 3.7 | 价格仅为 GPT-5.5 的 1/30-1/100 |
10.9.2 维度二：预算 → 推荐方案
| 月预算 | 推荐方案 | 典型配置 | 适用场景 |
|---|---|---|---|
| 零预算（免费） | 开源模型本地部署 | DeepSeek-V4 + Ollama + Open WebUI | 个人开发者、学习探索、原型验证 |
| 低预算（<$50/月） | 混合方案 | Qwen 3.7（本地日常）+ GPT-5.5（关键任务） | 独立开发者、小型创业团队 |
| 中预算（500/月） | API 分层策略 | 主力：DeepSeek-V4 API；高难度任务：Claude/GPT API | 中小型企业、成长期 SaaS 产品 |
| 高预算（5000/月） | 多模型并行 | GPT-5.5 + Claude + Gemini 按任务路由 | 中型企业核心业务、AI 原生应用 |
| 企业预算（$5000+/月） | 混合云+私有化 | 本地部署开源模型 + 云端闭源模型兜底 | 金融、医疗、政务等数据敏感行业 |
成本优化技巧：
- 优先使用缓存命中（prompt caching），重复的系统提示词可以节省 50-75% 的 API 费用
- 对简单任务使用小模型路由（如先用 Qwen 3.7 分类，仅复杂任务才调用 GPT-5.5）
- 批处理离线任务（如批量 embedding、批量分类）使用异步 API，有 50% 的价格折扣
- 监控 token 消耗，避免在 prompt 中重复发送相同的大段上下文
10.9.3 维度三：隐私需求 → 本地 vs 云端
| 隐私等级 | 适用场景 | 推荐方案 | 部署方式 |
|---|---|---|---|
| 低（公开数据） | 公开博客、通用客服、社交媒体分析 | 直接调用云端 API | GPT-5.5 / Claude / Gemini API |
| 中（内部数据） | 内部知识库、员工问答、代码审查 | API + 数据脱敏 | 闭源 API + 敏感信息过滤网关 |
| 高（机密数据） | 财务报表、客户 PII、医疗记录、法律文件 | 本地私有化部署 | DeepSeek-V4 / Qwen 3.7 + 私有云 |
| 极高（绝密） | 国防、核心知识产权、商业秘密 | 气隙环境（air-gapped）部署 | 开源模型 + 离线环境 + 硬件加密 |
私有化部署选型指南：
| 硬件配置 | 可运行模型 | 推理速度 | 适用场景 |
|---|---|---|---|
| 单张 RTX 4090（24GB） | Qwen 3.7 7B（量化） | 快 | 简单对话、文本分类、摘要 |
| 单张 H100/A100（80GB） | Qwen 3.7 72B（量化） | 中 | 中等复杂度任务、代码生成 |
| 4×H200（141GB×4） | DeepSeek-V4（671B） | 中 | 复杂推理、企业级 RAG |
| 8×H200 集群 | DeepSeek-V4 + 多模型并行 | 快 | 大规模并发、高可用生产环境 |
最终决策口诀：
- 数据能出公司吗？不能 → 本地部署开源模型（DeepSeek-V4 或 Qwen 3.7）
- 任务需要顶尖推理吗？需要 → GPT-5.5 或 Claude Opus 4.8
- 上下文超过 200K 吗？超过 → Gemini 3.5 Pro
- 预算有限吗？有限 → DeepSeek-V4 API 或本地 Qwen 3.7
- 只做中文场景？→ Qwen 3.7 或 GLM 5.2
← 上一节：10.8 2026年主流LLM能力对比 ｜ 下一节：章首 →
注释
-
Gartner, “Market Guide for AI Foundation Models”, 2026 ↩
-
a16z, “LLM Inference Stack 2026”, https://a16z.com/llm-inference-stack-2026/ ↩
-
Sebastian Raschka, “LLM Selection Guide 2026”, https://magazine.sebastianraschka.com/ ↩