索引 / 标签

#运维

共 8 篇

  1. Ch21 MLOps

    21.1 模型怎么变成服务

    训练完的模型是一个文件(几十 MB 到几十 GB)。用户不能直接"打开文件"使用——需要把它变成一个 API 服务(API 即应用程序接口,让其他程序可以通过网络发送请求、获取结果——就像餐厅的菜单:你按格式点菜,厨房按格式出菜)。

    约 3 分钟1,114 字
  2. Ch21 MLOps

    21.2 MLOps成熟度模型

    Google在2020年提出了MLOps成熟度模型,2026年仍然适用。理解你在哪个级别,能帮你决定下一步该做什么: Level 0:手动流程 - 特征:训练脚本是手写的,参数是手动调的,部署是手动复制文件的。没有版本管理,没有实验记录,没有人能复现三个月前的模型效果。 - 典型

    约 2 分钟607 字
  3. Ch21 MLOps

    21.3 实验管理

    训练一个机器学习模型不是"写一段代码,跑一次就完事"。你通常会尝试几十甚至上百组不同的配置:学习率从 0.0001 试到 0.1,batch size 从 8 试到 128,LoRA 的 r 值从 4 试到 64。每组配置跑一次训练,产生一个"实验"。

    约 6 分钟1,880 字
  4. Ch21 MLOps

    21.4 小型团队MLOps最低可行方案

    如果你是一个3-5人的小团队,不需要Kubernetes集群、不需要CI/CD流水线、不需要AutoML。以下是最小可行工具集,按优先级排列: 第一优先:实验跟踪——MLflow(本地部署) 为什么:你调了10组参数,一周后完全记不住哪组最好。MLflow只需要3行代码就能记录实

    约 2 分钟618 字
  5. Ch21 MLOps

    21.6 生产监控

    模型上线之后,很多人以为"完事了"——模型在跑,API 在响应,监控面板一片绿。但实际上,模型在生产环境中是一个持续衰减的资产。不像传统的软件代码——只要不修改,同样的输入永远产生同样的输出。ML 模型面对的是一个不断变化的世界:用户的行为在变、语言的用法在变、新的概念和产品不断

    约 7 分钟2,276 字
  6. Ch21 MLOps

    21.7 CI/CD

    CI/CD 是 Continuous Integration / Continuous Deployment(持续集成 / 持续部署)的缩写。在传统软件开发中,CI/CD 意味着"代码提交 → 自动跑测试 → 自动打包 → 自动部署到服务器"。在 MLOps 中,CI/CD 的含

    约 6 分钟1,850 字
  7. Ch21 MLOps

    21.9 2026年MLOps趋势

    2026年,MLOps正在分化为三个新方向: LLMOps(大模型运维):传统MLOps管的是"训练自己的模型",LLMOps管的是"使用别人的大模型"。核心挑战不同: - 提示词管理:不是管理模型版本,而是管理提示词版本。一个提示词的微小改动("你是专家" vs "你是世界级专

    约 2 分钟630 字
  8. Ch21 MLOps

    第21章 . MLOps 基础

    你训练好了一个模型(Ch11 模型微调),怎么让它上线给别人用?怎么知道它在生产环境跑得好不好?怎么把模型更新从"手动折腾半天"变成"代码推送自动完成"?MLOps(机器学习运维)就是管这些事的。 MLOps 本质上是一套从实验到生产的工程化方法。它解决的核心问题是:数据科学家在

    约 2 分钟667 字