索引 / 标签

#模型部署

共 1 篇

  1. Ch20 推理部署

    深挖-量化

    一句话理解 模型量化(Quantization)是将神经网络中原本用 32-bit 浮点数(FP32)表示的权重和激活值,转换为更低精度(如 FP16、INT8、INT4)的数值表示,从而大幅

    约 6 分钟1,894 字