索引 / 标签
共 2 篇
模型压缩是用各种技术把大模型"变小变快"，让它在普通硬件上也能跑——核心方法包括量化、蒸馏、剪枝、低秩分解。
Ch11 模型微调 讲了怎么让模型学会新技能。深挖-模型量化 讲了怎么让模型变小。但还有个更聪明的方法：让大模型当老师，教小模型。 这就是模型蒸馏。
常用