剪枝

要把一个 7B 语言模型塞进 8GB 内存的边缘设备——这不是"优化一下体验"，是硬件硬顶在那儿。

项目里那个 7B 参数的模型训练好了，部署到推理服务器上时，CPU 占用直接拉满，延迟干到了 3 秒多。