4bit

最近想把一个7B参数的模型在公司的AI对话场景里进行微调，让它更懂我们的业务术语和回复风格。