对话模型

服务器是 24GB 显存的 RTX 3090，这个配置跑大的模型会比较吃紧，所以从一开始就要在模型选择和优化上下功夫。