模型服务 高可用 架构设计 负载均衡模型服务架构踩坑记录最初的模型服务架构简单得不能再简单:一台 8 卡 A100 服务器,部署一个 Flask 服务,模型加载在显存里,外部请求通过 Nginx 转发… 醉月思📁 技术实践📅 2023-01-27