技术实践

这篇东西主要梳理一件事：从手动记实验笔记到用 MLflow 做自动化追踪，中间踩了哪些坑，哪些问题是真问题，哪些是臆想出来的需求。

很多人一上来就讲AI文档检索的全景图；我更想先把这次卡住的点说清楚。

从单一的模型调用到复杂的工作流编排，中间到底跨越了哪些坑，以及怎么才能尽量少踩一点。

他们去年上线的推荐模型，看起来一切正常：预测延迟在100ms以内，接口错误率接近0，监控面板绿油油的。

知识库项目按榜单上了 GPT-4，效果没问题，账单超预算 50%。

这次做知识图谱项目，从 NER 到图数据库，中间折腾了三个月，踩的坑比想的多。

这次的具体需求有三个硬指标： 1. 模型大小要控制在 500MB 以内（目标设备是 4GB …

增长本身没问题，但有几个迹象不太对： 1. 成本曲线不是平滑的，有些天莫名其妙高 30-50% 2. 同样功能的 API 调用，成本差异明显 …

最近在做一个 AI 应用的升级，从 v1.0 迁移到 v2.0。

前阵子AI交叉编码器笔记连续改了几轮，趁还记得写成备忘。