技术实践

先说背景：我们团队去年要做个企业级问答系统，模型用的 Qwen2-72B。

AI向量数据库笔记上手并不难，难的是稳定跑起来。

向量化把文本变成可计算距离的坐标，这篇记录切分、嵌入和相似度检索的踩坑。

去年开始跟微软那边合作搞 InternLM 的时候，我也想过这个问题：一个国内的模型，为什么微软会感兴趣？

这让我意识到，关键词搜索和语义搜索各有优劣，真正的解决方案应该是将两者结合起来——也就是所谓的"混合搜索"。

一开始没有直接上 SFT，是因为几个现实的限制：

2. **计算效率问题**：图像分辨率高的话，计算量会爆炸

三个月前接手一个用户流失预测项目时，我像往常一样打开 Jupyter Notebook，准备走一遍"数据清洗-…

大模型应用开发相关的坑，多半出在边界条件上。

最近在做一个内部的知识问答系统，遇到的问题很典型：预训练的大模型虽然啥都能答，但在我们垂直领域…