字
字节笔记本
2026年5月30日
中小企业做 RAG,不要一步到位
API中转
¥120
中小企业的 RAG 落地最常踩的坑是:想一步到位搭一套完美的系统,结果死在了第一步。
现实的做法是:先用最简单的方案跑通流程,再逐步优化。
第一步不用向量数据库。直接用关键词搜索或者 Elasticsearch 做基础检索,把"文档能找到"这件事先做起来。数据量上去后再切到向量检索。
第二步不用 Reranker。先看看纯向量检索的 TOP-K 效果,如果 TOP-5 中有正确答案就够用了。Reranker 是锦上添花,不是雪中送炭。
第三步不要定制化。先用量产模型和标准方案跑通,稳定运行后再考虑微调或定制。
中小企业的核心优势是灵活,不是资源。用最少的投入把 RAG 跑起来,比追求 99% 的准确率重要得多。
分享: