RAG 常见问题 15 问
汉水信息 · 2026-11-16
知识库问答项目的 15 个高频追问:技术选型、切分参数、多知识库、图片表格、冷启动、语言混杂、更新同步、评测达标线等,一问一答给出可执行结论。
技术选型与起步
Q1:RAG 和微调到底怎么选?一句话:知识经常变、答案要引用出处的场景(九成企业知识库)选 RAG;表达风格、输出格式、领域推理这些「模型自身能力」问题才考虑微调。详见《先别急着微调》决策树。
Q2:向量数据库选哪个?企业千万级以下文档块,开源方案(Milvus、Qdrant、pgvector 等)都绰绰有余,选决策点放在运维熟悉度与现有技术栈兼容。别为想象中的十亿级向量提前上分布式——多数知识库永远到不了那个量。
Q3:嵌入模型必须用多新的?中文企业语料,成熟的中文友好嵌入模型(BGE 系列)与更新的模型在实际检索质量的差距远小于切分策略的影响。优先把链路调对,模型升级是便宜的迭代。
Q4:最少多少文档值得做?几百份高质量文档就值得(人工翻找已经费劲);几十份的话先共享文件夹加搜索——量太小用不上语义检索。
切分与解析
Q5:块大小设多少?结构化文档按标题层级切(一个叶子章节一块,自然落在 300-800 字);无结构文本 400 到 600 字加重叠 50 到 100。比「最优值」更重要的原则:同一文档类型用同一种策略、调整后回归评测。
Q6:PDF 表格全乱了怎么办?表格感知解析器还原成 Markdown 结构再入库;复杂表格考虑不进向量库,走结构化查询。乱码表格进库不仅自己答不了,还污染检索。
Q7:文档里有大量图片和流程图?初配:图注与上下文文字照常入库,图片本身暂缓;有需求时上多模态模型生成图片描述入向量库(成本与效果要评估);流程图转文字描述的效果通常好于直接检索图片。
检索与质量
Q8:检索结果不准,先动哪里?排查顺序:重排序(没上就先上,性价比第一)→ 切分(看关键块是否被切碎)→ 混合检索(编号文号类问题必加 BM25)→ 查询改写(口语转规范)。别上来就换模型。
Q9:多个知识库(制度、产品、案例)怎么管?统一索引加分域元数据(来源库标记),检索时可全量可按需过滤。反对「每个库独立一套问答」——用户的问题不带库标签,跨库检索是常态需求。
Q10:中英混杂、缩写黑话多怎么办?三招:查询改写层的术语映射表(黑话到正式名称)、文档预处理时保留双语对照、评测集纳入此类问题盯命中率。
Q11:文档更新怎么同步?增量管道:文档变更触发重新解析与入库(覆盖旧版本块),配合版本元数据(时间倒序取最新)。做不到实时的话,日级批量同步对企业场景足够——关键是旧块必须清干净,新旧并存是答案打架的主因。
运营与验收
Q12:评测指标多少算达标?常见约定参考:检索命中率(标准出处进前五)八成、答案忠实度九成、拒答正确率八成(库里没有的题别硬答)。不同行业敏感度不同——医疗金融把忠实度线提到更高,其余放宽。
Q13:上线后答案质量慢慢变差?三个嫌疑:知识库新增了矛盾或过期内容(查无答案率与冲突条目)、分布漂移(新话题没进库)、链路参数被顺手改过(查变更记录)。运营周会盯两条曲线:命中率与无答案率。
Q14:怎么引导用户问得更好?答案侧:追问与建议问题(「你可能想问」)帮用户收敛;引导侧:入口命名贴业务(「制度查询」好于「AI 助手」);长尾口语问题靠查询改写兜底,别指望教育用户。
Q15:RAG 会不会很快被长上下文模型淘汰?长上下文降低了对检索精度的要求,但改变不了三件事:知识要更新(塞窗口是静态的)、要溯源(长上下文引不出处)、要成本与延迟可控(每次全套文档进窗口又贵又慢)。二者是配合关系:检索负责「给对材料」,长窗口负责「宽容处理」。
Q16:知识库要做分词/关键词索引吗?要做,这就是混合检索里 BM25 那一路。中文场景下关键词索引的价值常被低估——文号、型号、人名地名这类精确串,向量检索命中率明显偏低,BM25 补的正是这块。索引建设是一次性工程成本,多数开源方案自带,开箱成本接近零。
Q17:多人同时上传文档会冲突吗?常见形态:同名不同版本的文件并存(制度 v2.doc 与 v2_最终版.doc)。入库层做文件哈希去重(完全相同自动跳过)、版本元数据标记(同 ID 新版本覆盖旧块),运营层立上传规范(命名含版本号)。这个治理动作价值极高——文档版本混乱是知识库质量的第一杀手。
Q18:RAG 项目最小团队配置?三角色起步:数据负责人(文档治理与切分策略,可由业务骨干兼任)、工程师(管线与集成)、评测与运营(评测集维护、badcase 归因,上线后每周固定投入)。PoC 阶段一人分饰三角可以做完,生产运营期至少保证评测与运营有专人——这个岗位缺位的知识库,半年内的命运可以参考《从 PoC 到生产线》的十六坑。
阅读建议:Q8 涉及的完整排查手册见《RAG 效果差,90% 不是模型的问题》;Q2-Q5 的路线图展开见《企业知识库从 0 到 1》。