RAG系统经常不是模型不会回答，而是检索阶段把错误或过多内容塞进上下文。Cohere在2026年10月推出Rerank 5 Pro与Fast，新增Context Focus，可在文档内部标出真正相关的段落，而不只给整篇文档排序。官方还强调相关性分数经过校准，使团队能够用更稳定的阈值决定哪些证据进入大模型。
重排模型位于RAG哪一层
典型流程先用关键词或向量搜索快速召回几十到几百份候选文档，再用重排模型根据问题重新评分，最后把最相关内容交给生成模型。召回负责不漏，重排负责去噪。如果直接把向量相似度最高的内容全部发送给大模型，容易增加Token、延迟和错误证据，尤其在专业文档和复杂问题中更明显。
Pro和Fast应该怎样选择
Pro优先追求检索质量，适合金融、医疗、科研和复杂分析；Fast强调吞吐和响应速度，适合客服搜索、高频Agent和批量任务。选择时不要只看单次价格，要计算每个问题需要重排多少文档、生成模型因此减少多少Token，以及错误答案带来的人工成本。可以让Fast处理常规查询，把低置信或高风险问题升级到Pro。
Context Focus为什么重要
一份几十页的报告可能只有两句话与问题相关。段落级筛选可以只返回关键证据，减少无关上下文对模型的干扰。官方测试显示在一定阈值下可以明显减少Token，同时保持或改善回答准确率。实际部署仍需用自己的文档测试，因为合同、表格、扫描PDF和技术手册的结构差异很大，统一阈值未必适合所有业务。
相关性阈值怎么设置
不要固定取前五条就结束。可以根据校准分数设置最低门槛：没有文档达到门槛时，让系统改写查询、扩大搜索或明确回答“未找到依据”。阈值应在验证集上调试，分别观察召回率、准确率和平均Token。高风险问答宁可返回证据不足，也不要用排名第一但实际无关的内容强行生成答案。
一套可落地的评测流程
从真实日志抽取至少一百个问题，为每个问题标记相关文档和关键段落。比较原始搜索、旧重排和Rerank 5在前几名命中率、最终答案正确率、Token与延迟上的差异。加入无答案问题，检查系统是否会拒答。还要按语言、文档类型和部门拆分指标，避免总体平均值掩盖某一类资料明显退化。
上线时需要注意什么
重排输入可能包含企业敏感文档，应确认部署区域、日志策略和私有部署选项。对长文档先做可靠解析，保留页码、标题和表格位置，便于最终答案引用。缓存常见查询可以降低成本，但文档更新后必须失效。RAG质量来自解析、召回、重排、生成和引用共同作用，不能把全部问题寄托在单个新模型上。
信息来源与阅读建议
本文根据Cohere Rerank 5 Announcement公开资料整理，并结合国内团队常见的使用环境进行原创分析。产品功能、价格、开放地区和接口限制可能继续变化，正式采购或上线前应以官方页面为准。原始资料：Cohere Rerank 5 Announcement。
