很多企业选择 Llama，是因为开放权重便于本地部署和行业适配。但模型下载完成后，真正困难的问题才开始：怎样让它理解公司的产品手册、制度、合同和历史案例？常见方案包括提示词示例、RAG 检索增强、参数高效微调以及结合检索与训练的 RAFT。不同方案解决的问题不同，选错会造成成本增加却没有效果。
先判断企业究竟缺知识还是缺能力
如果模型不知道公司最新价格、库存和制度，这是“知识缺失”，更适合 RAG。系统在回答前从文档库检索相关片段，再把内容交给 Llama 生成答案。文档更新后只需重新索引，不必训练模型。客服知识库、内部制度问答和产品资料通常属于这一类。
如果模型已经看到正确资料，却总是不能按照固定格式分类、提取字段或遵循行业表达，这是“行为或能力不足”，可以考虑微调。微调通过高质量输入输出样本，让模型学习稳定任务模式，但它不适合记忆经常变化的事实。
四种适配方式怎么选择
第一是上下文示例，也叫 ICL。把两三个标准答案放进提示词，成本最低，适合验证需求。第二是 RAG，适合动态文档和需要引用来源的问答。第三是 PEFT 等参数高效微调，只更新少量参数，比全量微调节省资源，适合格式、语气和特定任务。第四是 RAFT，通过训练模型更好地利用检索结果，并学会忽略无关材料，适合普通 RAG 已经搭好但复杂问题准确率仍不够的场景。
企业不应一开始就做全量微调。Meta 的公开技术文章也建议先从成本更低的方法验证，包括提示词和 RAG。当基础模型能力不足或任务非常稳定时，再进入微调。这样更容易区分问题来自模型、数据、检索还是业务规则。
一套可落地的实施流程
第一步整理文档，删除重复、过期和相互矛盾版本。第二步建立评测集，至少准备五十到一百个真实问题，并由业务人员给出标准答案和必须引用的证据。第三步搭建基础 RAG，记录检索到的片段和最终回答。第四步分析失败案例：没有检索到资料就优化切分和召回；检索正确但回答错误再考虑提示词或微调。
第五步建立权限过滤。用户只能检索自己有权查看的文档，权限判断应发生在内容送入 Llama 之前。第六步要求回答附带来源和文档更新时间。第七步上线后持续收集低分问题，但不能把所有用户输入直接当训练数据，必须先脱敏和人工审核。
RAFT 什么时候值得使用
当问题需要综合多个文档、检索结果中常混入相似但错误内容，或者模型容易忽略关键证据时，RAFT 才可能带来价值。训练样本要同时包含正确文档和干扰文档，让模型学习识别真正依据。它比普通 RAG 复杂，需要训练资源和严格评测，不适合文档很少的小项目。
如果企业只有几十份稳定文件，先优化文档结构和检索质量往往更有效。很多所谓“模型不懂业务”，实际是扫描 PDF 识别错误、标题缺失、段落切分不合理或权限过滤后没有返回任何资料。
成本和安全怎么控制
本地 Llama 可以减少外部数据传输，但仍需保护向量数据库、日志、模型服务和备份。推理账号应使用最小权限，敏感文档分库管理。成本方面，要同时计算 GPU、索引更新、上下文长度和维护人力，而不是只比较模型是否免费。
正确路线通常是：先用提示词做最小验证，再做 RAG，建立稳定评测后决定是否微调，最后才考虑 RAFT 或更复杂训练。企业知识库的质量最终取决于数据治理和持续评测，而不是单纯换一个更大的 Llama 模型。
信息来源：Meta 官方关于大模型适配、RAG、微调及 RAFT 的技术文章。本文结合企业实施流程进行原创整理。
