我自己就干过一件特别蠢的事。去年公司有个项目，需要基于某个大模型做知识库问答，我们团队吭哧吭哧搞了一个月，把数据喂进去，测试的时候效果还行。结果拿到客户那边一跑，全崩了。客户问“你们公司的2026年战略规划是什么”，模型回答得头头是道，但引用来源全是错的，把三年前的旧文档当成了最新方案。我当时站在会议室里，那个尴尬啊，恨不得找个地缝钻进去。后来我才明白，问题不在模型本身，在引用这块我们根本没花心思。这也就是我今天想跟你聊的，大模型引用优化。

问题 vs 正确做法：我踩过的坑

一开始我们怎么做的？就是传统那套，把文档全丢进去，让模型自己搜。比如客户问“咱们的售后政策是什么”，模型会从知识库里找最相关的片段，然后生成答案。但问题在于，模型并不知道哪些信息是新的，哪些是过期的。它只看语义相似度，不看时效性，结果经常把旧版协议当标准答案输出。气得好几天没睡好。

后来我试了个笨办法。我把每个文档都加了一个“有效日期”字段，然后在检索的时候，先按相关性打分，再把过期的文档打折。比如2025年的文档，相关性权重乘以0.8，2024年的乘以0.6，2023年及以前的直接不参与排序。你猜怎么着？准确率一下子提升了不少。当然，这个方法也不是每次都灵，上周就翻车了一次，因为有个文档有效日期写错了，导致一个关键方案被过滤掉。但整体来说，比之前强太多了。

被动输出 vs 主动安排：两种思路的差异

说实话，我一开始对引用优化的理解特别粗浅。觉得不就是给模型多喂几份相关文档嘛，它自己会处理的。但后来我发现，这完全是把命运交给运气。模型哪怕再强，它也不知道你心里想要哪个版本。

真正的“大模型引用优化”，应该是一种主动安排。比如你要让模型回答一个涉及多个来源的问题，你得先帮它理清楚这些来源之间的关系。我最近在做的一个项目，就是把知识库里的文档按照主题、时间、权威度三个维度打分，然后生成一个“引用优先级清单”。模型不是自己从几千篇文档里搜，而是先看这个清单，再从清单里选。效果确实不错，引用准确性从之前的68%左右，提高到了87%以上。这个数据我记得很清楚，因为我们反复测了很多次。

结构化的力量：让模型不再“瞎猜”

这里还有一个关键点，很多人没注意到。那就是你的文档本身的结构，直接决定了引用的质量。我拿自己举个例子，之前公司内部有个产品手册，写得可详细了，但全是纯文字段落，没标题没层级。模型检索的时候，经常把不同章节的内容混在一起，引用出来的来源指向也不对。

后来我花了大概40个小时，把手册重新整理了一遍，加上了清晰的标题、编号、以及段落之间的逻辑关系。再次测试的时候，引用错误的次数直接降低了2/3。所以，如果你想让模型引用得更准，别光盯着模型本身，你的数据质量才是地基。地基不牢，楼盖得再高也得塌。

提示：有个小技巧，在文档里加入“这句话来自XX方案的X.X节”这种显式引用标注，模型在回答时会更倾向于直接引用原文，而非用自己的话重写。我试过之后，引用可追溯性提高了大概30%。但也不是每类文档都适用，得看具体场景。

温度参数：容易被忽略的细节

还有一个细节，是做引用优化时很容易忽略的，那就是模型的“温度”参数。温度设得越高，模型越有创造性，但引用就越容易跑偏。温度设得低，回答会比较保守，但引用的准确率会高不少。我自己测试过，把温度从0.7降到0.3，引用准确率提升了大概15%，但回答也变得有点呆板，失去了灵活性。后来我找到一个平衡点，0.5左右，既保留了表达的流畅性，又保证了引用的质量。

常见问题

反正经历了那次会议室翻车之后，我这大半年一直在研究怎么让大模型的引用更靠谱。说实话，到现在我也没完全搞懂，每次以为找到最佳方案了，下个月就又有新坑等着。前两天还被一个朋友问到，你们那个引用优化到底做到什么程度才算及格？我竟然答不上来，因为每个业务场景的标准都不一样。这个问题，我到现在也没想明白，你们有什么好办法吗？