问题: 处理长文档摘要时如何设计分层提示词模板

👇 点击展开/折叠 面试背诵模板（建议先背这个） 长文档摘要的分层提示词模板遵循“金字塔式”结构，从下往上依次是：① 分块摘要层（Chunk-level），将长文档切分为语义完整的块，为每块单独生成摘要；② 聚合摘要层（Aggregate-level），将多个分块摘要组合为段落级或章节级摘要；③ 全局摘要层（Global-level），汇总所有上层摘要生成文档整体摘要。每层需设计独立提示词模板：底层侧重“忠实提取核心事实”，中层侧重“合并归纳与去重”，顶层侧重“提炼主旨与逻辑贯通”。关键设计原则包括：每层输出长度逐级压缩（如每块150字→章节300字→全文500字）、强制要求保留关键实体与数字、通过迭代追问补全遗漏信息。工程实现可借助MapReduce模式或递归摘要（Recursive Summarization）框架。
---

一、分层设计的必要性（为何不能一次生成）

长文档（如科研论文、财报、法律文书）远超模型上下文窗口或虽在窗口内但注意力严重偏向首尾，单次摘要会丢失中间关键信息。分层策略通过“分而治之”降低每步认知负载，确保信息覆盖完整。

二、三层结构详解

① 分块摘要层（Chunk-level）

  • 目标：从每个文本块（如500-1000字）提取核心事实。
  • 提示词要点：命令模型“列出该段落中的关键实体、数据、事件和结论”，禁止添加个人评价，只做提取。
  • 输出格式示例：[块ID] 关键点1；关键点2；...

② 聚合摘要层（Aggregate-level）

  • 目标：将多个块摘要合并为更大单元（如章节或主题群组），消除重复。
  • 提示词要点：要求“将以下多个片段合并为连贯的段落，删除重复信息，按逻辑关系（因果/时间/对比）组织”。
  • 输出格式示例：[章节名] 合并后摘要段落

③ 全局摘要层（Global-level）

  • 目标：从上层摘要中提炼全文主旨，写出完整、连贯的文档摘要。
  • 提示词要点：要求“从上文摘要中提炼出文档的核心问题、主要观点、结论和关键支撑证据，用流畅的段落呈现”。
  • 输出可附“关键数据表”或“时间线”作为附录。

三、每层提示词模板范例

分块层提示词：

1
2
3
4
5
6
请提取以下文本块中的关键信息，只输出事实，不添加解释或评价。
文本块：【插入文本】
输出格式：- 关键实体：...
           - 重要数据：...
           - 核心事件：...
           - 结论/观点：...

聚合层提示词：

1
2
3
4
5
6
以下是同一章节的多个文本块摘要，请将它们合并为一个连贯的段落，注意：
1. 合并重复内容
2. 按逻辑顺序组织（时间/因果/问题-解决）
3. 保留所有关键数字和专有名词
输入摘要列表：【插入多个块摘要】
输出：【一段连贯摘要，不超过300字】

全局层提示词：

1
2
3
4
5
6
基于以下各个章节的摘要，为整份文档撰写一份完整摘要（500字以内）：
- 要求包含：文档背景、核心问题、主要发现、最终结论
- 保持逻辑连贯，段落自然
- 最后附上3-5个关键词
章节摘要列表：【插入各章聚合摘要】
输出：【完整摘要】

四、关键设计原则与技巧

  • 逐级压缩比率：底层不压缩（或轻度压缩），每层压缩约50%，最终摘要为原文的5%-10%。
  • 强制保留信息要素：在每层提示词中明确要求保留“时间、地点、人物、数据、因果关系”，避免摘要变成泛泛而谈。
  • 交叉验证：全局摘要生成后，用原文关键段对摘要中的事实做抽样校验（如用LLM检查“摘要中的X数据在原文何处出现”），减少幻觉。
  • 递归摘要（Recursive Summarization）：对于超长文档，可不断将摘要再聚合，多次迭代直到达到目标长度，适合单层模型能力不足的场景。
  • 缓存中间结果：分块摘要可缓存，当文档部分更新时只需重新计算变更块，节省成本。

五、工具与框架支持

  • LangChain的MapReduceDocumentsChain：实现“分块摘要→合并摘要”的标准MapReduce模式。
  • LangChain的RefineDocumentsChain：迭代优化摘要，每次用一个块更新已有摘要，适合流式处理。
  • LlamaIndex的树状摘要（Tree Summaries）：构建文档树，自底向上生成摘要。

六、质量评估要点

对长文档摘要的评估应侧重：① 信息覆盖度（原文关键点是否都在摘要中出现）；② 忠实度（摘要事实是否与原文一致）；③ 冗余度（摘要是否包含重复或无关内容）；④ 连贯性（段落衔接是否自然）。可通过建立人工评估集或使用RAGAS的Faithfulness指标进行自动化评估。