本文详解如何在 langchain 中构建支持对话记忆（memory）、文档检索（retriever）与动态摘要机制（map_reduce）的 qa 链，并说明 map_reduce 本质即为应对长上下文超限场景而设计的分治式推理策略。
本文详解如何在 langchain 中构建支持对话记忆（memory）、文档检索（retriever）与动态摘要机制（map_reduce）的 qa 链，并说明 map_reduce 本质即为应对长上下文超限场景而设计的分治式推理策略。
在 LangChain 的链式架构中，map_reduce 并非“可选开关”，而是一种内置的、面向长文本处理的鲁棒性策略：当检索返回的文档片段总 token 数超出 LLM 上下文窗口限制时，它会自动将各段落分别摘要（Map 阶段），再将多个摘要合并后二次提炼（Reduce 阶段），最终生成符合 token 约束的连贯回答。因此，无需手动判断 token 超限——只要配置 chain_type="map_reduce"，框架即自动启用该流程。
但需注意：标准 ConversationalRetrievalChain 和 RetrievalQA 在设计上存在关键差异：
- ConversationalRetrievalChain 原生支持 memory（如 ConversationBufferMemory），但不支持 chain_type="map_reduce" —— 它仅提供 stuff 和 refine 模式；
- RetrievalQA.from_chain_type 支持 map_reduce，但默认不兼容对话记忆，因其原始设计聚焦单轮问答。
✅ 正确解法：使用 RetrievalQA 并显式注入 memory 实例到 chain_type_kwargs 中（LangChain v0.1+ 已支持此模式）。以下是完整、可运行的配置示例：
from langchain.chains import RetrievalQA
from langchain.memory import ConversationBufferMemory
from langchain.prompts import PromptTemplate
from langchain.chat_models import ChatOpenAI
# 1. 初始化记忆组件（支持多轮上下文）
memory = ConversationBufferMemory(
memory_key="chat_history",
return_messages=True, # 确保返回 Message 对象而非字符串
input_key="question",
output_key="answer"
)
# 2. 自定义 prompt（必须包含 chat_history 占位符）
prompt_template = """你是一个专业助手。请结合以下历史对话和最新问题，给出准确、简洁的回答。
聊天历史：
{chat_history}
最新问题：
{question}
相关文档：
{context}
请基于以上信息作答，不要编造内容。
"""
PROMPT = PromptTemplate(
template=prompt_template,
input_variables=["chat_history", "question", "context"]
)
# 3. 构建 map_reduce 链（关键：memory 传入 chain_type_kwargs）
qa_chain = RetrievalQA.from_chain_type(
llm=ChatOpenAI(model="gpt-4-turbo", temperature=0),
chain_type="map_reduce",
retriever=retriever, # 替换为你的 VectorStoreRetriever 实例
chain_type_kwargs={
"prompt": PROMPT,
"memory": memory # ✅ 显式注入 memory
},
return_source_documents=True,
verbose=True
)
# 使用示例
response = qa_chain({"question": "LangChain 的 Memory 如何工作？"})
print("答案：", response["answer"])
print("来源文档数：", len(response["source_documents"]))⚠️ 重要注意事项：
- Prompt 必须显式声明 {chat_history} 变量，否则 memory 不会被注入提示词；
- memory.return_messages=True 是与 ChatModel 兼容的前提（避免字符串/Message 类型冲突）；
- map_reduce 的 Reduce 阶段仍受模型最大输出长度限制，若摘要层级过深，可考虑调小 chain_type_kwargs["reduce_k"]（默认为 4）以控制中间摘要数量；
- 若需更高阶的对话状态管理（如槽位填充、意图识别），建议升级至 LangChain Expression Language（LCEL）范式，用 RunnableWithMessageHistory 组合 retriever + llm + memory，获得更灵活的控制权。
总结而言，map_reduce 是 LangChain 应对长文档问答的“安全阀”，而通过 RetrievalQA.from_chain_type 合理注入 memory，即可在保障 token 合规性的同时，实现真正意义上的有记忆、可检索、自适应摘要的智能问答链。
