大模型应用开发 / 系统课时
条件分支与并行执行
条件分支与并行执行
有些业务场景需要根据输入内容走不同处理路径,或者同时执行多个互不依赖的任务以节省时间。本课学习使用条件分支和并行执行来实现这类需求。
学习目标
- 掌握使用 RunnableBranch 实现条件路由
- 掌握使用 RunnableParallel 实现并行执行
- 能够判断何时使用分支、何时使用并行
主示例
以下链条根据问题类型路由到不同的处理提示词,另用并行方式生成摘要和关键词。两个入口彼此独立,定义后需显式调用:
import os
from langchain_core.runnables import RunnableBranch, RunnableParallel
from langchain_core.prompts import ChatPromptTemplate
from langchain_core.output_parsers import StrOutputParser
from langchain_openai import ChatOpenAI
model = ChatOpenAI(model=os.environ["OPENAI_MODEL"], timeout=30, max_retries=1)
parser = StrOutputParser()
code_chain = ChatPromptTemplate.from_template("以代码专家身份回答:{question}") | model | parser
general_chain = ChatPromptTemplate.from_template("以通用助手身份回答:{question}") | model | parser
router = RunnableBranch(
(lambda x: "代码" in x["question"] or "报错" in x["question"], code_chain),
general_chain,
)
parallel = RunnableParallel(
summary=ChatPromptTemplate.from_template("总结:{text}") | model | parser,
keywords=ChatPromptTemplate.from_template("提取关键词:{text}") | model | parser,
)
router_result = router.invoke({"question": "这段 Python 代码为什么报错?"})
parallel_result = parallel.invoke({"text": "LangChain 支持条件分支与并行编排。"})
print(router_result)
print(sorted(parallel_result))预期结果:第一行围绕代码问题回答,具体措辞由模型决定;第二行固定为两个结果键。
<针对代码问题的回答>
['keywords', 'summary']
输出验证
调用 router.invoke({"question": "这段 Python 代码为什么报错?"}) 预期路由到代码专家链,返回围绕代码问题的回答;调用 parallel.invoke({"text": "..."}) 预期同时返回 summary 和 keywords 两个字段:
{'summary': '...', 'keywords': '...'}关键边界
RunnableBranch 按顺序判断条件,匹配第一个为真的分支后立即执行,因此条件顺序会影响路由结果;RunnableParallel 中的各个分支之间不应存在依赖关系,如果后一个分支需要用到前一个分支的结果,应使用顺序链而不是并行结构。
路由条件与并发资源分别验收
关键词条件只是教学规则,不是可靠的意图分类器。例如“不要写代码,只解释概念”仍会匹配代码分支。将条件提取成可测试函数,覆盖首个匹配、多个匹配和无匹配,并为无匹配设置明确默认路径;如果改用模型分类,还要验证分类输出和失败回退。
并行的两个分支接收同一份输入,不能假设 summary 的结果会出现在 keywords 分支里。每个分支都可能调用模型,查询量和峰值并发会增加,并不是把两次调用变成一次。使用配置中的 max_concurrency 限制并发时,还要结合嵌套链与服务商限流观察实际请求数。
本地测试用固定输出验证两个键都存在、每个分支得到正确输入;网络测试再测延迟和限流。不要断言并发执行时某个分支必定先完成。一个分支失败时,是否整体失败、返回部分结果或使用回退,需要在业务入口明确,不能依赖字典输出推断。
分支内若修改共享列表或全局状态,可能产生竞争。优先返回独立值,最后合并;外部写入则应加幂等约束。原图表达的是路由选择与并行汇总的区别,不能据此推断真实请求恰好在同一时刻开始。