智能代理架构

许多 LLM 应用程序在 LLM 调用之前和/或之后实现特定的控制流步骤。例如，RAG 执行与用户问题相关的文档检索，并将这些文档传递给 LLM，以便在提供的文档上下文中基础化模型的响应。

我们有时希望 LLM 系统能够选择自己的控制流来解决更复杂的问题，而不是硬编码固定的控制流！这是智能代理的一个定义：智能代理是使用 LLM 来决定应用程序控制流的系统。 LLM 可以通过多种方式控制应用程序：

• LLM 可以在两个潜在路径之间路由
• LLM 可以决定调用多个工具中的哪一个
• LLM 可以决定生成的答案是否足够或需要更多工作

因此，有许多不同类型的智能代理架构，它们赋予 LLM 不同级别的控制。

路由器

路由器允许 LLM 从指定的选项集中选择单个步骤。这是一种智能代理架构，表现出相对有限的控制级别，因为 LLM 通常专注于做出单一决策，并从有限的预定义选项集中产生特定输出。路由器通常采用几个不同的概念来实现这一点。

结构化输出

LLM 的结构化输出通过提供 LLM 应在其响应中遵循的特定格式或架构来工作。这类似于工具调用，但更通用。虽然工具调用通常涉及选择和使用预定义的函数，但结构化输出可用于任何类型的格式化响应。实现结构化输出的常见方法包括：

1. 提示工程：通过系统提示指示 LLM 以特定格式响应。
2. 输出解析器：使用后处理从 LLM 响应中提取结构化数据。
3. 工具调用：利用某些 LLM 的内置工具调用能力来生成结构化输出。

结构化输出对于路由至关重要，因为它们确保 LLM 的决策可以被系统可靠地解释和执行。在此操作指南中了解更多关于结构化输出的信息。

工具调用智能代理

虽然路由器允许 LLM 做出单一决策，但更复杂的智能代理架构以两种关键方式扩展了 LLM 的控制：

1. 多步决策：LLM 可以连续做出一系列决策，而不是只做一个。
2. 工具访问：LLM 可以选择并使用各种工具来完成任务。

ReAct 是一种流行的通用智能代理架构，结合了这些扩展，集成了三个核心概念。

1. 工具调用：允许 LLM 根据需要选择和使用各种工具。
2. 记忆：使智能代理能够保留和使用先前步骤的信息。
3. 规划：赋予 LLM 创建和遵循多步计划以实现目标的能力。

这种架构允许更复杂和灵活的智能代理行为，超越简单的路由，实现具有多个步骤的动态问题解决。与原始论文不同，今天的智能代理依赖于 LLM 的工具调用能力，并在消息列表上运行。

在 LangGraph 中，你可以使用预构建的智能代理来开始使用工具调用智能代理。

工具调用

每当你希望智能代理与外部系统交互时，工具都很有用。外部系统(例如 API)通常需要特定的输入架构或有效载荷，而不是自然语言。当我们将 API 绑定为工具时，我们让模型了解所需的输入架构。模型将根据用户的自然语言输入选择调用工具，并返回符合工具所需架构的输出。

许多 LLM 提供商支持工具调用，LangChain 中的工具调用接口很简单：你只需将任何 Python function 传递到 ChatModel.bind_tools(function) 中即可。

记忆

记忆对于智能代理至关重要，使它们能够在问题解决的多个步骤中保留和利用信息。它在不同规模上运作：

1. 短期记忆：允许智能代理访问在序列的早期步骤中获取的信息。
2. 长期记忆：使智能代理能够回忆起先前交互中的信息，例如对话中的过去消息。

LangGraph 提供对记忆实现的完全控制：

• State：用户定义的架构，指定要保留的记忆的确切结构。
• Checkpointer：在会话中的不同交互中在每个步骤存储状态的机制。
• Store：跨会话存储用户特定或应用程序级别数据的机制。

这种灵活的方法允许你根据特定的智能代理架构需求定制记忆系统。有效的记忆管理增强了智能代理维护上下文、从过去经验中学习以及随着时间的推移做出更明智决策的能力。有关添加和管理记忆的实用指南，请参阅记忆。

规划

在工具调用智能代理中，LLM 在 while 循环中重复调用。在每个步骤，智能代理决定调用哪些工具，以及这些工具的输入应该是什么。然后执行这些工具，并将输出作为观察结果反馈给 LLM。当智能代理决定它有足够的信息来解决用户请求并且不值得再调用任何工具时，while 循环终止。

自定义智能代理架构

虽然路由器和工具调用智能代理(如 ReAct)很常见，但自定义智能代理架构通常会为特定任务带来更好的性能。LangGraph 提供了几个强大的功能来构建定制的智能代理系统：

人机协同

人类参与可以显著增强智能代理的可靠性，特别是对于敏感任务。这可能涉及：

• 批准特定操作
• 提供反馈以更新智能代理的状态
• 在复杂决策过程中提供指导

当完全自动化不可行或不可取时，人机协同模式至关重要。在我们的人机协同指南中了解更多信息。

并行化

并行处理对于高效的多智能代理系统和复杂任务至关重要。LangGraph 通过其 Send API 支持并行化，实现：

• 多个状态的并发处理
• 实现类似 map-reduce 的操作
• 高效处理独立子任务

有关实际实现，请参阅我们的 map-reduce 教程

子图

子图对于管理复杂的智能代理架构至关重要，特别是在多智能代理系统中。它们允许：

• 为单个智能代理隔离状态管理
• 智能代理团队的分层组织
• 智能代理与主系统之间的可控通信

子图通过状态架构中的重叠键与父图通信。这实现了灵活的模块化智能代理设计。有关实现详细信息，请参阅我们的子图操作指南。

反思

反思机制可以通过以下方式显著提高智能代理的可靠性：

1. 评估任务完成和正确性
2. 提供反馈以进行迭代改进
3. 启用自我纠正和学习

虽然通常基于 LLM，但反思也可以使用确定性方法。例如，在编码任务中，编译错误可以用作反馈。这种方法在此视频中使用 LangGraph 进行自我纠正代码生成中得到了演示。

通过利用这些功能，LangGraph 能够创建复杂的、特定于任务的智能代理架构，可以处理复杂的工作流、有效协作并持续提高其性能。