跳转至

如何部署自托管数据平面

在部署之前,请查看自托管数据平面部署选项的概念指南。

重要提示

自托管数据平面部署选项需要企业版计划。

先决条件

  1. 使用 LangGraph CLI 在本地测试你的应用程序。
  2. 使用 LangGraph CLI 构建 Docker 镜像(即 langgraph build)并将其推送到你的 Kubernetes 集群或 Amazon ECS 集群有权访问的注册表。

Kubernetes

先决条件

  1. 在你的集群上安装 KEDA。

    helm repo add kedacore https://kedacore.github.io/charts
helm install keda kedacore/keda --namespace keda --create-namespace

  2. 在你的集群上安装有效的 Ingress 控制器。

  3. 你的集群中有足够的空间用于多个部署。建议使用 Cluster-Autoscaler 自动配置新节点。
  4. 你需要启用对两个控制平面 URL 的出站访问。监听器会轮询这些端点以获取部署:
    https://api.host.langchain.com
https://api.smith.langchain.com

设置

  1. 你向我们提供你的 LangSmith 组织 ID。我们将为你的组织启用自托管数据平面。
  2. 我们为你提供一个 Helm 图表,你运行它来设置你的 Kubernetes 集群。此图表包含一些重要组件。
    1. langgraph-listener: 这是一个服务,用于监听 LangChain 的控制平面以获取你的部署的更改,并创建/更新下游 CRD。
    2. LangGraphPlatform CRD: 用于 LangGraph Platform 部署的 CRD。这包含用于管理 LangGraph Platform 部署实例的规范。
    3. langgraph-platform-operator: 此操作员处理对你的 LangGraph Platform CRD 的更改。

  3. 配置你的 langgraph-dataplane-values.yaml 文件。

    config:
  langsmithApiKey: "" # 你的工作区的 API 密钥
  langsmithWorkspaceId: "" # 工作区 ID
  hostBackendUrl: "https://api.host.langchain.com" # 仅在 EU 时覆盖
  smithBackendUrl: "https://api.smith.langchain.com" # 仅在 EU 时覆盖

  4. 部署 langgraph-dataplane Helm 图表。

    helm repo add langchain https://langchain-ai.github.io/helm/
helm repo update
helm upgrade -i langgraph-dataplane langchain/langgraph-dataplane --values langgraph-dataplane-values.yaml

  5. 如果成功,你将看到两个服务在你的命名空间中启动。

    NAME                                          READY   STATUS              RESTARTS   AGE
langgraph-dataplane-listener-7fccd788-wn2dx   0/1     Running             0          9s
langgraph-dataplane-redis-0                   0/1     ContainerCreating   0          9s

  6. 你从控制平面 UI 创建部署。

Amazon ECS

即将推出!