跳转至

如何部署独立容器

在部署之前,请查看独立容器部署选项的概念指南。

先决条件

  1. 使用 LangGraph CLI 在本地测试你的应用程序
  2. 使用 LangGraph CLI 构建 Docker 镜像(即 langgraph build)。
  3. 独立容器部署需要以下环境变量。

    1. REDIS_URI: Redis 实例的连接详细信息。Redis 将用作发布-订阅代理,以启用从后台运行流式传输实时输出。REDIS_URI 的值必须是有效的 Redis 连接 URI

      共享 Redis 实例

      多个自托管部署可以共享同一个 Redis 实例。例如,对于 Deployment A,可以将 REDIS_URI 设置为 redis://<hostname_1>:<port>/1,对于 Deployment B,可以将 REDIS_URI 设置为 redis://<hostname_1>:<port>/2

      12 是同一实例中的不同数据库编号,但 <hostname_1> 是共享的。相同的数据库编号不能用于单独的部署

    2. DATABASE_URI: Postgres 连接详细信息。Postgres 将用于存储助手、线程、运行、持久化线程状态和长期内存,以及使用"恰好一次"语义管理后台任务队列的状态。DATABASE_URI 的值必须是有效的 Postgres 连接 URI

      共享 Postgres 实例

      多个自托管部署可以共享同一个 Postgres 实例。例如,对于 Deployment A,可以将 DATABASE_URI 设置为 postgres://<user>:<password>@/<database_name_1>?host=<hostname_1>,对于 Deployment B,可以将 DATABASE_URI 设置为 postgres://<user>:<password>@/<database_name_2>?host=<hostname_1>

      <database_name_1>database_name_2 是同一实例中的不同数据库,但 <hostname_1> 是共享的。相同的数据库不能用于单独的部署

    3. LANGGRAPH_CLOUD_LICENSE_KEY: (如果使用企业版)LangGraph Platform 许可证密钥。这将在服务器启动时用于一次性身份验证。

    4. LANGSMITH_ENDPOINT: 要将跟踪发送到自托管 LangSmith 实例,请将 LANGSMITH_ENDPOINT 设置为自托管 LangSmith 实例的主机名。
    5. 从你的网络出站访问 https://beacon.langchain.com。如果不在气隙模式下运行,则需要此访问权限以进行许可证验证和使用情况报告。有关更多详细信息,请参阅出站流量文档

Kubernetes (Helm)

使用此 Helm 图表将 LangGraph Server 部署到 Kubernetes 集群。

Docker

运行以下 docker 命令:

docker run \
    --env-file .env \
    -p 8123:8000 \
    -e REDIS_URI="foo" \
    -e DATABASE_URI="bar" \
    -e LANGSMITH_API_KEY="baz" \
    my-image

Note

  • 你需要将 my-image 替换为在先决条件步骤中构建的镜像名称(来自 langgraph build),并且应为 REDIS_URIDATABASE_URILANGSMITH_API_KEY 提供适当的值。
  • 如果你的应用程序需要其他环境变量,你可以以类似的方式传递它们。

Docker Compose

Docker Compose YAML 文件:

volumes:
    langgraph-data:
        driver: local
services:
    langgraph-redis:
        image: redis:6
        healthcheck:
            test: redis-cli ping
            interval: 5s
            timeout: 1s
            retries: 5
    langgraph-postgres:
        image: postgres:16
        ports:
            - "5433:5432"
        environment:
            POSTGRES_DB: postgres
            POSTGRES_USER: postgres
            POSTGRES_PASSWORD: postgres
        volumes:
            - langgraph-data:/var/lib/postgresql/data
        healthcheck:
            test: pg_isready -U postgres
            start_period: 10s
            timeout: 1s
            retries: 5
            interval: 5s
    langgraph-api:
        image: ${IMAGE_NAME}
        ports:
            - "8123:8000"
        depends_on:
            langgraph-redis:
                condition: service_healthy
            langgraph-postgres:
                condition: service_healthy
        env_file:
            - .env
        environment:
            REDIS_URI: redis://langgraph-redis:6379
            LANGSMITH_API_KEY: ${LANGSMITH_API_KEY}
            POSTGRES_URI: postgres://postgres:postgres@langgraph-postgres:5432/postgres?sslmode=disable

你可以在与此 Docker Compose 文件相同的文件夹中运行命令 docker compose up

这将在端口 8123 上启动 LangGraph Server(如果你想更改此端口,可以通过更改 langgraph-api 卷中的端口来更改)。你可以通过运行以下命令来测试应用程序是否健康:

curl --request GET --url 0.0.0.0:8123/ok
假设一切正常运行,你应该会看到如下响应:

{"ok":true}