使用 Docker 自托管 LangSmith

需要企业许可证

自托管 LangSmith 是企业版计划的一项附加功能，专为规模最大、安全要求最高的客户设计。详情请参阅我们的 定价页面；如需获取许可证密钥以在您的环境中试用 LangSmith，请联系 sales@langchain.dev。

本指南提供了在本地使用 Docker 安装和配置 LangSmith 环境的操作说明。您可以通过 LangSmith SDK 或直接使用 Docker Compose 来完成此操作。

先决条件

1. 确保已在您的系统上安装并运行 Docker。您可以通过运行以下命令来验证：
   docker info
   如果输出中未显示任何服务器信息，请确保已正确安装 Docker 并启动 Docker 守护进程。
   1. 推荐配置：您的机器至少配备 4 个虚拟 CPU（vCPU）和 16GB 内存。
      • 您可能需要根据组织规模和使用情况，为我们的各项不同服务调整资源请求/限制。
   2. 磁盘空间：LangSmith 可能需要大量磁盘空间，请确保您有充足的可用磁盘空间。
2. LangSmith 许可证密钥
   1. 您可向 LangChain 官方代表获取此信息。如需了解更多信息，请联系 sales@langchain.dev。
3. API 密钥盐值
   1. 这是一个您可以生成的密钥。它应为一串随机字符。
   2. 您可以使用以下命令生成此内容：
   openssl rand -base64 32
4. 出口到https://beacon.langchain.com（若未处于离线模式）
   1. LangSmith 需要向外连接至 https://beacon.langchain.com 以进行许可证验证和使用情况报告。这是 LangSmith 正常运行所必需的。您可以在 外发连接（Egress） 章节中找到有关外发连接要求的更多信息。
5. 配置
   1. 您可以在 .env 文件中设置若干配置选项。有关可用配置选项的更多信息，请参阅 配置 部分。

通过 Docker Compose 运行

以下说明了如何使用 Docker Compose 运行 LangSmith。这是在不使用 Kubernetes 的情况下运行 LangSmith 最灵活的方式。Docker Compose 的默认配置仅适用于本地测试，不适用于任何服务暴露在公共互联网上的场景。在生产环境中，我们强烈建议使用经过安全加固的 Kubernetes 环境。

1. 获取 LangSmith docker-compose.yml 文件

您可在此处的 LangSmith SDK 仓库中找到 docker-compose.yml 文件及相关文件：LangSmith Docker Compose 文件

将 LangSmith SDK 中的 docker-compose.yml 文件及该目录下的所有文件复制到您的项目目录中。

• 请确保同时复制 users.xml 文件。

2. 配置环境变量

1. 将 LangSmith SDK 中的 .env.example 文件复制到您的项目目录，并将其重命名为 .env。
2. 在 .env 文件中配置适当的值。您可以在 配置 部分查看可用的配置选项。

您也可以直接在 docker-compose.yml 文件中设置这些环境变量，或在终端中通过 export 命令导出。我们建议在 .env 文件中进行设置。

2. 启动服务器

在终端中执行以下命令，启动 LangSmith 应用程序：

docker-compose up

您还可以通过运行以下命令在后台启动服务器：

docker-compose up -d

验证您的部署：

1. 使用 curl 命令访问 cli-langchain-frontend-1 容器暴露的端口：

   curl localhost:1980/info
   {"version":"0.5.7","license_expiration_time":"2033-05-20T20:08:06","batch_ingest_config":{"scale_up_qsize_trigger":1000,"scale_up_nthreads_limit":16,"scale_down_nempty_trigger":4,"size_limit":100,"size_limit_bytes":20971520}}

2. 在浏览器中访问 cli-langchain-frontend-1 容器的暴露端口

   LangSmith 用户界面应在 http://localhost:1980 处可见/可正常运行

   

检查日志

如果在任何时候你想检查服务器是否正在运行并查看日志，请运行

docker-compose logs

停止服务器

docker-compose down

使用 LangSmith

现在 LangSmith 已启动运行，您可以开始使用它来追踪您的代码。有关如何使用自托管 LangSmith 的更多信息，请参阅 自托管使用指南。

您的 LangSmith 实例当前正在运行，但可能尚未完全配置完成。

如果您使用了其中一种基础配置，那么您可能部署了一个无需身份验证的配置。 在此状态下，系统不进行身份验证，也没有用户账户或 API 密钥的概念；只要向 LangChain 追踪器 / LangSmith SDK 传入主机名，即可直接提交追踪数据，而无需提供 API 密钥。

下一步，强烈建议您与基础设施管理员协作，以：

• 为您的 LangSmith 实例配置 DNS，以实现更便捷的访问
• 配置 SSL，以确保提交到 LangSmith 的追踪数据在传输过程中得到加密。
• 为 LangSmith 配置 OAuth 认证 或 基本认证，以保障您的 LangSmith 实例安全
• 安全访问您的 Docker 环境，以限制仅 LangSmith 前端和 API 可以访问
• 将 LangSmith 连接到受保护的 PostgreSQL 和 Redis 实例