为模型提供商使用自定义TLS证书
仅选择提供商
此功能目前仅对以下模型提供商可用:
- Azure OpenAI
- OpenAI
- 自定义(我们自定义的模型服务器)。有关更多信息,请参阅自定义模型服务器文档。
这些 TLS 设置将应用于所选模型提供商的所有调用,包括通过在线评估(Online Evaluation)使用时。
您可以在 LangSmith Playground 中使用自定义 TLS 证书连接模型提供商。当您使用自签名证书、来自自定义证书颁发机构的证书或双向 TLS 认证时,此功能非常有用。
如需使用自定义 TLS 证书,您需要设置以下环境变量。有关如何配置应用程序的详细信息,请参阅自托管部署部分。
LANGSMITH_PLAYGROUND_TLS_MODEL_PROVIDERS:需要自定义 TLS 证书的模型提供商列表(以英文逗号分隔)。请注意,目前仅azure_openai、openai和custom这三个模型提供商支持自定义 TLS 证书,未来将支持更多提供商。LANGSMITH_PLAYGROUND_TLS_CA: 自定义证书颁发机构(CA)证书,采用 PEM 格式。该证书必须为文件路径(对应已挂载的卷)。- [可选]
LANGSMITH_PLAYGROUND_TLS_KEY:PEM 格式的私钥。该值必须为文件路径(对应已挂载的卷)。通常仅在需要双向 TLS 认证时才需提供此参数。 - [可选]
LANGSMITH_PLAYGROUND_TLS_CERT:PEM 格式的证书。该值必须为文件路径(对应已挂载的卷)。此选项通常仅在需要双向 TLS 认证时才必需。
设置好这些环境变量后,进入 Playground 并选择需要自定义 TLS 证书的模型提供商。 像往常一样设置您的模型提供商配置,连接到该模型提供商时将使用自定义 TLS 证书。
