Skip to main content
Open on GitHub

Runhouse

本页面介绍了如何在LangChain中使用Runhouse生态系统。 内容分为三个部分：安装与设置、大型语言模型（LLMs）以及嵌入（Embeddings）。

安装与设置​

  • 使用 pip install runhouse 安装 Python SDK
  • 如果你想使用按需集群，请使用 sky check 检查你的云凭证

自托管的大型语言模型​

对于基本的自托管LLM，您可以使用SelfHostedHuggingFaceLLM类。对于更高级的自定义LLM，您可以使用SelfHostedPipeline父类。

from langchain_community.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

有关自托管大型语言模型的更详细演练，请参阅此笔记本

自托管嵌入​

通过 Runhouse 使用自托管嵌入与 LangChain 有几种方法。

对于基于Hugging Face Transformers模型的基本自托管嵌入，您可以使用 SelfHostedEmbedding 类。

from langchain_community.llms import SelfHostedPipeline, SelfHostedHuggingFaceLLM

有关自托管嵌入的更详细演练，请参阅此笔记本