Pipeshift

Pipeshift is a fine-tuning and inference platform for open-source LLMs

• 你带来你的数据集。微调多个大型语言模型。一键开始推理，并见证它们扩展到百万级别。

安装与设置

• 安装Pipeshift集成包。

  pip install langchain-pipeshift

• 通过在Pipeshift注册获取您的Pipeshift API密钥。

认证

您可以使用您的 Pipeshift API 密钥通过以下任何一种方式进行身份验证：

1. 将API密钥添加到环境变量中，值为PIPESHIFT_API_KEY。

   os.environ["PIPESHIFT_API_KEY"] = "<your_api_key>"

2. 通过向pipeshift LLM模块或聊天模块传递api_key

   llm = Pipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)
   
                       OR
   
   chat = ChatPipeshift(api_key="<your_api_key>", model="meta-llama/Meta-Llama-3.1-8B-Instruct", max_tokens=512)

聊天模型

查看一个示例。

from langchain_pipeshift import ChatPipeshift

LLMs

查看一个示例。

from langchain_pipeshift import Pipeshift