Skip to main content
Open on GitHub

ModelScope

ModelScope is a big repository of the models and datasets.

本页面介绍如何在 LangChain 中使用 modelscope 生态系统。 内容分为两部分：安装与设置，以及对特定 modelscope 封装的引用。

安装​

pip install -U langchain-modelscope-integration

前往 ModelScope 注册账号并生成 SDK令牌。完成后，请设置 MODELSCOPE_SDK_TOKEN 环境变量：

export MODELSCOPE_SDK_TOKEN=<your_sdk_token>

聊天模型​

ModelScopeChatEndpoint 类从 ModelScope 暴露聊天模型。可用模型请参见 此处。

from langchain_modelscope import ModelScopeChatEndpoint

llm = ModelScopeChatEndpoint(model="Qwen/Qwen2.5-Coder-32B-Instruct")
llm.invoke("Sing a ballad of LangChain.")

嵌入​

ModelScopeEmbeddings 类从 ModelScope 暴露嵌入功能。

from langchain_modelscope import ModelScopeEmbeddings

embeddings = ModelScopeEmbeddings(model_id="damo/nlp_corom_sentence-embedding_english-base")
embeddings.embed_query("What is the meaning of life?")

LLMs​

ModelScopeLLM 类从 ModelScope 暴露 LLMs。

from langchain_modelscope import ModelScopeLLM

llm = ModelScopeLLM(model="Qwen/Qwen2.5-Coder-32B-Instruct")
llm.invoke("The meaning of life is")