SparkLLM 聊天
讯飞的SparkLLM聊天模型API。欲了解更多信息,请访问讯飞开放平台。
基本用法
"""For basic init and call"""
from langchain_community.chat_models import ChatSparkLLM
from langchain_core.messages import HumanMessage
chat = ChatSparkLLM(
spark_app_id="<app_id>", spark_api_key="<api_key>", spark_api_secret="<api_secret>"
)
message = HumanMessage(content="Hello")
chat([message])
API 参考:ChatSparkLLM | HumanMessage
AIMessage(content='Hello! How can I help you today?')
- 从科大讯飞星火API控制台获取SparkLLM的app_id、api_key和api_secret(更多信息,请参阅科大讯飞星火介绍),然后设置环境变量
IFLYTEK_SPARK_APP_ID、IFLYTEK_SPARK_API_KEY和IFLYTEK_SPARK_API_SECRET,或者在创建ChatSparkLLM时传递参数,如上面的示例所示。
对于启用了流式传输的ChatSparkLLM
chat = ChatSparkLLM(
spark_app_id="<app_id>",
spark_api_key="<api_key>",
spark_api_secret="<api_secret>",
streaming=True,
)
for chunk in chat.stream("Hello!"):
print(chunk.content, end="")
Hello! How can I help you today?
对于 v2
"""For basic init and call"""
from langchain_community.chat_models import ChatSparkLLM
from langchain_core.messages import HumanMessage
chat = ChatSparkLLM(
spark_app_id="<app_id>",
spark_api_key="<api_key>",
spark_api_secret="<api_secret>",
spark_api_url="wss://spark-api.xf-yun.com/v2.1/chat",
spark_llm_domain="generalv2",
)
message = HumanMessage(content="Hello")
chat([message])
API 参考:ChatSparkLLM | HumanMessage