ChatOctoAI

OctoAI 提供对高效计算的便捷访问，并允许用户将自选的AI模型集成到应用程序中。 OctoAI 计算服务帮助您轻松运行、调整和扩展AI应用程序。

本笔记本演示了如何使用 langchain.chat_models.ChatOctoAI 来调用 OctoAI 端点。

设置

要运行我们的示例应用程序，需要执行两个简单的步骤：

1. 从您的OctoAI账户页面获取API令牌。

2. 将您的API密钥粘贴到下面的代码单元格中，或者使用octoai_api_token关键字参数。

注意：如果你想使用不同于可用模型的其他模型，你可以将模型容器化并按照从Python构建容器和从容器创建自定义端点自行创建一个OctoAI自定义端点，然后更新你的OCTOAI_API_BASE环境变量。

import os

os.environ["OCTOAI_API_TOKEN"] = "OCTOAI_API_TOKEN"

from langchain_community.chat_models import ChatOctoAI
from langchain_core.messages import HumanMessage, SystemMessage

API 参考：ChatOctoAI | HumanMessage | SystemMessage

示例

chat = ChatOctoAI(max_tokens=300, model_name="mixtral-8x7b-instruct")

messages = [
    SystemMessage(content="You are a helpful assistant."),
    HumanMessage(content="Tell me about Leonardo da Vinci briefly."),
]
print(chat(messages).content)

莱昂纳多·达·芬奇（1452-1519）是一位意大利博学家，常被认为是历史上最伟大的画家之一。然而，他的天才远不止于艺术。他还是一名科学家、发明家、数学家、工程师、解剖学家、地质学家和制图师。

达芬奇最为人所知的是他的绘画作品，如《蒙娜丽莎》、《最后的晚餐》和《岩间圣母》。他的科学研究领先于他的时代，他的笔记本中包含了各种机器、人体解剖学和自然现象的详细图纸和描述。

尽管从未接受过正规教育，达芬奇那永无止境的好奇心和观察能力使他成为许多领域的先驱。他的作品至今仍激励并影响着艺术家、科学家和思想家。

相关

• 聊天模型 概念指南
• 聊天模型 操操作指南