OpenGradient
OpenGradient 是一个去中心化的人工智能计算网络,可实现全球访问、无需许可且可验证的机器学习模型推理。
OpenGradient 的 langchain 包目前提供了一个工具包,允许开发人员为 OpenGradient 网络上的模型构建自己的自定义机器学习推理工具。这在过去是一个挑战,因为大型模型参数具有污染上下文窗口的特性——想象一下,你不得不给你的代理一个 200x200 的浮点数据数组!
该工具包通过将所有数据处理逻辑封装在工具定义本身中来解决这个问题。这种方法保持了代理上下文窗口的清洁,同时为开发人员提供了完全的灵活性,以实现其机器学习模型的自定义数据处理和实时数据检索。
安装与设置
确保你拥有一个 OpenGradient API 密钥,以便访问 OpenGradient 网络。如果你已经有一个 API 密钥,只需设置环境变量:
!export OPENGRADIENT_PRIVATE_KEY="your-api-key"
如果需要设置新的 API 密钥,请下载 opengradient SDK 并按照说明初始化新配置。
!pip install opengradient
!opengradient config init
一旦你设置了 API 密钥,就可以安装 langchain-opengradient 包。
pip install -U langchain-opengradient
OpenGradient 工具包
OpenGradientToolkit 赋予开发者基于部署在 OpenGradient 去中心化网络上的机器学习模型和工作流创建专用工具的能力。此集成使 LangChain 代理能够在保持高效上下文使用的同时访问强大的机器学习功能。
主要优势
-
🔄 实时数据集成 - 在您的工具中处理实时数据流
-
🎯 动态处理 - 适应特定代理输入的自定义数据管道
-
🧠 上下文效率 - 在不超出上下文窗口的情况下处理复杂的机器学习操作
-
🔌 无缝部署 - 轻松集成到已接入 OpenGradient 网络的模型
-
🔧 完全自定义 - 通过OpenGradient SDK创建并部署您自己的特定模型,然后基于它们构建自定义工具
-
🔐 可验证推理 - 所有推理均在去中心化的 OpenGradient 网络上运行,用户可以选择多种安全模式,例如 ZKML 和 TEE,以实现无需信任且可验证的模型执行。
有关详细示例和实现指南,请查看我们的全面教程。