记忆球

本页面介绍了如何在 LangChain 中使用 Remembrall 生态系统。

什么是Remembrall？

Remembrall 只需几行代码即可为您的语言模型提供长期记忆、检索增强生成以及完整的可观测性。

它在你的 OpenAI 调用之上充当一个轻量级代理，仅在运行时通过已收集的相关事实来增强聊天调用的上下文。

设置

开始之前，请在Remembrall平台上通过Github登录 并从设置页面复制您的API密钥。

任何使用修改后的 openai_api_base（见下文）和 Remembrall API 密钥发送的请求都会自动在 Remembrall 仪表板中进行跟踪。您永远不必与我们的平台共享您的 OpenAI 密钥，且此信息永远不会由 Remembrall 系统存储。

要做到这一点，我们需要安装以下依赖项：

pip install -U langchain-openai

启用长期记忆

除了通过 x-gp-api-key 设置 openai_api_base 和 Remembrall API 密钥外，您还应指定一个 UID 来保存记忆。这通常是唯一的用户标识符（如电子邮件）。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-remember": "user@email.com",
                            }
                        })

chat_model.predict("My favorite color is blue.")
import time; time.sleep(5)  # wait for system to save fact via auto save
print(chat_model.predict("What is my favorite color?"))

API 参考：ChatOpenAI

启用检索增强生成

首先，在 Remembrall 仪表板 中创建一个文档上下文。将文档文本粘贴进去，或将文档作为 PDF 文件上传以进行处理。保存文档上下文 ID，并按照以下方式插入它。

from langchain_openai import ChatOpenAI
chat_model = ChatOpenAI(openai_api_base="https://remembrall.dev/api/openai/v1",
                        model_kwargs={
                            "headers":{
                                "x-gp-api-key": "remembrall-api-key-here",
                                "x-gp-context": "document-context-id-goes-here",
                            }
                        })

print(chat_model.predict("This is a question that can be answered with my document."))

API 参考：ChatOpenAI