Skip to main content
Open In ColabOpen on GitHub

如何在聊天模型中使用少样本示例

前置条件

本指南假设您熟悉以下概念：

本指南介绍如何使用示例输入和输出来提示聊天模型。向模型提供几个这样的示例称为 少样本学习，这是一种简单而强大的方法，可以引导生成过程，并在某些情况下显著提升模型性能。

关于如何最好地执行少样本提示似乎没有统一的共识，且最佳的提示编译方式可能因模型而异。因此，我们提供了如FewShotChatMessagePromptTemplate这样的少样本提示模板作为灵活的起点，您可以根据需要修改或替换它们。

少样本提示模板的目标是根据输入动态选择示例，然后将这些示例格式化到最终提示中以提供给模型。

注意：以下代码示例仅适用于聊天模型，因为FewShotChatMessagePromptTemplates旨在输出格式化的聊天消息，而非纯字符串。如需与完成模型（LLM）兼容的纯字符串模板的少样本提示示例，请参阅少样本提示模板指南。

固定示例​

最基本的（也是最常见的）少样本提示技术是使用固定的提示示例。通过这种方式，您可以选择一个链、评估它，并避免担心生产环境中额外的变动部分。

模板的基本组件是：

  • examples: 要包含在最终提示中的字典示例列表。
  • example_prompt: 通过其 format_messages 方法将每个示例转换为一条或多条消息。一个常见的例子是将每个示例转换为一则人类消息和一则 AI 消息响应，或是一则人类消息后接一则函数调用消息。

以下是简单的演示。首先，定义您希望包含的示例。让我们给大语言模型一个不熟悉的数学运算符，用“🦜”表情符号表示：

%pip install -qU langchain langchain-openai langchain-chroma

import os
from getpass import getpass

if "OPENAI_API_KEY" not in os.environ:
    os.environ["OPENAI_API_KEY"] = getpass()

如果我们尝试询问模型该表达式的结果，它将失败：

from langchain_openai import ChatOpenAI

model = ChatOpenAI(model="gpt-4o-mini", temperature=0.0)

model.invoke("What is 2 🦜 9?")
API 参考:ChatOpenAI
AIMessage(content='The expression "2 🦜 9" is not a standard mathematical operation or equation. It appears to be a combination of the number 2 and the parrot emoji 🦜 followed by the number 9. It does not have a specific mathematical meaning.', response_metadata={'token_usage': {'completion_tokens': 54, 'prompt_tokens': 17, 'total_tokens': 71}, 'model_name': 'gpt-4o-mini', 'system_fingerprint': None, 'finish_reason': 'stop', 'logprobs': None}, id='run-aad12dda-5c47-4a1e-9949-6fe94e03242a-0', usage_metadata={'input_tokens': 17, 'output_tokens': 54, 'total_tokens': 71})

现在让我们看看，如果我们给大语言模型一些示例供其参考，会发生什么。我们将在下面定义一些示例：

from langchain_core.prompts import ChatPromptTemplate, FewShotChatMessagePromptTemplate

examples = [
    {"input": "2 🦜 2", "output": "4"},
    {"input": "2 🦜 3", "output": "5"},
]

接下来，将它们组装成少样本提示模板。

# This is a prompt template used to format each individual example.
example_prompt = ChatPromptTemplate.from_messages(
    [
        ("human", "{input}"),
        ("ai", "{output}"),
    ]
)
few_shot_prompt = FewShotChatMessagePromptTemplate(
    example_prompt=example_prompt,
    examples=examples,
)

print(few_shot_prompt.invoke({}).to_messages())
[HumanMessage(content='2 🦜 2'), AIMessage(content='4'), HumanMessage(content='2 🦜 3'), AIMessage(content='5')]

最后，我们组装最终的提示词如下所示，将 few_shot_prompt 直接传入 from_messages 工厂方法，并将其与模型配合使用：

final_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a wondrous wizard of math."),
        few_shot_prompt,
        ("human", "{input}"),
    ]
)

现在让我们向模型提出初始问题，看看它的表现如何：

from langchain_openai import ChatOpenAI

chain = final_prompt | model

chain.invoke({"input": "What is 2 🦜 9?"})
API 参考:ChatOpenAI
AIMessage(content='11', response_metadata={'token_usage': {'completion_tokens': 1, 'prompt_tokens': 60, 'total_tokens': 61}, 'model_name': 'gpt-4o-mini', 'system_fingerprint': None, 'finish_reason': 'stop', 'logprobs': None}, id='run-5ec4e051-262f-408e-ad00-3f2ebeb561c3-0', usage_metadata={'input_tokens': 60, 'output_tokens': 1, 'total_tokens': 61})

我们可以看到，模型现在已从给定的少样本示例中推断出鹦鹉表情符号代表加法！

动态少样本提示​

有时您可能希望仅从整体集中选择少数示例，以便根据输入进行展示。为此，您可以将传递给 examples 的占位符替换为 FewShotChatMessagePromptTemplate 和 example_selector。其他组件与上述相同！我们的动态少样本提示模板将如下所示：

  • example_selector: 负责为给定输入选择少样本示例（以及返回它们的顺序）。这些实现 BaseExampleSelector 接口。一个常见的例子是基于向量存储的 SemanticSimilarityExampleSelector
  • example_prompt: 通过其 format_messages 方法将每个示例转换为一条或多条消息。一个常见的例子是将每个示例转换为一则人类消息和一则人工智能消息响应，或者是一则人类消息后跟一则函数调用消息。

这些内容可以再次与其他消息和聊天模板组合，以构建您的最终提示。

让我们通过一个使用SemanticSimilarityExampleSelector的示例来 walkthrough。由于此实现使用向量存储库基于语义相似性选择示例，我们首先希望填充该存储库。这里的基本思想是我们希望搜索并返回与文本输入最相似的示例，因此我们对提示示例的values进行嵌入，而不是考虑键：

from langchain_chroma import Chroma
from langchain_core.example_selectors import SemanticSimilarityExampleSelector
from langchain_openai import OpenAIEmbeddings

examples = [
    {"input": "2 🦜 2", "output": "4"},
    {"input": "2 🦜 3", "output": "5"},
    {"input": "2 🦜 4", "output": "6"},
    {"input": "What did the cow say to the moon?", "output": "nothing at all"},
    {
        "input": "Write me a poem about the moon",
        "output": "One for the moon, and one for me, who are we to talk about the moon?",
    },
]

to_vectorize = [" ".join(example.values()) for example in examples]
embeddings = OpenAIEmbeddings()
vectorstore = Chroma.from_texts(to_vectorize, embeddings, metadatas=examples)

创建 example_selector​

有了向量存储后，我们可以创建example_selector。这里我们将单独调用它，并设置k以仅获取与输入最接近的两个示例。

example_selector = SemanticSimilarityExampleSelector(
    vectorstore=vectorstore,
    k=2,
)

# The prompt template will load examples by passing the input do the `select_examples` method
example_selector.select_examples({"input": "horse"})
[{'input': 'What did the cow say to the moon?', 'output': 'nothing at all'},
 {'input': '2 🦜 4', 'output': '6'}]

创建提示模板​

我们现在使用上面创建的 example_selector 组装提示模板。

from langchain_core.prompts import ChatPromptTemplate, FewShotChatMessagePromptTemplate

# Define the few-shot prompt.
few_shot_prompt = FewShotChatMessagePromptTemplate(
    # The input variables select the values to pass to the example_selector
    input_variables=["input"],
    example_selector=example_selector,
    # Define how each example will be formatted.
    # In this case, each example will become 2 messages:
    # 1 human, and 1 AI
    example_prompt=ChatPromptTemplate.from_messages(
        [("human", "{input}"), ("ai", "{output}")]
    ),
)

print(few_shot_prompt.invoke(input="What's 3 🦜 3?").to_messages())
[HumanMessage(content='2 🦜 3'), AIMessage(content='5'), HumanMessage(content='2 🦜 4'), AIMessage(content='6')]

我们可以将这个少样本聊天消息提示模板传递给另一个聊天提示模板：

final_prompt = ChatPromptTemplate.from_messages(
    [
        ("system", "You are a wondrous wizard of math."),
        few_shot_prompt,
        ("human", "{input}"),
    ]
)

print(few_shot_prompt.invoke(input="What's 3 🦜 3?"))
messages=[HumanMessage(content='2 🦜 3'), AIMessage(content='5'), HumanMessage(content='2 🦜 4'), AIMessage(content='6')]

与聊天模型配合使用​

最后，您可以将模型连接到少样本提示。

chain = final_prompt | ChatOpenAI(model="gpt-4o-mini", temperature=0.0)

chain.invoke({"input": "What's 3 🦜 3?"})
AIMessage(content='6', response_metadata={'token_usage': {'completion_tokens': 1, 'prompt_tokens': 60, 'total_tokens': 61}, 'model_name': 'gpt-4o-mini', 'system_fingerprint': None, 'finish_reason': 'stop', 'logprobs': None}, id='run-d1863e5e-17cd-4e9d-bf7a-b9f118747a65-0', usage_metadata={'input_tokens': 60, 'output_tokens': 1, 'total_tokens': 61})

下一步​

您现在已学会如何向聊天提示中添加少样本示例。

接下来，请查看本节中关于提示模板的其他操操作指南，相关的使用文本完成模型进行少样本学习操操作指南，或其他示例选择器操操作指南。