如何禁用并行工具调用
Provider-specific
此 API 目前仅支持 OpenAI 和 Anthropic。
OpenAI 工具调用默认以并行方式执行工具调用。这意味着,如果我们问诸如"东京、纽约和芝加哥的天气如何?"这样的问题,并且我们有一个获取天气的工具,它就会并行调用该工具3次。我们可以使用 parallel_tool_call 参数强制它仅调用一次单个工具。
首先让我们设置我们的工具和模型:
from langchain_core.tools import tool
@tool
def add(a: int, b: int) -> int:
"""Adds a and b."""
return a + b
@tool
def multiply(a: int, b: int) -> int:
"""Multiplies a and b."""
return a * b
tools = [add, multiply]
API 参考:工具
import os
from getpass import getpass
from langchain.chat_models import init_chat_model
if "OPENAI_API_KEY" not in os.environ:
os.environ["OPENAI_API_KEY"] = getpass()
llm = init_chat_model("openai:gpt-4.1-mini")
API 参考:init_chat_model
现在让我们展示一个快速示例,说明如何禁用并行工具调用:
llm_with_tools = llm.bind_tools(tools, parallel_tool_calls=False)
llm_with_tools.invoke("Please call the first tool two times").tool_calls
[{'name': 'add',
'args': {'a': 2, 'b': 2},
'id': 'call_Hh4JOTCDM85Sm9Pr84VKrWu5'}]
正如我们所见,尽管我们明确指示模型调用工具两次,但通过禁用并行工具调用,模型被限制为仅能调用一次。