Google 于 11 月 19 日推出工具检索预览,改变了向 Gemini 提供大型函数库的方式。开发者可延迟提供参数结构,等模型需要时再加载,而非反复发送全部结构。

发布公告将其限定于 Interactions API。Google 将其定位为减少输入 token 开销、在工具库扩大时保持选择准确性的方法。实际节省与可靠性仍取决于应用负载。

工具名称可见,参数结构等待加载

开发者在请求中添加 tool_search 工具,并为指定函数设置 defer_loading: true,即可启用服务端检索。模型仍能看到延迟工具的名称和描述,但参数结构在被请求前不会进入上下文。

模型选中函数后,会按名称请求它。API 加载参数结构,模型在同一次请求内生成函数调用。搜索调用、检索结果和最终函数调用都会出现在 interaction.steps 中,供开发者检查。

Google 的例子使用 gemini-4-hydrogen,为受损订单 A-1042 请求退款 40 美元。模型检索 issue_refund,并输出订单和金额参数。应用仍需实际执行退款并返回 function_result;检索参数结构本身不会转账,也不会授权交易。

对具有敏感工具的智能体而言,这条边界很重要。改善发现机制不能替代应用权限、验证或业务规则。

服务端检索不要求自行托管索引

服务端管理方案无需开发者托管搜索索引。常用工具可继续完整声明,低频函数则延迟加载。因此,即使大型参数结构不再进入初始上下文,名称和描述仍然重要。

功能也支持远程 MCP 服务器。在 mcp_server 上设置 defer_loading: true,即可按需加载其中的工具,不必逐个列出。

Google 表示,这一机制兼容前缀缓存:延迟的参数结构不放入初始提示,而是在后续对话中按需加入。这样可保持各轮缓存前缀稳定,但不意味着后来加载的结构免费。

客户端查找让应用保留注册表控制权

已有工具注册表、向量索引或按用户过滤权限的应用,可以选择客户端执行。它们声明带有 "execution": "client" 的 tool_search、搜索函数及其参数。

模型请求搜索时,应用进行查找,并通过 function_result 返回匹配的函数结构。Google 的续接示例使用 previous_interaction_id,将后续请求连接到现有交互。

由于查找在应用中运行,每次搜索会增加一次往返。作为交换,工具不必全部在开始时声明。用户在对话中连接新集成时,可以引入新工具,由应用注册表确定返回哪些候选。

这与服务端管理的检索是不同的取舍。对发现机制的控制增加了一步应用处理,以及相应的延迟和故障处理需求。

节省多少 token,取决于哪些结构始终未被加载

工具检索不单独收费。输入和输出 token 按所选模型的标准费率计费。启用 tool_search 会增加一小段固定输入,而每个被检索的结构会在余下对话中作为输入计费。

潜在节省来自始终没有进入上下文的结构。工具库很大、实际只需要少量工具时,比最终几乎加载全部结构的对话更有机会受益。Google 建议基于真实流量测量,公告没有给出普遍适用的节省比例。

预览支持 Interactions API 中的 Gemini 3.6 及后续模型,包括所有 Gemini 4 模型,不能将范围扩大到每个 API 接口。对开发者而言,下一步有用的证据是应用在这些受支持条件下的 token 用量、工具选择行为及客户端查找延迟。

相关阅读
参考来源

浏览工具目录 →