#AI
OpenAI 上线 tool search,按需加载工具省 token
OpenAI 在开发者文档里添加 **tool search** 指南:模型可以按需搜索并动态把工具定义加载进上下文,不必在请求一开始就把全部工具塞进去,官方说法是有助于降低总体 token 用量与成本。
启用只需两步 —— 在 tools 数组里加上 tool_search,再把想延迟加载的函数标上 defer_loading: true;MCP server 则在该 server 定义上设置同一字段。
💡 为什么值得看工具定义不再全量塞进上下文,按需搜索加载;但只有 gpt-5.4 及更新模型支持。
查证
来源档案
OpenAI Developers(developers.…
OpenAI 官方 API 文档添加的指南页,含配置示例与响应结构说明,属一手技术文档。
接近确认档:官方一手页面,配置字段与模型支持范围可直接采信;但文档未给出具体的 token 节省与成本对比数字,这类量化收益尚无官方数据。
延伸阅读
文档认为模型主要被训练在这些表面上做搜索、token 节省也更明显,并给出「单个 namespace 少于 10 个函数」的经验值,值得按此重构工具清单。
当可用工具依赖项目或租户状态、无法预先声明时,client-executed 模式让应用自己接搜索;文档同时提醒回传未在请求中出现的工具属进阶用法,需严格校验 schema。