11 月 19 日,LangChain 开放 LangSmith Tool Gateway 的公开测试。团队可以登记模型上下文协议,也就是 MCP 的服务器,连接服务器需要的账户,再通过一个网关向 Agent 提供选定的工具。服务可以在调用时应用策略、请求确认并记录有关结果的元数据。它面向 LangSmith Cloud 的 Plus 和 Enterprise 客户,部署范围包括文档列出的 Google Cloud 美国、欧洲、亚太区域及 AWS 美国区域。Azure 美国区域未列为可用。准备把服务接入既有部署时,这些条件都与落地有关。 LangChain 发布公告 · Tool Gateway 可用范围

用一个客服场景理解这项变化。工作人员请服务查一个未结工单,另有定时任务检查哪些工单错过了响应时间。两者都可以到同一个工单系统查询。工作人员的访问按个人账户权限执行,后台任务需要一个有明确职责的独立身份。把它们接到同一份注册表,能更容易看清双方用了什么,也提高了对集中配置的要求。如果越发难以识别是谁发起任务、哪个账户接触了记录,网关会把这种歧义带到多个团队。

风格化图示,展示两条抽象身份路径汇入中心网关,再到达同一目标服务。

把连接点集中起来,运维责任也会变#

这项功能位于 MCP 客户端与远程 MCP 服务之间。客户端可以经由 MCP 发现工具的描述,用结构化参数请服务器调用。LangSmith 把来自多个服务器的工具装进工具包,客户端拿到一个 URL,工具包的内容可以比服务器清单更少。LangChain 提供 Google、Microsoft 和 GitHub 等服务的内置连接,也支持登记远程服务器。同一调用者连接同一服务器时,可复用已配置的账户。多个应用接入同一服务时,由此可以少做一些重复工作。 LangSmith 架构与作用范围

接通一个应用和管理工具的变更,各有自己的责任。平台团队可以让一个负责人登记服务器,由另一个人决定某个流程使用哪些工具。对一台已注册服务器动手,会影响多个客户端。改工具名称、改变接受的字段或者轮换凭据,都可能在同一天下午表现在不同应用里。一份可用的清单应写明每个服务器和工具包的负责人、依赖流程,以及版本或变更记录。网关从客户端拿走一部分连接工作,也带来了一个共同的变更入口,需要在变更传到客户端之前让各方知道影响。

工具多时,搜索模式可能有用。客户端搜出当前任务可能用到的工具,避免一开始就把所有工具的描述加载进上下文。更小的初始列表有利于控制输入量,也让近似操作容易分辨。搜索本身也成为工作流程的一步。团队可以分开衡量发现与执行,检查合适的操作是否常因命名或描述没有搜出来。只有两个工具和有一千个工具的包,需要用不同规模的场景评估。效果取决于工具如何定义与选择,也取决于它们怎样发布。 Tool Gateway 架构与搜索模式

名称含糊的工具能说明问题。一个应用可能既有准备回复的动作,又有发送回复的动作。工作人员请 Agent 处理同一封消息时,两者看上去都相关。工具包可以给起草流程提供准备动作,再另设明确的权限规则管理发送。名称和描述帮助选对工具,服务权限与网关策略负责控制执行。团队可以先尽量减少误解,再查明应用选择了另一项操作时,系统会允许什么。

沿着身份找到目标应用#

典型调用里有两个认证节点。客户端先向网关证明自己的身份,网关再向选择的 MCP 服务器提供它需要的凭据。LangSmith 能选用用户连接的凭据、与 Agent 环境绑定的凭据,或者共享配置档里的凭据。符合条件的 API Key 服务器还支持工作区凭据。公开服务器可以不需要目标凭据。因此,向网关发请求的账户和应用实际识别的账户可以不同。调查一次写操作时,两个身份都要查清。 LangSmith 账户连接文档

交互应用用读者或员工的授权身份,可以让目标系统的权限继续和当事人的账户一致。例如,财务系统或许已允许不同团队读取不同账本。只要目标应用收到匹配的凭据并执行检查,网关就可以沿用现有分工。初次使用时,网关可能需要用户先连接目标账户,再继续调用。开发团队需要观察未连接的账户、过期授权和权限已变化的用户分别会遇到什么。建立连接和执行业务是两件事,再试一次可能创建记录时,这个区别尤其重要。

后台任务使用专用服务身份,就不会一直依赖当初配置它的员工。团队有明确地方设置权限、轮换凭据,并在员工离职时管理访问。配置档可以让多个流程共用凭据。用途相同、负责人说得清为什么共享时,能省下实际工作。同样的共享也会扩大授权被撤销、权限配置错误或轮换时的影响。工程决定在于,职责接近到什么程度才适合共享。不同环境执行不同工作或接触不同数据时,需要让它们的账户继续有各自的边界。 以用户或 Agent 身份调用

使用工作区凭据需要额外核对。官方文档说,设置工作区凭据会替换该服务器的其他所有者已保存的凭据,配置期间也禁止其他所有者再连接。切换模式会改变依赖该服务器的所有流程。对于全组织共用一把密钥的搜索服务,这可能在预期之中。如果工单系统按登录员工给权限,换成一个共享账户就会改变应用能执行的限制和能记录的人。启用共享凭据前,应确认谁对它负责、哪些流程依赖它,测试发现条件不成立时如何退回。 凭据所有者与工作区行为

企业身份提供方也是链路的一环。LangChain 记录了后端代表用户、或者客户端使用已关联身份提供方令牌的方式。文档称,只用身份提供方令牌的调用者可接触工作区内的服务器或工具包,调用仍受策略限制。平台团队需要确认哪些人会获得令牌,以及这些人在网关上实际可以执行哪些动作。还要核对目标账户自己能做什么。MCP 授权指南强调了令牌有指定的接收方。上下游使用各自的认证凭据,有助于检查权限边界。 LangSmith 调用者身份选项 · MCP 授权安全规范

这种区分影响日常排障。应用可以在网关选择目标账户之前就返回身份问题,网关可以报告缺少目标授权,目标服务也可以在接受凭据后拒绝某条记录的访问。故障信息应该能指出碰到的是哪一类。目标返回权限错误时,反复提交被撤销的授权只会多花时间,也可能盖住一次配置变更。在测试环境里,用能看到不同合成记录的账户,可以确认目标系统实际检查了哪份权限,客户端有没有把原因讲给使用者。衡量委托身份是否好用,要看人员、角色和环境正常变化时访问是否一致。

发现工具和调用策略各管一件事#

LangChain 说,工具包整理的是向 Agent 展示的工具,调用者权限另行执行。对于本来可达的调用,策略可阻止匹配的请求或要求批准。阻断和审批都匹配时阻断优先,没有匹配阻断或审批时,调用在满足其余权限的前提下默认可执行。经由网关受支持入口访问的工具,都按所述规则检查。组织策略可覆盖多个工作区,工作区策略可以解决一个本地服务或小组的问题。授予策略修改权时,也应考虑影响会到哪一层。 Tool Gateway 策略规则

测试可以从这项分工出发。设一个读取合成记录的工具,再设一个只在测试系统里做小范围可逆改动的工具。看 Agent 选了哪个工具、预期用哪个身份,再验证目标应用收到了什么。接着经过该部署支持的入口检查同一组允许和阻断的动作。希望得到的结果是,工具选择影响易用性,批准的策略一贯负责执行控制。只看到一个小工具包,还不知道调用发生时会怎样。可重复的验证应检查到应用的实际记录,并能在权限或服务器有更新时重新跑一遍。

网关能管经过它的请求,更广的执行范围要看部署。接入很多服务的团队应知道哪些业务经过网关管理的凭据,哪些由其他获准系统处理。关于模型网关的公开讨论也问过,集中点究竟是不是请求真正经过的地方。这个问题同样适用于工具网关。平台团队交出一份网关报告,接收部门可能按覆盖全部 Agent 动作来理解。记录实际路由、限制目标应用权限,并保留应用自己的证据,范围才会更清楚。AWS 的 MCP 设计指导也专门讨论了身份与最小权限。 AWS 的 MCP 安全设计指导

工具策略与记录级权限也各有作用。组织可以允许客服 Agent 调用搜索,让工单系统判断对应账户能看哪些工单。两个名称相同的工具调用可能接触不同记录。批准工具调用意味着有人能先察看操作,数据系统仍需执行自己的限制。让应用负责它持有的记录,可以避免每有业务调整就把同一套上下文编进工具目录。平台团队也有清晰的验证边界,可以同时看网关怎样决定,以及应用怎样保护那条数据。

审批是否有用,要看客户端怎么呈现#

文档描述的审批通过 MCP 表单征询来完成。客户端支持这项能力时,可向调用者说明工具、服务器、触发的策略和请求参数,请其确认。让另一个人审批不在测试版公布的流程之内。员工在客户端准备一份草稿,可以在同一窗口确认一个影响较大的后续动作。没有在线操作员的定时任务无法依赖相同的互动。如果业务要求另一个人签发,就需要在业务流程里加入单独的审核人、相应权限和可查的决策记录。 Tool Gateway 审批行为

确认环节也要解决信息量的问题。确认一个小测试记录很清楚,但生产工具传来很长的结构化请求时,未必一眼能懂。读者需要看清要改哪里、用谁的账户改,以及重复提交会不会产生另一个结果。写工具的职能尽量小、描述稳定,客户端能展示目标记录或变化,都有帮助。应用也可以从自己的数据生成预览,让人理解将要确认的业务操作。忙碌一班里排着许多相似确认,即使技术上每次都有响应,注意力也会被削弱。

第一轮判断应落在团队会实际使用的客户端和套餐上。LangChain 举了自家 Agent 客户端、Claude Code 和 Cursor 的例子,网关使用共同的 MCP 接口。是否真的出现批准表单、失败时怎么呈现,取决于具体接入。厂商也请有阻断策略和审计日志需要的客户联系团队。公告与某个账户已开通功能,是两种不同的证据。团队可以在依赖一项重要控制前,记录实际可用的角色、套餐和区域。 LangSmith 客户端接入 · LangChain 测试版公告

事后能从追踪记录里知道什么#

LangSmith 文档给出两种记录 Tool Gateway 调用的方法。有适当的上下文时,一次调用可以记到对应的 Agent 任务下。工作区管理员也可启用一个项目,把工作区经由网关的调用另行集中记录。记录含工具、服务器、身份、结果状态和时长等元数据。LangChain 说,网关追踪不会保存参数或返回内容。落到这份记录里的数据更少。要调查究竟发送了什么或修改了什么,仍需查应用的记录,以及客户端主动收集的内容。 Tool Gateway 追踪与记录字段

假设一名员工说某张工单意外结案。网关追踪可以显示调用时间、使用的凭据所有者和返回状态。工单系统的历史可以显示具体工单、状态变化,以及应用实际识别的服务账户。两处有可以关联的同一事件或请求编号,调查会更方便。超时尤其值得这么查。网关超时表示在规定窗口内没有拿到响应,仍需检查应用是否已完成变更、只是回应丢了。客户端应该按业务操作的特征决定怎样重试,并在可能时先回读状态,再决定是否重复改动。

追踪完整性也受入口和配置影响。LangChain 分别说明了把工具调用写进 Agent 任务的条件和如何开启工作区记录。文档说,只用身份提供方令牌的调用者不会使用上述嵌套追踪方式。企业审计日志另有范围和权限。启用前可以做一次短的证据检查。在测试环境验证一次允许读取、一次策略阻断和一次上游故障,然后检查操作者能取到哪些记录和时间戳。也要加入没有人员在场时照常运行的服务身份。实际出现事故时,能不能由合适的人读到预期证据,比界面上有没有追踪开关更关键。 追踪覆盖与企业审计

元数据也需要适当处理。即便没有参数和返回,一段账户标识、工作区和工具名称也能显露组织活动。一次 Agent 任务可能另有客户端日志。平台团队应明确谁可读、用哪些标识关联多套证据,以及信息保留多久有实际价值。跨应用的数据保护涉及每一层记录者。检查一份网关追踪的格式,看不全工具服务器自己的日志和 Agent 给监控项目发了什么。和应用负责人一起核对现行设置,才能知道整条链路记录了什么。

哪些团队更容易从测试版获益#

最适合较早试用的团队,已经运行多个 MCP 客户端,而且经常需要接上相同的已批准服务。共享登记、明确凭据所有者、统一记录格式,可缩短后续接入并给策略管理一个落点。成效可以测。新增第二个客户端要多少时间、必须轮换多少份独立凭据、操作者能多快把一次调用对应到目标记录。一轮小范围上线前后可以对照观察。当前团队整合这些服务的方式,是最有参考价值的基线。

增加一层网关也增加了运行依赖。网关会产生自身错误,目标系统也有另一组限制和故障模式。LangChain 列出了测试版限制,包括等待上游服务器开始响应的 60 秒,以及请求率上限。团队可以测量真实的调用耗时分布、凭据提示次数和目标错误数来判断是否适配。许多团队在同一时间启动的任务和零散使用的工作台,可能要采用不同调度。给网关和目标各设健康检查,在多个客户端同时报错时更容易判断问题从哪里来。 Tool Gateway 运行限制

为使观察公平,两种试验配置应使用相同的目标工具和测试负载,分别记录日常耗时和慢请求。网关转发前的等待,与目标应用自己处理请求的时间,可能因不同因素变化。人工确认等待要单独计时,合并到服务延迟会掩盖技术问题。还可以从一个收到的变更报告倒查,记录恢复网关身份和应用记录分别要多久。同一条件下的这些观察,可以量出新增部件的成本,以及多一条记录实际省了多少排查时间。

小范围试用能显示责任是否更明确。让一个交互流程用用户授权,让一个简单测试任务用专用服务身份。约定追踪位置和用于核查的业务记录。检查成功、阻断、重连、权限变化,以及各类用户能否看清应怎样处理。再来一次计划内配置变动,观察团队多久能找到所有依赖。已经能明确回答这些问题的团队,收益主要是更方便地管理连接。其他团队能借试用发现哪处需要更明确的控制。测试版让经过它的调用更有迹可循,实际效果要看持有业务数据的系统能否与这些证据对应。