21CTO导读:TrueFoundry 的开源 TrueForge 以厂商中立的模式选择挑战 Claude Managed Agents,声称代理成本降低 50%,并且无厂商锁定。
AI基础设施平台公司TrueFoundry刚刚发布了其开源代理框架TrueForge。
该技术直接定位为Claude Managed Agents的替代方案,后者是Anthropic公司提供的托管基础设施服务,用于运行、沙箱化和协调自主运行的Claude代理。
TrueForge 承诺允许软件工程师在任何模型(该公司指的是任何模型)或MCP 服务器上构建、部署、调试和管理生产 AI 代理,同时将代理的总运营成本降低约 50%。
它有些像中国前沿模型创新者智谱的GLM-5.2这样的开放模型,正在以更低的成本挑战专有前沿模型,但大多数托管代理平台仍然将企业锁定在单一供应商的模型、基础设施和定价中。
Meta 前机器学习技术主管、现任 TrueFoundry 联合创始人兼首席执行官Nikunj Bajaj称,这种普遍存在的托管代理平台锁定正是他的公司对模型供应商选择采取中立态度的逻辑所在。
“如果供应商以 50 美元的价格向你出售一百万个Token,他们完全没有动力告诉你,同样的任务可以用另一种模式完成,这种模式只需 50 美分就能买到一百万个Token,”Bajaj 说。“传统上,一个供应商提供模型,构建你的代理,并决定你的代币使用方式、使用顺序、使用哪些工具以及在托管代理提供商规定的治理框架下运行——而且他们会把完全相同的方案卖给了你的竞争对手。”
他坚持认为,从根本上讲,这意味着“激励机制错位”,因此在总是存在权衡取舍的托管代理部署场景中,“游戏中的玩家没有机会与裁判对话”。
“为什么构建强大的智能体就意味着放弃对人工智能堆栈的控制权?我们为开发者提供托管式AI智能体体验,而无需让他们永远依赖单一供应商,”Bajaj补充道。
“如果供应商以 50 美元的价格向你出售 100 万个Token,那么他完全没有动力告诉你,同样的任务也可以用另一种模式完成,这种模式下 100 万个Token只需 50 美分。激励机制错位,所以这场游戏中的玩家没有机会与裁判沟通。”
Claude Managed Agents 今年四月才以测试版的形式发布,但 Bajaj 和他的团队认为他们能够追踪到一条正在形成的演进曲线。
这条曲线的第一波浪潮是人工智能代理存在于开发者的笔记本电脑上,集成在编码工具和原型中。而下一波浪潮则将进入面向客户的产品,其典型特征是能够使用共享工作流程的托管基础设施服务。
至关重要的是,这种转变将这些产品底层的框架变成了一个战略控制点,作为用户、模型及其交互系统之间的操作循环中的执行层发挥作用。
“这的确是事实:接口层是用户、LLM 和其他所有组件之间的关键层,”Bajaj 解释道。“假设一个开发者正在构建一个代理。他们自带模型,但接口层仍然决定何时调用 MCP 服务器,何时使用其他人已经构建的代理,要保留哪些上下文,以及哪个模型处理计划的哪个部分。”
这也意味着存在安全隐患。Bajaj 特别指出,“某些操作”仍然需要在完全隔离的沙箱中运行,并且某些数据绝不能发送到闭源模型。
“所有这些逻辑都存在于底层架构中。如果软件工程师不使用底层架构,那么开发团队就必须从头开始构建所有这些逻辑,”他补充道。
在采用开放且厂商中立的托管代理平台部署方式时,企业必须管理其运营的每个代理的持久会话、工具凭证、执行沙箱、上下文、人工审批、调试、访问策略和支出。TrueFoundry 认为,企业更倾向于拥有这一层,而不是从单一模式提供商那里继承,同时以更低的成本内置企业治理功能。
TrueForge 将每个模型调用和 MCP 交互路由到 TrueFoundry 的 AI 网关,以便应用预算执行、速率限制和防护措施,为企业提供受控且安全的托管代理体验。
Bajaj 表示,当组织对方向盘的掌控力减弱时,他亲眼目睹过一些运作中,“foo”和“bar”(计算机编程中用于尚未命名的已知元句法变量值的标准占位符名称,有点像 John Doe或小明)最终成为一切的执行者。
“系统中的所有操作都来自一个通用的共享账户,而不是某个可以具体识别的个人账户。所以一旦系统发生变更或出现故障,你根本不知道该找谁。有一次,我们正在从共享访问权限迁移到个人访问权限的过程中,一些密钥被轮换了。当时公司一半的员工还在使用旧账户,结果系统对另一半员工来说就瘫痪了。”他解释道。
团队可以在自己的基础设施上运行 TrueForge,自带模型、MCP 服务器和 API 密钥,并将每个任务路由到最符合成本、延迟或质量要求的模型。但这是否意味着工作负载可能会因此变得过于分散?
“恰恰相反,工作负载变得更加统一,”Bajaj兴奋地说。“大多数团队默认都会自带模型。改变的是,组织可以定义模型、代理或MCP需要满足哪些条件才能加入其注册表。我称之为代理开发生命周期,或ADLC。一旦掌握了这一流程,就可以在所有方面强制执行相同的操作原则。”
实际上,TrueFoundry 团队证实,他们发现大多数以 AI 为中心的软件工程操作都趋向于针对典型任务的“大约十几个模型”,外加一些针对特定领域的专门模型。
TrueForge 支持 OpenAI、Anthropic 以及 20 多种主流大语言模型,并内置 40 多种工具、沙盒执行、人工审核工作流程、大型上下文处理、生成式 UI 和由 Tavily 提供支持的网络搜索。尽管提供了 Claude Managed Agents 的替代方案,Bajaj 仍不忘强调他并非将 Anthropic 视为某种弃儿。
“这并非Anthropic做错了什么,”Bajaj证实说,“而是它并非拥有世界上所有的型号。Claude Managed Agents只能从Anthropic提供的有限型号中进行选择。有些开放式型号在某些特定任务上表现出色,价格却低得多,或者在某些特定工作中性能更佳。开放式安全带的选择范围要广泛得多。”
他强调自己的观点,指出 Anthropic 还必须为非常广泛的客户群体打造一种安全带;这意味着其系统提示必须考虑到各种指令、防护措施和特殊情况。
“这些元素中的许多可能与开发者自身的用例无关,但它们仍然会影响每一次调用,增加成本和延迟。当你拥有了这套框架时,你可以移除那些不适用于你的部分,使其高度定制化,”他补充道。
“需要明确的是,我们支持 Anthropic 作为一流的供应商,因为它的模型非常出色。我们的用户在很多情况下都会想要使用他们的产品。关键在于,我们不应该将选择范围局限于 Anthropic 这一家。”
为了验证上述说法,TrueFoundry 使用 DevRev 公开企业基准测试平台 (Enterprise-Bench) 中的 14 个一级和二级任务对上述结论进行了测试。
该公司表示,TrueForge “在保持相似准确度的情况下,成本降低了 50%”,节省的成本来自于使用的Token更少,以及能够访问 Anthropic 模型集之外、更适合特定任务的模型。
“需要明确的是,我们支持Anthropic作为一流的技术供应商,因为它的模型非常出色。我们的用户在很多情况下都会想要使用他们的产品。关键在于,我们不应该将选择范围局限于Anthropic一家,”Bajaj如此总结道。
TrueFoundry 还推出了 TrueForge 的托管式按需付费版本,供希望获得相同体验但又不想自行管理基础设施的团队使用。
作者:场长
本篇文章为 @ 场长 创作并授权 21CTO 发布,未经许可,请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 微信公众号。
该文观点仅代表作者本人,21CTO 平台仅提供信息存储空间服务。
请扫描二维码,使用微信支付哦。