17611538698
webmaster@21cto.com

DeepSeek 创新型架构 Harness 发布:一切组件皆为插件

人工智能 0 12 54分钟前
DeepSeek Harness预览版发布 | Agent运行时 | 一切皆插件 | 大模型 | AI智能体 | 开源 | Cordis | MCP  | AI编程 | 插件架构 | MIT协议

21CTO导读:中国的人工智能实验室不断向前发展,而美国实验室则正处于守势。

DeepSeek 近日发布其开源代理框架的早期版本Harness,这引发了开发者社区的广泛关注。这是由于对于从事机器学习模型工作的开发人员来说,代理框架的重要性正日益凸显。

“ DeepSeek Harness基于 Cordis 元框架构建,是一个围绕一个核心理念打造的代理框架:一切皆插件,”这家总部位于北京的 AI 公司如此表示道。“模型、工具、技能、会话、沙箱、文件系统、循环、编排和用户界面全部以插件形式实现,可以混合、匹配、替换和扩展。”

https://github.com/deepseek-ai/deepseek-harness

“harness”(接口)一词今年开始被广泛使用,用来描述一种由来已久的软件功能——中间件或中介层,它负责处理传递给人工智能模型的输入以及模型返回的输出。

harness负责管理提示、上下文、工具编排、代理循环、状态管理、错误处理、安全性、权限以及其他相关事项。

比如 Claude Code 是 Anthropic 公司 Claude 模型系列的框架,而 Codex 则为 OpenAI 公司的 GPT 模型系列提供类似的功能。此外,还有许多其他模型框架,例如 Aider、Cline、Goose、OpenCode、OpenHands 和 Pi 等等。 

这个术语并不十分精确:它可能仅指代理循环和工具,也可能扩展到更广泛的范畴,涵盖与协调不同工具、服务和功能(例如沙箱、子代理等)相关的诸多方面。例如,Google Antigravity 由 Antigravity Agent Runtime(可通过 Agent SDK 访问)、Antigravity 2.0 桌面应用程序和 Antigravity CLI 组成。

抛开模糊的定义不谈,人工智能模型框架如今已成为技术竞争的主要战场,尤其是在模型数量激增并趋于商品化的背景下。框架通常负责实现用户界面,这容易造成用户惯性。一旦开发者配置好工具并习惯了某种操作方式,即使界面主要由命令行构成,切换到竞品也会变得非常困难。

此外,多项研究表明,由于设计选择不同,模型性能(和成本)会因所使用的框架而显著变化。例如,Pi 编码代理依赖于约 200 个Token的最小系统提示。相比之下,Claude Code 使用约 10,000 个Token的系统提示(或者说直到上个月Anthropic 将系统提示缩减了约 80% 之前都是如此)。同一个模型在使用不同的框架时会产生不同的结果。

DeepSeek Harness因其创新设计而引人注目,也因为它表明中国人工智能实验室正在超越模型基准和定价进行竞争。

首先,它将所有内容都视为插件。它使用底层Cordis框架的插件系统,该系统旨在实现动态添加和移除组件而不会造成混乱。

DeepSeek Harness 网站如此解释说:“插件为代理提供了所有功能,包括模型、工具、技能、会话、沙箱、存储、循环、调度和用户界面。Cordis 服务和事件使插件能够协同工作。开发人员可以在配置中选择、替换或扩展任何功能,而无需更改 DeepSeek Harness 的源代码。”

DeepSeek 的一篇论文由 Yifan Shi、Wei Zhang 和 Tianyi Cui 三位研究人员撰写,里面更详细地解释了 Cordis 的功能。

https://github.com/cordiverse/paper/blob/main/paper.pdf

Cordis 旨在支持动态组合性——即在不破坏应用程序的情况下,动态地添加和移除插件。

该论文将此称为时间可组合性——移除一个组件并撤销其移除后的影响——以及空间可组合性——允许组件管理对其他组件的依赖关系。

文章以微软 Visual Studio Code 使用的插件系统为例。作者这样解释说,VS Code 的所有扩展程序都在一个名为“扩展宿主”的共享进程中运行。一旦激活,这些扩展程序就无法立即移除;必须重启宿主进程。 

虽然 VS Code 提供了扩展程序之间声明依赖关系的方法,但这种方法很少被使用。DeepSeek Harness 支持插件依赖关系。

DeepSeek 的研究人员认为,在几乎无需人工干预即可持续进行修改的系统中,时间和空间上的可组合性至关重要。这是一种避免组件出现和消失时导致强制重启和崩溃的方法。

DeepSeek Harness 还支持另一个有用的功能:思路链追踪。

DeepSeek Harness 网站上如此写道:“模型所看到的一切都会被记录在一个仅追加的会话日志中:系统提示、推理过程、工具调用和结果、子代理调度以及每次上下文注入。在轨迹视图中,您可以按来源查看这些记录。恢复、分支、搜索和重放等操作都基于同一个事件流。”

DeepSeek R1去年发布时引起了轰动,它经过训练,能够运用链式推理进行推理。这种推理方式会将提示信息分解成一系列“想法”,并在给出最终答案之前对这些步骤进行反思。

事实证明,获取这种中间推理过程对于评估模型的推理是否良好、其响应是否准确、额外的“思考”如何影响输出等等都很有用。 

人格理论在扩展思维或适应性思维可用时(因模型而异)提供了一些理解思维的方式。但越来越多的人通过概括思维链来隐藏模型推理过程。这似乎部分是由于担心思维链会被用来通过一种名为“提炼”的标准研究方法复制模型。 

今年早些时候,Anthropic表示,他们已经部署了分类器,用于“检测用于构建推理训练数据的思路链”。该公司也不展示原始的思路链。他们解释说,“思路块中的文本是对Claude推理过程的总结”。如需查看原始思路,需要联系Anthropic的销售人员。

除了开源模型外,OpenAI 还选择隐藏其用于模型监控的推理过程。“在权衡了用户体验、竞争优势以及进行推理过程监控的可能性等多种因素后,我们决定不向用户展示原始的推理过程,”该公司两年前推出其 o1 推理模型时曾表示。

随着新发布的 DeepSeek-V4-Pro 和 V4-Flash 的推出,API 默认启用了思维导图模式。随着开源模型生态系统的日趋成熟,获取思维导图功能有望成为又一个实现差异化竞争优势的契机。

“我认为DeepSeek Harness并不完美,但这确实是我第一次在这个领域接触到全新的技术,并深受启发,从而重新审视我们的一些选择,”一家人工智能公司Earendil的联合创始人Armin Ronacher在社交媒体上发帖说道。Earendil目前正负责Pi代理的开发。“我非常喜欢开源的这一点!”

编辑:万能的大雄

评论

我要赞赏作者

请扫描二维码,使用微信支付哦。

分享到微信