21CTO导读：萨蒂亚·纳德拉提出的“反向信息悖论”。他警告道，企业在人工智能方面要付出双重代价——金钱与专有知识。以下是他揭露其中的“陷阱”以及解决方案。

微软公司董事长兼首席执行官萨蒂亚·纳德拉（Satya Nadra）在网上分享了他对企业人工智能隐性成本的看法。

纳德拉本周日在 X（前身为 Twitter）上发表了一篇长篇文章，将这个问题描述为“反向信息悖论”，并指出人工智能颠覆了诺贝尔经济学奖得主肯尼斯·阿罗提出的经典信息悖论。

阿罗之悖论聚焦于卖方如何在不披露信息的情况下展现信息价值的困境。而纳德拉则认为，企业人工智能将这一负担转移到了买方身上，买方必须共享专有流程和机构专业知识，才能从模型中获得最佳结果。

他写道：“你实际上要为情报付出两次代价，一次是金钱，另一次是更有价值的东西：你必须公开的专有知识，才能使这些情报发挥作用。你希望模型表现得越好，就必须向它输入越多这样的知识。”

“你实际上要为情报付出两次代价，一次是用金钱，另一次是用更有价值的东西：你必须公开的专有知识，才能使情报发挥作用。”

当“耗竭”成为一种竞争优势 

纳德拉表示道，企业人工智能系统的每一次交互都会产生他所谓的“损耗”，这些损耗会逐渐反映出一个组织的运作方式。

纳德拉还写道：“每一次纠正都会被提炼成机构的专业知识。这是竞争对手永远买不到的知识，也是那种几乎难以察觉地泄露的知识：一点一滴地积累，一次次纠正，一次次评估。”

“每一次纠正都会被提炼成机构的专业知识。这是竞争对手永远无法购买的知识，也是几乎无法察觉地泄露的知识：一点一滴地，一次次纠正，一次次评估。”

随着时间的推移，成千上万次的交互会形成一个内部组织知识库，其价值可能超过最初创建该系统的原始文档。员工使用人工智能越多，组织的专业知识就越能融入到这些系统的运行方式中。

重新定义信任边界 

在实践中，这些丰富的知识可能会推动企业走向与模型无关的 AI 堆栈，在这种堆栈中，即使底层基础模型发生变化，提示和记忆存储仍然由企业控制。

纳德拉在帖子中抨击了当前的人工智能商业实践，他认为模型提供商声称拥有广泛的权利从公共数据中学习，同时限制客户如何在自己的组织内部重用或利用所创建的知识。

一些观察人士可能会觉得，微软首席执行官的这番言论颇具讽刺意味。

纳德拉警告说，企业可能会因为人工智能系统而丢失宝贵的组织知识，然而微软却在销售Copilot，这款产品的价值部分取决于对企业数据的广泛访问。Copilot的工作原理是遍历Microsoft Graph，从而能够分析用户已获得授权访问的文档、电子邮件、聊天记录以及其他信息。

安全研究人员对这类系统可能泄露大量敏感信息表示了担忧，尤其是在组织机构的访问控制过于宽松的情况下。

一家称为Concentric AI 的研究表明，2025 年上半年，Copilot 平均访问了每个组织机构近 300 万条机密记录。另一家称为 EPC Group 的审计发现，约 80% 的企业级 Microsoft 365 租户存在严重的过度共享风险，包括薪资信息、合并文件和客户数据等，这些信息都可能通过 Copilot 泄露。

值得一提的是，美国众议院也曾出于数据安全考虑禁止工作人员使用 Copilot，但后来撤销了该禁令。

微软的独特之处

然而，微软区分了访问企业数据以响应用户请求和使用这些数据训练基础模型这两种行为。这家公司表示，通过 Microsoft Graph 获取的信息不会用于训练其 AI 模型，并且 Copilot会尊重现有的权限、身份控制和敏感度标签。

然而，其商业策略其实就隐藏在表面之下：纳德拉周日发布的“反向信息悖论”博文实际上是一份通往Azure的路线图。纳德拉推荐构建的一切都运行在云基础设施之上。本质上，企业可以更换基础架构模型，但他们不会更换云。

掌控你的人工智能学习循环 

为了应对人们普遍认为信息将逐渐移交给前沿人工智能实验室的趋势，纳德拉概述了企业人工智能架构的几个优先事项。

他的建议包括如下：

• 将组织记忆保留在企业租户内部。
• 构建私有评估和学习系统。
• 将编排层与任何单一的基础模型解耦。
• 在不丢失积累的组织知识的前提下，保持切换模型的能力。

综上所述，纳德拉的论点归根结底是，企业应该拥有属于自己的学习循环，而不是将学习循环的一部分交给提供人工智能模型的公司。

纳德拉引用 Palantir 首席执行官 Alex Karp 的话来强化这一观点。Karp 也曾表示，企业希望完全拥有自己的人工智能基础设施。

与模型无关的编排方式正在兴起 

最终，通过掌控生产资料，企业才能确保在人工智能领域的投资所带来的复利价值真正留在企业内部，发挥其应有的作用。像 LangChain 和 Haystack 这样的工具之所以越来越受欢迎，正是因为它们让工程团队能够将基础模型视为即插即用的商品，而不是硬编码的依赖项。

纳德拉引用卡普的话说：“技术型客户想要的是对他们的计算、模型、数据栈和早期版本的控制权。他们希望确保自己拥有生产资料，而不是将其转移给其他人。”

“他们希望确保自己拥有生产资料，而不是让生产资料转移到其他人手中。”

作者：场长