21CTO导读：OpenAI 表示，一个自主代理逃脱了控制，接入了互联网并入侵了 Hugging Face。

OpenAI 刚刚表示，上周其先进 AI 模型驱动的一个自主代理在安全测试中失控，引发了一起黑客攻击，导致 AI 初创公司 Hugging Face 的基础设施遭到破坏。

OpenAI 在一篇博客中表示道，它正在受控环境中测试其一些最先进模型的性能，但该智能体设法逃脱了控制，连接到互联网并入侵了 Hugging Face，试图达到其测试目标。

OpenAI 表示，此次入侵是“一起前所未有的网络安全事件，涉及最先进的网络安全能力”，该公司正在加强其安全措施。

用于托管开源大型语言模型和数据集的平台 Hugging Face 在上周的一篇博客文章中表示，它成为了一次黑客攻击的目标，这次攻击“与我们以前处理过的任何事情都不同”，因为它“完全是由自主 AI 代理系统驱动的”。此消息在网络安全界引起了轩然大波。

Hugging Face联合创始人克莱门特·德朗格在X论坛上发帖称，鉴于该代理的复杂程度，公司怀疑此次黑客攻击“可能来自某个前沿实验室。结果证明确实如此！”他补充道：“这一切竟然都是自主发生的，真是令人难以置信！”

OpenAI 披露其先进模型是造成此次数据泄露的原因，尽管该公司已将这些模型放置在其所谓的“高度隔离的环境中”，但这一披露可能会加剧人们对前沿模型的强大功能和风险的担忧。

德克萨斯州民主党众议员格雷格·卡萨尔表示，这起事件令人震惊。

“人工智能发展速度极快，但目前还没有真正的监管措施来保障我们的安全，”他在一份声明中表示，并呼吁进行强制性的独立安全测试、强制披露安全事件以及开展国际合作，“以保护人们免受彻底灾难的侵害”。

美国国家网络安全总监办公室、美国网络安全和基础设施安全局 (CISA) 以及美国国家安全局均未立即回复置评请求。

Luta Security 首席执行官 Katie Moussouris 表示，这起事件预示着未来将发生更多安全漏洞，她说，如今的型号“就像世界上最聪明的章鱼逃脱大师，拥有无限灵活的触手，能够挤过任何地方”。

她表示，“实验室和政府评估人员需要努力提升能力，以便在人工智能再次‘逃脱’时能够控制、监控并向受影响方披露信息，理想情况下，最好是在它伤害第三方之前。目前还没有任何这样的能力。”

智能体人工智能网络安全公司Tolmo的工程师Matt Suiche表示，此次事件表明，前沿模型正在“缩小与最先进攻击者之间的差距”。但他指出，OpenAI博客文章中概述的那类攻击，即使使用远在尖端研究实验室之外的技术，也完全可以实施。

“我们在内部已经看到了这种情况，我们的代理商已经取得了这样的成果，”苏伊切说。“我们甚至不需要使用最新的模型。”

作者：场长