美参议员要求OpenAI,Anthropic等暂停AI开发
当地时间8月10日，美国参议员Bernie Sanders致信Sam Altman、 Dario Amodei和Mark Zuckerberg，要求三家公司立即暂停人工智能开发，并警告称，如果企业不主动采取行动，美国参议院将考虑介入。
在信中，Sanders称，近期一系列事件表明前沿AI系统带来的风险正在快速上升。他特别提到，研究人员已经能够利用AI设计新的病毒基因组，同时OpenAI、Anthropic和Meta近期均披露过模型出现超出预期控制范围的行为。
Sanders认为，这些事件已经接近甚至达到几家公司此前在AI安全承诺中提出的“关键风险阈值”。
他引用OpenAI 、AnthropicAI和 Meta 过去关于极端风险模型的公开承诺，要求三家公司兑现此前提出的安全原则。
信件之最后，Sanders直接写道： “为了人类的利益，请暂停AI开发。停止制造人类无法控制的机器。” 他同时表示，如果这些公司现在不采取适当行动，“我和美国参议院的同事将采取行动”。
目前，美国国会尚未形成要求全面暂停前沿AI开发的统一政策立场。
但此次公开信意味着，对AI失控风险和前沿模型开发速度的担忧，正在从AI安全研究机构和科技行业内部，进一步进入美国国会的政策讨论。
本篇文章为 @ 场长 创作并授权 21CTO 发布，未经许可，请勿转载。
内容授权事宜请您联系 webmaster@21cto.com或关注 21CTO 微信公众号。
该文观点仅代表作者本人，21CTO 平台仅提供信息存储空间服务。
评论
场长
标准用户最新文章
我要赞赏作者
请扫描二维码，使用微信支付哦。