本周五，这个星球上人工智能领域的7家领先科技公司自愿承诺帮助人工智能技术走向安全、可靠并透明的发展。

这些公司包括亚马逊、Anthropic、谷歌、Inflection、Meta、微软和 OpenAI。

“开发这些新兴技术的公司有责任确保其产品的安全。为了充分发挥人工智能的潜力，拜登/哈里斯政府鼓励该行业坚持最高标准，以确保创新不会以牺牲美国人的权利和安全为代价。”美国白宫在一份新闻稿中表示。 

来源：https://t.cn/A60J8cDx

上面这些公司已承诺在其人工智能系统发布之前由独立专家对其进行内部和外部安全测试，旨在防范生物安全和网络安全等风险及其更广泛的社会影响。这些公司必须在整个行业以及与政府、民间社会和学术界分享有关管理人工智能风险的信息。

这些企业承诺还包括投资网络安全和内部威胁防护措施，以保护专有和未发布的模型权重，并促进第三方发现和报告其人工智能系统中的安全漏洞。 

这些公司必须实施更强大的技术机制，例如水印，以确保用户能够识别人工智能生成的内容。这种方法旨在利用人工智能促进创造力，同时最大限度地减少欺诈与欺骗风险。

最后，他们将优先研究与人工智能相关的社会风险，重点是防止有害的偏见、歧视和保护隐私。这些企业必须公开披露其人工智能系统的功能、局限性以及适当和不适当使用的领域。

以下是七家人工智能公司共同商定的原则：

1、开发“强大的技术机制”，以确保用户知道内容何时由人工智能生成，例如水印系统，以减少欺诈与欺骗之风险；

2、公开报告人工智能系统的能力、局限性，包括适当和不适当使用的领域，涵盖安全和社会风险，例如“对公平和偏见的影响”；

3、在发布之前对人工智能系统进行内部和外部安全测试，以减轻与生物安全和网络安全相关的风险，特别是更广泛的社会危害；

4、与整个行业以及与政府、民间团体和学术界分享有关管理人工智能风险的信息，包括安全最佳实践、有关规避保障措施的信息和技术合作；

5、投资于网络安全和“内部威胁”等防护措施，以保护专有和未发布的模型权重；

6、鼓励第三方发现和报告人工智能系统中的技术漏洞；

7、优先研究人工智能系统可能带来的社会风险，包括避免有害的偏见和歧视；

8、开发和部署先进的人工智能系统，“帮助解决社会面临的最大挑战”，包括从“癌症预防到缓解气候变化”。

作者：场长