OpenAI、Anthropic、Google和其他100家公司呼吁采取行动抵御流氓AI

包括OpenAI、Anthropic、Google和Microsoft在内的一百多家科技公司签署了一封公开信，敦促私营和公共部门共同努力，抵御与人工智能相关的网络威胁。

这封信函还由Crowdstrike、Okta和Fortinet等著名网络公司以及著名金融机构和互联网基础设施公司签署，呼吁采用新形式的网络防御，同时鼓励“地方、国家和国际各级”政府在安全方面进行合作。

信中指出：“未来几个月，随着世界各地模型的能力越来越强，由AJ驱动的网络攻击将变得更加广泛和复杂。” “我们社区所依赖的公司和公共服务——从医院到水处理厂再到互联网基础设施——都面临着风险。”

最近，一系列人工智能代理攻击公司的离奇事件使人工智能对传统网络安全防御造成的问题成为人们关注的焦点。

在Hugging Face事件中，OpenAI的一个代理自主地突破了沙盒环境并攻击了这家科技公司，随后又出现了一系列其他据报道涉及其他人工智能公司开发的代理的入侵事件，包括Anthropic和Meta。这些事件支持了这样一种观点，即网络安全领域已经发生了根本性的改变，需要大胆的新商业解决方案来缓解这些问题。

这封信进一步建议动员“集体应对”，即建立“新的伙伴关系”，“以提高安全标准并为新出现的网络威胁找到新的解决方案”。

几家签署这封信的人工智能公司仍在积极开发更先进的人工智能模型，凸显了它们的矛盾立场。与此同时，他们还提供使用前沿人工智能模型进行防御的项目，包括OpenAI的Daybreakprogram、Anthropic的Mythos和Microsoft的新网络平台Perception。