OpenAI推出新举措来帮助查找和修补开源错误

OpenAI周一宣布了一项新计划，旨在帮助开源社区改进其网络安全游戏并防止错误。

“Patch the Planet”（这是1995年电影《黑客》中的标志性口号“Hack the Planet”的直接暗示）将看到OpenAI与安全公司Trail of Bits合作，帮助开源维护人员保护他们的项目。

OpenAI表示Trail of Bits的安全人员将直接与开源维护人员合作，审查潜在的代码问题。 OpenAI的安全工具（例如Codex Security）将用于协助这一过程。

“许多维护人员已经被要求在同样有限的时间和资源下更快地整理更多报告，”OpenAI周一表示。 “Patch the Planet的构建是为了减轻这种负担，而不是增加负担：安全工程师在发现结果到达维护人员之前对其进行审查，与项目合作开发补丁和测试，并构建可重用的工作流程，帮助团队在第一个修复完成后继续提高安全性。”

换句话说，Trail of Bits工程师的功能或多或少类似于代码EMT——帮助开源项目维护人员识别和分类潜在问题，所有这些都由OpenAI的软件支持。这听起来像是一个雄心勃勃的项目，而且还不清楚它的长期运作方式，或者计划如何扩大规模（如果有的话）。

开源项目是商业软件行业赖以生存的数字基石，但不幸的是，由于该生态系统结构分散且监控不力，许多软件都是不安全的。开源项目中的错误可能会变成商业代码库的主要问题。几年前的log4j灾难（当时在广泛使用的开源实用程序中发现了一个严重漏洞）就是一个很好的例子。

围绕Mythos（Anthropic广为人知的安全工具）等工具的大部分担忧似乎源于这样一个事实：人工智能现在可以自动识别代码库中现有的错误，并开始为它们创建漏洞利用程序。虽然网络犯罪的自动化并不新鲜，但这些工具无疑有可能使不良行为者更加方便。

OpenAI通过使用人工智能来帮助开源社区更好地保护自己，从而彻底改变了这一模式。很难不将其解读为对Anthropic的竞争性打击，同时也认识到这是开源社区迫切需要的东西。