政府如何决定OpenAI的前沿模型可以安全发布？

OpenAI正在推出其最新的高级法学硕士Sol，以供广泛的公众访问。 Sol被认为至少与Anthropic的《寓言》相当，该模型的能力（或所有权）给白宫带来了足够的压力，以至于它被短暂禁止公众访问。

那么这些模型是如何获得发布许可的呢？简短的回答：没有人很确定。

“坦率地说，我无法了解这些确切的流程，所以，是的，我觉得我没有足够的信息来判断它们是否足够，”乔治城安全和新兴技术中心的高级研究分析师米娜·纳拉亚南 (Mina Narayanan) 告诉TechCrunch。 “Anthropic确实表示他们正在与政府进行对话，他们开发了一个分类器来检测越狱尝试，并且他们已经实施了防御间隙策略以防止未来越狱，但政府与Anthropic和OpenAI之间的对话到底是什么样的尚不清楚。”

前特朗普政策顾问、现为OpenAI工作的迪恩·W·鲍尔 (Dean W. Ball) 在上个月的时事通讯中写道，“没有人知道获得许可的要求是什么”。

安迪·康文斯基 (Andy Konwinski) 是一名计算机科学家，Databricks、Perplexity和劳德研究所的联合创始人，他表示，他从未与任何了解该过程的人交谈过，甚至包括前沿实验室的员工。 “这是一个存在的问题，”他告诉TechCrunch。 “安全与否，关键在于谁有权做出决定——谁把关并决定权限？”

特朗普政府上任十八个月后，尽管有行业人士制定政策——或者一些批评者称，这是因为——制定政策的行业人士，但如何向前推进仍然不太明确。上个月，经过数周的内讧后，发布了一项行政命令，制定了评估前沿模型的路线图，但除了不存在的内容之外，具体细节尚未填写。安德森·霍洛维茨 (Andreesen Horowitz) 前合伙人斯里拉姆·克里希南 (Sriram Krishnan) 告诉英国《金融时报》，“人工智能领域不会有FDA”，上个月他还在白宫担任人工智能高级顾问。

值得注意的是，对于哪些模型需要政府审查，或者哪些机构应该进行这些评估，目前尚未达成一致。目前，商务部人工智能标准与创新中心似乎正在带头，但行政命令指示六个内阁机构在8月初确定最终程序。与此同时出现的情况充其量只是临时的。

OpenAICEOSam Altmansaidon CNBC表示，这一过程涉及与商务部长Howard Lutnick、财政部长Scott Bessent和美国国家网络总监Sean Cairncross等官员的对话，但目前尚不清楚测试这些模型的专家是谁以及他们是如何做到的。 OpenAI拒绝与TechCrunch分享政府流程的详细信息，但在最新型号的安全卡中指出了英国AISI、SecureBio和Irregular等组织的多项外部评估结果。

与Anthropic的《神鬼寓言》推出一样，OpenAI在更广泛的发布之前为政府和选择用户预览了该模型，但我们不知道所有这些用户是谁，也不知道他们是如何选择的。在6月末的一篇博客文章中，该公司表示“我们认为这种政府准入流程不应成为长期默认流程”，并表示将与政府合作制定不同的前进道路。

然而，这些对话的背景包括据报道Altman为政府所谓的“特朗普账户”提供高达5% 的OpenAI股权，以及OpenAI总统格雷格·布罗克曼 (Greg Brockman) 作为特朗普中期政治行动最大的公开捐助者。外部观察人士很难将这些活动与政府明显宽松的Sol监管方式区分开来。

另一方面，当美国政府禁止外国人使用《Amthropic’s Fable》时，它被短暂地从更广泛的访问范围中撤下，部分原因是对用户越狱模型以访问黑客功能的真正担忧，部分原因是Anthropic与特朗普政府之间的性格冲突。出口禁令的威胁也可能导致OpenAI更加配合政府的（未知）要求。

从行业角度来看，不干涉的监管方式可能不错，但依赖于与政府官员的个人关系会带来不确定性和不良激励。

Konwinski告诉TechCrunch，他担心这项技术的真正专家——“安全研究人员、对齐研究人员、可解释性研究人员，还有数据人员和来自各个堆栈的人员”——在模型发布过程中没有发挥足够的作用。

康温斯基认为，“开放公地”是真正平衡安全与创新的最佳方式。他提到了FDA、NIH或国家实验室等模型，这些模型召集研究人员、政府官员和私营公司就安全问题达成共识。

其中一些归结于资本主义的激励因素，十多年来，资本主义激励因素一直激励着人工智能研究人员，并在埃隆·马斯克（Elon Musk）挑战OpenAI公司结构的诉讼期间在法庭上上演。 Ball指出，人工智能业务的性质要求公司在模型发布后不久就收回大部分培训成本，并在竞争中进一步领先。“即使他们的意图是好的，但操作程序中也存在非常明确的法律义务和信托责任，”Konwinski指出。

鲍尔在帖子中指出，前进的道路将取决于获得政府许可的第三方审计组织，这些组织将评估前沿实验室的安全方法。康温斯基也看好新的机构形式，例如专注的研究组织，可以帮助更多来自学术界和非营利组织的公正专家访问和评估前沿模型。

目前，人工智能发展的保密性并没有消失，但它也将为这个美国人越来越怀疑的行业带来政治挑战。威斯康星大学麦迪逊分校计算机科学教授Remzi Arpaci-Dusseau上周在开放前沿会议上表示：“没有一种感觉是负责任的人正在推动这些变革。”

在同一次活动中，计算机科学家大卫·西格尔（David Siegel）创立了最成功的量化对冲基金之一——“二西格玛”（Two Sigma），他要求与会者“想象一种情况，我认为这会非常糟糕，少数公司控制着这项技术；政府在他们的秘密实验室里评估这项技术是否适合使用；而普通公众和科学界实际上无法接触到任何这些东西。”

看来我们根本不需要去想象。