DeepMindCEO呼吁建立独立标准机构来规范前沿人工智能

在周二上午的一篇X帖子中，Google DeepMindCEODemis Hassabis呼吁建立一个新的监管机构来监督前沿模型的发布。这篇文章的标题是“前沿人工智能框架和新时代的曙光”，阐述了以金融业监管局 (FINRA) 为蓝本的“标准机构”的理由，该机构可以测试前沿模型并为其发布制定最佳实践。

帖子中写道：“最初，Frontier Labs将自愿与标准机构共享模型，以便在发布前30天进行审查。” “一旦评估协议被证明是有效和稳健的，形式化就可以很快进行，这意味着Frontier Models将需要通过它才能在美国市场部署。实验室还将与标准机构合作解决任何关键的发布后漏洞。”拟议的系统将建立在美国政府对Anthropic的Mythos和OpenAI的Sol进行的特别审查的基础上。这些审查因缺乏技术专业知识以及模型何时发布的决策不透明而受到严厉批评。据哈萨比斯提议的监管机构，这些决定可以交给一个新的组织，该组织得到美国政府的支持，但由人工智能行业资助并独立运营。

对于科技行业和特朗普政府来说，人工智能监管的前景仍然存在争议。最近，白宫人工智能顾问兼a16z普通合伙人Sriram Krishnan驳斥了在行政部门内设立人工智能监管机构的可能性，称“不会为人工智能设立FDA”。

将标准机构建立为像FINRA这样的自律组织可能是解决这些问题的一种方法。哈萨比斯预计监管机构将由来自行业内的开源代表和技术专家组成，并获得人工智能实验室的财政支持，这是留住他们所必需的。他们甚至可以将一些评估外包给不断壮大的人工智能安全小组，这些小组能够专门研究特定的风险。

哈萨比斯认为：“这种方法的优势在于它注重技术，同时支持创新并激励负责任的行为。” “它的目的是跟上该领域的加速发展并适应已发现的最大风险，并且如果情况的严重性需要，可以逐步加强。”