随着人工智能内容充斥互联网，Pangram筹集了900万美元来检测它

总部位于纽约的人工智能检测初创公司Pangramis的使命是对抗在互联网上传播的人工智能溢出感染，该公司刚刚筹集了900万美元，押注对区分人类生成内容和人工智能生成文本的工具的需求只会增长。

Pangram的融资由Menlo Ventures领投，Haystack、ScOp、Script Capital和Cadenza参与，同时该初创公司还推出了下一代人工智能文本检测模型Pangram 4和人工智能图像检测模型Pangram Image。

Pangram表示，新的文本检测模型在查找AI辅助写作和人类与AI混合的内容方面的准确率超过99%，而且它可以更轻松地检测AI人性化程序。 AI图像检测器目前仅可通过研究预览获得； Pangram计划在未来几周内更广泛地发布它。

大约两年前，斯坦福大学人工智能和机器学习毕业生马克斯·斯佩罗 (Max Spero) 和布拉德利·埃米 (Bradley Emi) 推出了Pangram，当时ChatGPT的推出为充满机器人、人工智能生成的SEO垃圾内容以及斯佩罗所说的“推特上受法学硕士支持的俄罗斯虚假信息活动和受阿联酋影响的活动”的互联网打开了闸门。

“我认为知道你所看到的东西是否是人工智能生成的东西是非常有价值的，”Spero告诉TechCrunch。 “尤其是你正在阅读的文本，因为它改变了人们对待文本的方式。这是我必须警惕幻觉并持怀疑态度介入的东西，还是我相信这是由真正的记者进行充分研究的东西？”

Pangram的人工智能检测系统本质上是一个大型机器学习模型，经过数千万份已知人类文档的训练。然后，这家初创公司为每个文档创建了一个“合成镜子”，复制主题、长度和语气，但由前沿法学硕士撰写。

斯佩罗说：“我们的模型正在学习人工智能持续做出的风格差异和选择，并能够利用这些差异来了解人工智能生成的内容具有高可信度。”他补充说，人工智能检测器不依赖于复制粘贴元数据或隐藏水印。

对于Pangram来说，人工智能检测不仅仅是一段文本是否完全由人工智能编写。它还涉及区分人工智能协助的级别——比如有人自己写了一些东西，然后要求人工智能编辑或清理它。 Spero认为，只要作者公开他们对人工智能的使用，人工智能的帮助就可以接受。

Pangram的出现正值人工智能的使用变得越来越普遍的时候。在某些情况下，就像加拿大政客在向立法者演讲时大声朗读人工智能提示一样，这些错误会导致嘲笑。在其他情况下，就像某些律师使用ChatGPT创建的虚假引文来陈述案件一样，后果可能是制裁和罚款。

这种强烈反对不仅让个人感到尴尬或受到制裁——它也开始出现在制度规则中。

开放获取档案arXiv今年推出了一项新的执行政策，指出提交的内容包含作者未能审查LLM输出的证据（例如幻觉参考文献或元评论，例如“您希望我做出任何更改吗？”）可能会触发一年的提交禁令。

Pangram并不是唯一一家押注人工智能检测将变得更受欢迎的公司。 Winston AI、Originality.ai、Copyleaks和GPTZero等竞争对手都在追逐相同的需求，每个都构建了自己的检测器。

Pangram的技术虽然并不完美，但可能有助于加剧人们对人工智能生成的内容在互联网、法庭和学术论文中泛滥的抵制。

用户可以通过每月20美元的网络订阅访问Pangram，或者下载Chrome扩展程序，该扩展程序会自动在X、LinkedIn、Substack、Reddit和Medium上实时标记帖子。它还提供了饲料健康评分，以及屏幕上人类与人工智能内容的百分比细分。

Pangram还通过API提供其技术。值得注意的是，Substack最近将Pangram的技术集成到其平台中，向读者展示他们最喜欢的作者是使用人工智能撰写的新闻通讯。据Spero的说法，其他API客户包括Quora、学校和大学、出版商和代理商以及招聘人员等。

潘格拉姆有用吗？

Spero表示，使用Pangram的模型，大约万分之一的人类文档被错误地标记为人工智能，因此我决定对其进行测试。文本检测模型非常令人印象深刻，但并不完美。它很容易标记出由ChatGPT和Claude撰写的完全由人工智能生成的新闻文章，并且很少被我试图将人工智能生成的文本编辑得听起来更人性化的尝试所欺骗。与此同时，Pangram将我完全重写的句子标记为人工智能编写的。 Pangram也完全没有被我在生成内容时提示ChatGPT和Claude躲避AI检测器的尝试所愚弄。

我还给了ChatGPT和Claude我自己的一篇文章，请他们润色。 Pangram给它的人工智能辅助得分为13%，这可能接近准确，但该模型能够检测到某些句子中微妙的选词变化，而忽略其他句子中的细微变化。它还将一些由人类编写的句子标记为人工智能辅助的。这是值得注意的，因为当我向Pangram提供同一篇文章的完整内容时（就像我写的那样），它得到了100% 的人类评分。

也许问题在于新闻文章可能有点枯燥，而且很容易听起来像人工智能。所以我尝试了一种不同的策略。我在自己更声音化的、个人的Substack时事通讯内容上测试了Pangram，将文本的前半部分粘贴到Pangram中，然后要求ChatGPT和Claude复制我的风格并编写后半部分。在大多数情况下，Pangram可以轻松检测出人类编写的文本与人工智能编写的文本。

我对Pangram的新图像检测模型进行的有限测试结果同样令人印象深刻。

Pangram的AI图像检测系统有望在AI模型中发现AI生成的图像，这与OpenAI或Google DeepMind的基于水印的检查不同，后者主要检测自己的输出。它适用于像素级分布，学习真实照片和人工智能生成图像之间的细微统计差异。斯佩罗表示，该模型甚至可以检测出现在真实世界照片中的人工智能图像。

在我的测试中，该模型可以轻松检测人工智能生成的图像，无论是真实感还是卡通图像。我还可以确认该模型可以检测到真实世界照片中出现的人工智能图像——热图Pangram清晰地照亮了图像——尽管在一次例子中，它错误地将人工智能生成的图像的照片标记为人类内容。

斯佩罗表示，他不希望自己的技术助长针对使用人工智能写作的人的政治迫害，但需要某种机制来抵制这种现象。

“我看到的未来是人工智能内容将继续激增，”斯佩罗说。 “我们获得新GPU的速度比新人出生的速度还要快。如果我们不积极地区别对待人类内容，那么我们只会看到越来越多的人工智能，而且它只会淹没我们拥有的任何人类信号。”