YouTube将AI深度造假检测扩展到政治家、政府官员和记者

YouTube周二宣布，正在将其相似检测技术扩展到由政府官员、政治候选人和记者组成的试点小组，该技术可识别人工智能生成的深度伪造品。试点小组的成员将获得一个工具，该工具可以检测未经授权的人工智能生成的内容，如果他们认为该内容违反了YouTube政策，则可以要求删除该内容。

经过早期测试，该技术于去年向YouTube合作伙伴计划中的约400万YouTube创作者推出。

YouTube现有的Content ID系统会检测用户上传视频中受版权保护的材料，相似度检测功能会查找用AI工具制作的模拟面孔。这些工具有时被用来试图传播错误信息并操纵人们对现实的看法，因为它们利用政治家或其他政府官员等知名人士的深度伪造角色，在这些人工智能视频中说出和做一些他们在现实生活中没有做过的事情。

通过新的试点计划，YouTube旨在平衡用户的自由表达与人工智能技术相关的风险，人工智能技术可以生成令人信服的公众人物肖像。

YouTube负责政府事务和公共政策的副总裁莱斯利·米勒 (Leslie Miller) 在周二发布之前的新闻发布会上表示：“此次扩展实际上关系到公众对话的完整性。” “我们知道，对于公民领域的人来说，人工智能冒充的风险特别高。但是，在我们提供这种新防护罩的同时，我们也非常谨慎地使用它，”她指出。

米勒解释说，并非所有检测到的匹配项都会据要求删除。相反，YouTube会据其现有的隐私政策准则评估每个请求，以确定内容是否是恶搞或政治批评，这些都是受保护的自由表达形式。

该公司指出，它也在联邦层面倡导这些保护措施，并支持“NO FAKES Actin D.C.”，该法案将规范人工智能的使用，以未经授权地复制个人的声音和视觉相似度。

要使用新工具，符合条件的试点测试人员必须首先通过上传自拍照和政府身份证件来证明自己的身份。然后，他们可以创建个人资料，查看显示的匹配项，并可以选择请求将其删除。 YouTube表示，它计划最终让人们能够在违规内容上线之前阻止其上传，或者可能允许他们通过这些视频获利，类似于其Content ID系统的工作方式。

该公司不愿确认哪些政治家或官员将成为其最初的测试者，但表示目标是随着时间的推移使该技术广泛可用。

这些人工智能视频会被贴上这样的标签，但这些标签的位置并不一致。对于某些人来说，标签出现在视频的描述中，而关注更“敏感主题”的视频会将标签应用到视频的前面。这与YouTube对所有人工智能生成的内容所采取的方法相同。

YouTube创作者产品副总裁Amjad Hanif在谈到该标签的位置时解释道：“有很多内容是用人工智能制作的，但这种区别实际上对内容本身来说并不重要。” “这可能是一部由人工智能生成的动画片。所以我认为，要判断它是否属于一个可能值得从非常明显的免责声明中获得的类别，”他说。

YouTube目前并未透露创作者手中的Deepfake检测技术已删除了多少此类AI Deepfakes，但指出迄今为止删除的内容量“非常小”。

哈尼夫说：“我认为对于很多[创作者]来说，这只是对正在创作的内容的认识，但实际删除请求的数量确实非常低，因为其中大多数结果证明是相当良性的或对他们的整体业务来说是有益的。”

政府官员、政客或记者的深度造假可能并非如此。

随着时间的推移，YouTube打算将其Deepfake检测技术引入更多领域，包括可识别的语音和主流角色等其他知识产权。