Flock表示，其新工具将有助于识别警察的虐待行为，但尚未解释其工作原理

监控技术初创公司Flock周四宣布了一系列新政策和工具，声称它们将有助于遏制对其自动车牌摄像头读取系统的滥用，并帮助其执法客户承担责任。

Flock现在建议警察部门将数据保留7天，而不是之前的30天。随着这一变化，该公司推出了所谓的“证据模式”，当客户需要在“特殊情况”下更长时间地保留数据并需要特定的案例编号时，可以打开该模式。客户现在还可以据正在调查的犯罪类型，对与其他客户共享的数据设置限制。

该公司还强调了一种名为“审计协助”的工具作为关键变化之一。 Flock在四月份推出了该工具。 Flock表示，从那时起，“超过三分之一”的客户已经启用了它，该初创公司现在要求所有客户在今年年底前启用它。

据周四发布的博客文章，弗洛克表示，审计协助“检测到异常活动并将其标记为供管理员审查”。如果发生这种情况，该工具可以自动锁定已标记的用户，直到管理员进行干预。据Flock称，该工具已经帮助客户发现并阻止滥用行为。

几位高管都吹捧了审计协助的功能。但尽管它声称很重要，弗洛克并没有详细解释审计协助实际上是如何运作的。

一些官方评论提供了对审计协助可以做什么的一些理解；当试图确定它是如何做到的时，它会变得模糊。

例如，Flock的信任与合规主管Ashley Haber在一段视频中表示，审计协助可以标记“特定用户可能看起来奇怪的搜索历史记录”，帮助客户了解其用户如何操作系统。在另一个视频中，Flock联合创始人Paige Todd表示，“审计协助实际上很早就标记了异常模式。想象一下，一个用户在30多天内重复搜索同一个盘子。”

Flock客户、佐治亚州邓伍迪警察局的帕特里克·克里格少校在一份新闻稿中将这一功能描述为“一种算法，可以通知我们任何类型的偏见”。

Flock将审核协助描述为一项功能，可以“尽早发现非典型活动，并通过清晰、记录的工作流程快速对其进行审查”。

目前尚不清楚的是，TechCrunch已要求回答这一“算法”实际上是如何工作的，它是据什么数据进行训练的，以及它是否是使用大型语言模型开发的。 TechCrunch还询问它旨在呈现什么样的模式以及到底什么被标记为“异常活动”？

据Flock的说法，审计协助并非基于[机器学习]或人工智能。该公司告诉TechCrunch，“这是一种标记非典型搜索模式以供进一步审查的数据工具。触发标记的一个例子是，如果用户使用多个不同的案例代码搜索同一个车牌，因为这可能表明滥用。标记并不意味着它肯定是滥用 - 它只意味着需要进一步调查。”

然而，许多问题仍未得到解答，包括Flock是否有任何统计数据或数据表明该工具的有效性、其误报率和漏报率是多少，以及是否经过第三方审核？

隐私专家和Flock批评者对审计协助并不感兴趣。

美国公民自由联盟高级政策顾问查德·马洛 (Chad Marlow) 在回应弗洛克的声明时表示，“没有证据表明该工具能够持续发挥作用”来解决滥用问题。

马洛写道：“虽然最近有数十名警官因个人原因滥用Flock而被逮捕、解雇或受到其他纪律处分，但Flock声称这些逮捕证明了其审计工具的有效性。” “然而，除非我们知道滥用该系统的官员数量，否则我们无法断定Flock及其审计工具是否捕获了95% 或5% 的违规者。Flock需要由独立评估人员分析其审计工具，以确定其实际有效性。在此之前，我们不知道该工具是真正的安全措施还是只是装饰门面。”

电子前沿基金会的安全研究员和高级公共利益技术专家Cooper Quintin告诉TechCrunch，审计协助是否有效甚至可能并不重要。

他说：“如果确实有效，执法部门将找到解决方法。”他补充说，最终重要的是施虐者是否被抓获并被追究责任。 “如果滥用行为没有后果，并且[该工具]向谁报告与实施滥用行为的警察机构相同，那么它只是Flock的一块遮羞布。确保问责制的最佳方法是通过法律限制该技术的使用，并要求其使用有搜查令。”

布伦南中心自由与国家安全项目主任雷切尔·莱文森-瓦尔德曼 (Rachel Levinson-Waldman) 告诉TechCrunch，强制审计协助是朝着正确方向迈出的一步，并且“理论上”该工具是“一个好主意”。但她也表示，该工具本身“需要接受审核”，因为没有足够的信息来说明它在实践中如何运作。

Flock的声明是在多年来有关其客户多次滥用其技术的事件报道之后发布的。比伯县治安官办公室在一份新闻稿中表示，本周早些时候，三名前乔治亚州治安官副手被捕，并被指控使用Flock摄像机跟踪“当时与他们有私人关系”的人。在这种情况下，比伯县警长戴维·戴维斯特别指出弗洛克的新工具审计援助可以揭露滥用行为。