Flock推监控工具防警察滥用，工作机制存疑
科技公司的隐私监控新举措
一家名为Flock的监控技术初创公司于周四宣布了一系列新政策与工具，旨在遏制其自动车牌摄像头识别系统的滥用行为，并帮助执法部门客户保持责任透明度。这一举措引发了广泛关注，尤其是其宣称的”审计辅助”工具。
数据管理政策的调整
作为改革的一部分，Flock现已建议执法部门将数据保留期限从原来的30天缩短至7天。同时，公司引入了名为”证据模式”的新功能，允许客户在”特殊情况下”延长数据保存时间，但需要提供具体案件编号。此外，客户现在可以根据调查的犯罪类型，限制与其他客户共享的数据范围。
备受争议的”审计辅助”工具
公司特别强调了一项名为”审计辅助”的工具，作为此次改革的关键变化之一。Flock于4月推出了这一工具，并声称已有超过三分之一的客户启用了该功能，公司现要求所有客户在今年年底前启用它。
根据Flock发布的博客，”审计辅助”能够”检测异常活动并标记供管理员审查”。一旦检测到异常，该工具可以自动锁定被标记的用户，直到管理员介入。Flock表示，该工具已帮助客户发现并阻止了滥用行为。
工作原理不透明引发质疑
尽管多位高管推崇”审计辅助”的功能，但Flock并未详细解释该工具的实际工作原理。官方评论只能提供对该功能能力的部分理解，而在确定其运作方式时则变得模糊不清。
例如，Flock的信任与合规主管Ashley Haber在视频中表示，”审计辅助”可以标记”特定用户看似异常的搜索历史”，帮助客户了解用户如何操作系统。在另一个视频中，Flock联合创始人Paige Todd表示：”审计辅助实际上会早期标记异常模式。比如用户连续30天重复搜索同一车牌。”
佐治亚州邓伍迪警察局的主要负责人Patrick Krieg作为Flock的客户，在新闻发布会上将该功能描述为”一种能通知我们任何类型偏见的算法”。
Flock将”审计辅助”描述为能够”早期发现非典型活动并通过清晰、有记录的工作流程快速审查”的功能。然而，这一”算法”如何工作，其训练数据是什么，以及是否使用了大型语言模型开发等问题仍不明确。
公司回应与专家质疑
根据Flock的说法，”审计辅助”并非基于机器学习或人工智能。公司向媒体透露：”这是一个数据工具，用于标记非典型的搜索模式以供进一步审查。一个会触发标记的例子是，用户使用多个不同的案件代码搜索同一车牌，因为这可能表明存在滥用行为。标记不一定是滥用行为——它只是意味着值得进一步调查。”
然而，许多问题仍未得到解答，包括Flock是否有任何统计数据证明该工具的有效性，其误报和漏报率如何，以及是否经过第三方审计？
隐私专家和Flock的批评者对”审计辅助”工具并不看好。美国公民自由联盟高级政策顾问Chad Marlow在回应Flock的公告时写道：”没有证据表明该工具能持续有效地解决滥用问题。”
Marlow指出：”尽管最近有数十名警官因个人原因滥用Flock而被捕、解雇或受到其他处分，但Flock声称这些逮捕证明其审计工具有效。然而，除非我们知道滥用系统的警官数量，否则我们无法确定Flock及其审计工具是抓住了95%的违规者还是5%。Flock需要让独立评估机构对其审计工具进行分析，以确定其实际效果。在此之前，我们不知道该工具是真正的安全措施还是仅仅是装点门面。”
电子前沿基金会的研究员兼公共利益技术专家Cooper Quintin表示，”审计辅助”是否有效甚至可能并不重要。这一观点引发了关于透明度和有效性的更深层次讨论。
关注微信号：智享开源 ，及时了解更新信息。
公众号：智享开源
还没有任何评论，你来说两句吧！