破解警用摄像头中令人毛骨悚然的 AI

Breaking The Creepy AI in Police Cameras

频道:Benn Jordan · 时长:35:49 · 发布:2025-08-26 · 播放:3773249

在 YouTube 观看

简介

Benn Jordan 解释了 Flock Safety 的车牌摄像头如何记录和共享车辆位置,并探讨了对抗性 AI 如何击败它们。它涵盖了薄弱的安全性和私人警用摄像头网络的监控风险。

HN 为什么推荐

HN 将其视为 Flock 问题的首选概述,并在几乎每个 Flock 讨论帖中引用它。

Benn Jordan 做了一个很棒的视频。 — HN, 2025

隐私、监控与网络犯罪 · 计算机视觉、语音与 NLP

中文字幕节选

如果你是美国人,你可能已经见过很多这种东西了。 在某些地方,它们太常见了,你甚至都不会注意到它们。 它们就像树木或路灯一样融入背景。 你可能已经正确地猜到,它们在记录交通状况。 它们还在记录和登记车牌,并使用AI图像识别。 但如果我告诉你,它们实际上并不属于你当地的警察 部门或当地政府,而是由一家第三方 初创公司授权给他们使用,你所有车辆的行踪都被一个第三方 数据经纪人追踪着。如果我还告诉你,大型零售连锁店也在使用它们, 并且它们将你车辆的行踪与你的个人信息、你的 购物习惯,甚至你在店内的行为结合起来。 其中一些还将这些信息提供给执法部门。 如果我告诉你,我可能刚刚想出了破解它的方法呢? [音乐] 这个科罗拉多家庭正乘坐一辆被盗车辆前往购物中心, 如果没有尖端技术提醒警方他们的犯罪行为,他们本可以逃脱。 >> 不,那其实是一个OCR错误。 嗯,这位新墨西哥州女子和她12岁的妹妹正带着 一块被盗车牌开车去公园,这时AI增强技术让警方 >> 那个是 另一个计算机视觉错误。 >> 嗯,又一个有色人种女性偷车贼被当场抓获。 >> 不,只是个故障。这种情况在全国各地不断发生。 你的税款资助初创公司向执法部门出租AI超能力,然后 第二年,你的税款又支付诉讼和解金,当它不奏效时。 Flock Safety是一家成立于2017年的初创公司,专门开发和 租赁具有AI功能的安全摄像头,如车牌 识别和车辆识别。 这些安全摄像头将数据输入数据库,执法部门、私营 公司,甚至私人公民都可以访问和利用这些数据库。 如果你在美国拥有一辆车,你毫无疑问已经被记录 在这些数据库之一中。 它的工作原理是这样的。你开车经过一个Flock Safety摄像头,它记录一张图像 或视频。一个图像分割模型或类似的东西寻找车牌 本身,或者一个带有一些关键标识符的矩形,如尾灯或后 窗。一旦它足够确信找到了车牌,它就会将 图像的一部分发送给OCR模型或光学字符识别,这 可能是消费者最广泛使用的AI类型。 例如,它用于PDF或任何类型的自动数据输入,比如扫描 并通过你银行的应用在手机上兑现支票。 这样的AI通常使用置信度阈值。 所以,如果OCR模型有比如90%的把握你的车牌被 准确读取,那么信息就会连同位置和时间戳一起保存。 它还可以分类你车辆的品牌和型号,并记录是否有任何 保险杠贴纸、附加装置或车辆上的外观损坏。 这些信息也会被存储到那个数据库中。 执法官员随后可以查询你的车牌,并看到你的车辆在数据库中被标记的每一次 记录。 所以,如果你在一个有很多这种摄像头的城市,它几乎具有 和秘密在你的车上安装GPS设备一样的效果。 Flock Safety也乐于为企业主和房主 协会提供服务,这些私人客户通常允许执法部门访问 他们摄像头的数据。然后是热门名单。 如果执法部门将你列入热门名单,每次Flock检测到你,他们都会 收到通知。所以,这有点像每天全天都有警察跟踪,

HN 上的讨论

你提到这个真巧。Benn Jordan在完成Flock摄像头研究后,逆向工程了一个非Flock的ALRP单元,并用一些现成零件、一台平板电脑和3D打印机构建了自己的系统。他主要是作为实验,但也因为Flock的图像检测算法差得惊人,车牌读取错误率很高。有几个开源的车牌检测模型,我忘了具体哪个模型表现最好,但这是一个很棒的观看体验,帮助我真正理解这些商业系统有多么低效,以及它们多么容易被击败:[VIDEO] — dmschulman, 2026-05
[VIDEO] Benn Jordan 做了一个很棒的视频。这里的人们经常抨击欧盟的 GDPR,但阻止这种企业驱动的警察国家是它的一个有力支持点。 — athrowaway3z, 2025-09
反对Flock摄像头是合理的,同时承认用于警察目的的安全、可公开问责的摄像头使用可能有其合法地位。YouTuber Benn Jordan做了一个相当不错的分析,说明Flock并非如此。[VIDEO] — ocrow, 2026-05
音乐家转型科技无政府主义者(?)本·乔丹正在制作一个非常有趣的系列视频,关于Flock摄像头、其糟糕的安全性,以及它们与地方政府之间的灰色地带接口:[LINK] [LINK] [LINK] [VIDEO] 我推荐它们。 — gorgonical, 2026-04
好的,在我被指责歪曲事实之前,为了清晰起见。1. 我在旧金山。2. 经过进一步研究,Flock 似乎并未被旧金山警察局用于开罚单。他们有另一个摄像头系统用于此目的。但这并不意味着 Flock 不能用于超速罚单或其他一系列事情,比如闯红灯、乱扔垃圾等。微处理器和 CMOS 摄像头可以做到令人惊叹的事情。无论哪家公司进行监控,争论仍然是一样的。1. 普遍监控有可能被当局不当使用。需要进行讨论。2. 像 Flock 这样的公司(但不一定是 Flock)收集的数据可能被不当使用或出售用于其他目的。Benn Jordan 有一个关于这个主题的好视频 [VIDEO] 3. 声称 Flock 负责 10% 的已解决案件似乎可疑,但没有数据很难知道或相信。鉴于 Flock 在 YC 的投资组合中,这更加可疑。Flock 或类似 Flock 的公司可能会试图在公众讨论对其行为施加任何限制之前变得普遍和不可… — strangattractor, 2025-10

相关视频