用数学保护隐私(与人口普查局合作)
Protecting Privacy with MATH (Collab with the Census)
频道:minutephysics · 时长:12:31 · 发布:2019-09-12 · 播放:451728
简介
minutephysics与美国人口普查局合作,解释了差分隐私以及为什么2020年人口普查添加噪声以保护个人数据。它展示了统计数据如何泄露私人信息。
HN 为什么推荐
被链接为差分隐私和人口普查最清晰的技术解释,以及为什么聚合数据仍可能损害隐私。
minutephysics的技术解释 — HN, 2022
中文字幕节选
免责声明:本视频是与美国人口普查局合作制作的, 并由人口普查局的科学家进行事实核查; 任何观点和错误仅代表我个人。 每十年,美国人口普查局都会调查美国人口—— 其雄心勃勃的目标是 统计目前居住在整个美利坚合众国的每一个人, 并收集他们的信息,如年龄、性别、种族和民族。 进行像人口普查这样的调查(以及许多其他大型医学或人口学调查)的 全部目的, 是为了能够获得特定人口的总体、 定量描述——有多少人住在明尼苏达州? 或者密西西比州?他们的平均年龄是多少? 这些情况在不同地方、不同性别或种族之间有何差异? 美国人口普查的结果具有特别的政治意义, 因为它们被用来 确定不同州在 美国众议院获得的席位数量, 以及从国会到市议会的 立法选区边界,但大型调查 也有助于理解许多其他问题。当然,问题在于, 人口普查(像许多其他医学和人口学研究一样) 本应是私密的。 比如,人口普查局以外的任何人 都不应该能够仅仅通过查看已发布的 关于美国人口统计的统计数据, 就明确推断出 我的社区里住着一个31岁、没有孩子的白人已婚男性(那就是我)。 人口普查局应该对我的信息保密。 而且他们也应该对居住在美国的 其他每个人的信息保密。 这是一个艰巨的任务,因为你怎么能在 完全保密每个人的信息的同时, 又基于这些信息发表任何言论呢? 简短的回答是:你不能。 在发布从调查中学到的信息 和维护参与者的隐私之间,存在固有的权衡。 看起来你可能只需从电子表格中删除人们的 姓名,或者只发布平均值和总数等摘要。 但使用强大的计算机很容易将姓名与数据集重新关联,而且有一个 数学定理保证,如果你进行一项研究, 你发布的每一条准确信息, 无论看起来多么微小, 都会在某种程度上侵犯参与者的隐私, 在某种程度上侵犯 该研究中参与者的隐私。 你公开发布的信息越多, 对参与者个人隐私的侵犯就越大。 但是,你如何定量地衡量像隐私损失这样 模糊的东西,然后又如何保护它呢? 要理解如何衡量隐私,最好先想象一下,有人 会如何尝试利用(来自研究的)已发布结果, 拼凑出被调查者的私人信息。 他们可能只是试图窃取或直接 访问私人信息本身,当然, 这无法通过数学来防范 ——它需要良好的计算机安全或物理 防御,所以我们这里不予考虑! 我们能够从数学上防范的隐私攻击类型, 是那种查看公开 发布的统计数据,然后应用 暴力计算能力来想象 参与者可能给出的所有答案组合 看看哪些是最 合理的——也就是说,哪些最符合已发布的统计数据。 想象一下检查所有可能的组合 字母和数字作为密码,直到 其中一个有效,只不过不是字母和数字,而是检查所有可能的 “3.3亿人可能在人口普查问卷上给出的答案组合” 看看哪些组合最接近公开公布的平均 年龄、种族分布等数据。 一个潜在的答案组合越接近 已发布的统计数据, 它就越有希望成为候选(从攻击者的角度来看)。 匹配得越差,他们的确定性就越低。
HN 上的讨论
minutephysics的技术解释:[VIDEO] 隐私量是可配置的,希望调整它(向任一方向)的研究人员可以提出请求,以便公众可以决定他们愿意为了帮助研究而放弃多少隐私。每种文化都不同,对隐私和侵入程度的容忍度也不同。 — achille, 2022-03
你的评论让我想起了这个关于人口普查的minutephysics视频。[VIDEO] 它很好地讲解了“隐私末日原则”。 — Zacru, 2021-04
> 这实际上会使匿名数据在网络上几乎不可能存在 对于几乎所有类型的数据来说,这是真的。转换或替换数据并不能使其匿名;数据中的模式仍然存在。要生成真正匿名的数据,你必须按照GDPR的指示:严重破坏数据(“被匿名化”),以至于“数据主体……不再可识别”。你需要做类似将数据聚合成少量组的事情,这样单个记录就不再存在。像“差分隐私”这样的技术让你通过例如混入精心设计的噪声来精确控制你的数据有多“匿名”。 > 8192个桶 虽然其他人指出,对大多数人来说,这实际上并不限于13比特的熵,但该字段仍然具有高度个人识别性,至少有两个原因。首先,“单独的x-client-data”从未发生过。谷歌不会浪费时间和金钱来实现这个功能,以创建一个只有单列的孤立数据库。x-client-data值(或他们捕获的任何其他类型的数据)永远不会孤立存在。我用IPv4源地址作为例子,因为它必然存在于通过互联网传输x-cl… — pdkl95, 2020-02
相关视频
- 寻找缺失的忆阻器 - R. Stanley Williams · The Qualcomm Institute · 47:52
- Matplotlib 更好的默认颜色映射 | SciPy 2015 | Nathaniel Smith 和 Stéfan van der Walt · Enthought · 19:08
- Defcon 18 隐私威胁的变化 Moxie Marlinspike 第一部分 · killab66661 · 42:50
- 大多数已发表的研究都是错的吗? · Veritasium · 12:22
- 本视频由 ███ VPN 赞助 · Tom Scott · 7:25
- 美国一直拒绝它已经拥有的身份证 · CGP Grey · 7:15
- Frank Abagnale | 猫鼠游戏 | Talks at Google · Talks at Google · 1:03:19
- #HITB2012KUL D1T3 - The Grugq - OPSEC:因为监狱是给 wuftpd 准备的 · Hack In The Box Security Conference · 1:04:25
- Dan Geer 在 Black Hat USA 2014 的演讲:网络安全即现实政治 · Black Hat · 54:35
- 如何不无知于世界 | Hans 和 Ola Rosling · TED · 19:09
- 我不喜欢笔记本——乔尔·格鲁斯(艾伦人工智能研究所) · O'Reilly · 56:12
- 28c3:即将到来的通用计算之战 · 28c3 · 54:34
- VisiData 闪电演示 @ PyCascades 2018 · Saul Pwanson · 4:50
- 数据经纪人:上周今夜秀与约翰·奥利弗(HBO) · LastWeekTonight · 25:09
- Emacs + org-mode + Python在可重复研究中的应用;SciPy 2013演讲 · Enthought · 21:16
- 我喜欢 Notebooks · Jeremy Howard · 52:09