为什么网络过滤器不起作用:佩尼斯通与斯肯索普问题

Why Web Filters Don't Work: Penistone and the Scunthorpe Problem

频道:Tom Scott · 时长:3:37 · 发布:2016-06-06 · 播放:3644973

在 YouTube 观看

简介

Tom Scott 前往佩尼斯通解释斯肯索普问题,展示为什么幼稚的网络和脏话过滤器会屏蔽无辜的词语。

HN 为什么推荐

每当内容过滤器错误标记无辜词语时,这是首选解释视频,制作精良且简短。

他谈到考虑到所有边缘情况是不可能实现的,而且很容易被绕过 — HN, 2020

软件架构与设计 · 言论自由与审查

中文字幕节选

家长们:本视频包含非常强烈的语言。 您可能想先观看一下,再决定 它是否适合您和您的孩子。 这里是可爱的南约克郡村庄彭尼斯通。 “Penistone。”可能曾经意为“山丘附近的村庄”,但现在它…… 嗯,它是个不幸的名字。他们也知道这一点。 彭尼斯通。是的,它有时会引发问题, 每当某些程序员决定直接封禁某些词语时, 却不考虑它们可能出现在其他地方。突然间, 你谈论的不再是彭尼斯通,而是“P****tone”。 你可能觉得,没有程序员会那么粗心, 但这种情况发生过很多次。在网络历史上,有许多事件, 关于拥有各种不寻常名字的人和城镇被过滤或拒绝。 这通常被称为斯肯索普问题, 但我觉得在彭尼斯通拍摄更好,因为首先, 这个笑话没那么粗俗,其次, 真的没有任何理由让人去斯肯索普。 不。不,不,不,不不不不不。 如今,程序员通常使用更宽松的方法。 我们已经认识到人类富有创造力。无尽的创造力。 屏蔽词?我们会加空格,或者把一个字母改成发音相似的。 试着过滤这些吧,你会很难谈论鸭子。 试着用花哨的统计方法来检测它, 我们会不断改变来绕过它们。 至于试图屏蔽图片或视频……我只能说,祝你好运。 如果你想绕过网络过滤器,随便问问任何学校的任何教室。 只需要一个人知道如何规避它, 突然之间,他们所有的朋友也都知道了。 以及他们朋友的朋友。 我们在这里谈论的不仅仅是脏话和成人内容: 中国的互联网用户经常使用委婉语和微妙的技巧 来绕过他们国家的网络和社交媒体审查, 比如把被严格审查的天安门广场抗议周年纪念日 称为“互联网维护日”,因为周围一切都关闭了。 中国的防火长城在一定程度上确实有效—— 但存在大量的附带损害。它过度屏蔽。 其他网站和词语也被卷入并屏蔽, 而且需要大量人力支持才能使其运作。 如果你真的想制作一个自动 系统,甚至接近人类水平—— 别忘了,人类仍然会犯错—— 那个自动系统不仅需要解析语言,还需要解析上下文。 它必须理解每一个文化引用, 每一个人类版主可能注意到并屏蔽的暗示, 并且必须判断某事物是否安全, 有点可疑,还是完全越界。 它至少需要基本的心理理论: 判断别人对某个词或情境会有什么反应的能力。 要制作有效的互联网过滤器,你需要一个人, 或者一台基本上等同于人的计算机。 我不认为这是不可能的——但我认为还有很长的路要走。 如果你有能如此理解人、能共情、 能预测反应和行为的东西, 你拥有的就远不止一个网络过滤器。 你甚至可能拥有某种,按照某些标准—— 比如旧的图灵测试——算作人的东西。 [翻译这些字幕?在这里加上你的名字!]

HN 上的讨论

YouTuber Tom Scott 有一个关于这种审查“问题”的视频 [0]。他谈到,考虑到所有边缘情况,这不可能实现,很容易被绕过,因此通常不是一个好主意。恰如其分的是,视频是在 Peniston 拍摄的。[0] [VIDEO] — thepete2, 2020-05
Tom Scott 做了一个关于这个的视频:为什么网络过滤器不起作用:Penistone 和 Scunthorpe 问题 - [VIDEO] 做得很好,就像他的其他内容一样。 — colemannugent, 2017-04
尤其是Tom Scott,他的不少视频放在今天LLM的语境下看,会让人有种说不出的诡异感,比如[VIDEO] — varun_ch, 2026-08
Penistone 和 Scunthorpe,现在又是 Memphis。[VIDEO] 尽管我不喜欢 Twitter(我主要因工作原因使用它),但他们处于一个无法取胜的境地。他们要么用一个永远不会 100% 完美的有缺陷系统来审核人们发布的内容,要么被“为什么没人想想孩子们”的群体纠缠。 — Crosseye_Jack, 2021-03

相关视频