我们正在构建一个反乌托邦,只为让人们点击广告 | Zeynep Tufekci

We're building a dystopia just to make people click on ads | Zeynep Tufekci

频道:TED · 时长:22:55 · 发布:2017-11-17 · 播放:772407

在 YouTube 观看

简介

技术社会学家 Zeynep Tufekci 认为,用于投放广告的机器学习系统也决定了人们看到什么政治和社会信息。她解释了不透明算法如何推动、细分和操纵用户,并警告真正的危险是掌权者利用 AI 控制人群。

HN 为什么推荐

HN 评论者在参与优化信息流、微目标定位或广告基础设施出现时引用它,作为关于算法放大的易理解警告。

这个 TED 演讲[0]关于说服架构提出了一些反对这个想法的有趣道德论点。 — HN, 2020

隐私、监控与网络犯罪 · AI 安全、AGI 与影响 · 未来主义与技术社会

中文字幕节选

所以当人们表达对人工智能的恐惧时, 他们常常会想到失控的人形机器人。 你知道,终结者?这也许值得考虑, 但那是遥远的威胁。 或者,我们用过去的隐喻来担忧数字监控。 乔治·奥威尔的《1984》再次登上畅销书榜。 这是一本好书,但它不是21世纪正确的反乌托邦。 我们最需要恐惧的 不是人工智能本身会对我们做什么, 而是当权者将如何利用人工智能 以新颖、有时隐蔽、 微妙且意想不到的方式来控制和操纵我们。 在不久的将来,许多威胁我们自由和尊严的技术 正由那些 以捕获并出售我们的数据和注意力 给广告商及其他方为业务的公司开发: Facebook、谷歌、亚马逊、 阿里巴巴、腾讯。 现在,人工智能也开始支持他们的业务。 人工智能似乎只是在线广告之后的下一个事物。 并非如此。这是一个类别的飞跃。 这是一个完全不同的世界,具有巨大潜力。 它可以加速我们对许多学习和研究领域的理解。 但套用一位好莱坞著名哲学家的话, “巨大的潜力伴随着巨大的风险。” 现在让我们看看数字生活的一个基本事实:在线广告。 对吧?我们有点不屑一顾。 它们看起来粗糙、无效。 我们都有过在网上被跟踪的经历, 被基于我们搜索或阅读内容的广告跟踪。 你知道,你搜索一双靴子, 然后一周内,那双靴子到处跟着你。 即使你屈服并买了它们,它们仍然跟着你。 我们对这种基本的、廉价的操作已经习以为常。 我们翻个白眼,心想:“你知道吗?这些东西没用。” 然而,在线上,数字技术不仅仅是广告。 现在,为了理解这一点,让我们想想一个现实世界的例子。 你知道在超市的收银台,靠近收银员的地方, 有糖果和口香糖放在孩子视线高度吗? 那是为了让孩子们向父母哭闹, 就在父母准备结账的时候。 现在,这是一种说服架构。 它不厚道,但有点用。 这就是为什么你在每家超市都能看到它。 现在,在现实世界中,这种说服架构有点局限, 因为你只能在收银台旁放这么多东西。对吧? 而且糖果和口香糖对每个人都一样,尽管它主要只对 身边有爱哭闹的小家伙的人有效。 在现实世界中,我们与这些局限共存。 然而,在数字世界中, 说服架构可以以数十亿的规模构建, 它们可以针对、推断、理解并部署到个人, 通过找出你的弱点,逐一进行, 它们可以被发送到每个人的手机私人屏幕, 所以对我们来说是不可见的。 这就是不同之处。 而这只是人工智能能做的基本事情之一。 现在,让我们举个例子。 假设你想卖去拉斯维加斯的机票。对吧? 所以在旧世界,你可以考虑一些人口统计目标 基于经验和你的猜测。 你可能会尝试向25到35岁的男性投放广告, 或者信用卡额度高的人,或者退休夫妇。对吧? 这就是你过去会做的。 有了大数据和机器学习,情况就不再是这样了。 所以想象一下,想想Facebook拥有的关于你的所有数据: 你输入的每一条状态更新,每一次Messenger对话, 你登录过的每一个地方, 你上传的所有照片。

HN 上的讨论

uBlock团队是现代的 heroes,为我们打这场美好的仗。多亏了他们,我长期以来都能安心上网。有时我会想,如果几个家伙没有建立糟糕的科技初创公司,我们的生活会是什么样。我们已经从创意广告变成了这些操纵性的在线营销骗局,它们攻击我们的大脑,尤其针对年轻一代,这影响了我们的社会、行为、艺术和文化的发展。推荐观看:“技术社会学家Zeynep Tufecki说,我们正在建造一个由人工智能驱动的反乌托邦,一次点击一次。在一次令人大开眼界的演讲中,她详细介绍了Facebook、谷歌和亚马逊等公司用来让你点击广告的相同算法,也被用来组织你对政治和社会信息的访问。而机器甚至不是真正的威胁。我们需要理解的是,有权势的人可能如何利用AI控制我们——以及我们可以做些什么来回应。”[VIDEO] — kaizenb, 2026-08
故意使用这种手段确实有个名字:随机恐怖主义。8年前还有一个非常好的TED演讲关于这个话题:[VIDEO] — DarkUranium, 2026-02
不过YouTube的情况并非如此。YT会向你推送推荐视频。Zeynap Tufekci有一个关于这个话题的有趣演讲:[VIDEO] — inglor_cz, 2021-01
> 当然,这只是轶事,作为一个对良好相关广告没有异议的科技人士。小心你的愿望。这个关于说服架构的TED演讲[0]提出了一些反对这个想法的有趣道德论点。如果我们普遍接受广告转化率是广告成功的指标,我们如何处理那些容易上瘾行为(如赌博和强迫性购物)的人暴露在利用他们状况的广告中的情况?数据驱动的广告系统特别擅长找到并利用这类人。我们已经在诈骗电话/电子邮件世界中看到很多这种情况。一旦你上了一次当,你从骗子那里收到的入站流量就会急剧增加。0:[VIDEO] — save_ferris, 2020-05
这条评论严重低估了社交媒体微定向的威力,将其简单归结为在FB上买几个广告和运行推特机器人。我建议你看看Zeynep Tufekci的Ted演讲([VIDEO]),了解一下社交媒体活动能有多有效。 — redux13, 2018-02

相关视频