AI伦理、不可能性定理与权衡 - Chris Stucchio | Crunch 2018

AI Ethics, Impossibility Theorems and Tradeoffs - Chris Stucchio | Crunch 2018

频道:CraftHub Events · 时长:43:23 · 发布:2018-11-20 · 播放:1605

在 YouTube 观看

简介

Chris Stucchio阐述了算法决策背后的伦理原则,并通过贷款、犯罪学和教育领域的例子表明这些原则无法同时满足。该演讲将AI公平性框定为一组定量权衡。

HN 为什么推荐

HN在算法偏见讨论中引用该视频,因其提出了不可能性结果:算法无法同时做到程序公平、群体公平和最大效用。

不可能同时以相同方式对待每个人、拥有有用的模型,并得到均匀分布的无偏见结果。 — HN, 2020

机器学习与深度学习 · AI 安全、AGI 与影响 · 概率与博弈论

中文字幕节选

[掌声] 嘿,我们有幻灯片吗 酷,所以我是数据科学负责人,很简单,所以正如 提到的,我们运营一个类似信用卡的后期平台,我们是 目前印度最大的,所以既然我们还在成长,我承担 很多角色,数据科学、很多计算机安全,我关注的另一件事 是伦理问题,所以这就是我要讨论的,特别是 我要讨论伦理问题如何困难,没有好的方法 绕过它们,无论你问谁,你都无法避免 做某些人认为不道德的事情,所以他们首先介绍 问题如何产生,所以这里有一个最简单的机器学习算法例子 可以运行,这通常由杂货店的店长运行,所以 你制作一个你销售和使用的物品的电子表格,你计算损耗 率,基本上是人们偷窃这些产品的速率,你按 每个物品损失多少钱排序,这是盗窃率乘以 价格,你在高风险物品上放置防盗设备,这 应该保持物品,所以防盗设备是一种令人讨厌的塑料盒 当你离开商店时会触发警报,如果你 结账时,它真的会减慢你离开商店的速度,看起来真的很 简单,能出什么问题,这可能会出错,这发生 很多,每几个月在美国,一些勇敢的记者发现一些 当地药店这样做了,他们把一个黑人的护发 产品放进了防盗盒,他们没有对旁边的盒子做同样的事情 如果有一场小骚动,不仅仅是这个,它发生在 各种情况下,但看起来像这样,每个人都会 生气,现在这不是店主不友善或 种族主义,他们只是有一个电子表格并排序,但尽管如此这 发生了,很多人不喜欢,现在让我们想想,让我们试着分解 实际发生了什么,这可能是因为他们不好,因为它让 黑人顾客感到被刻板印象,感觉人们怀疑他们,有 不同的影响,这意味着他们更可能承担 慢结账的负担,另一方面,这仍然是 数学上最优的减少盗窃的方法,你主要针对最常被偷的物品,如果 你不这样做,你可能不得不采取其他措施,比如不携带那些 产品,因为你损失太多钱,另一件你可以做的事情是 在商店里的所有东西上放防盗设备,这样每个人都有一个 不方便的结账,所以有人可能会说这里的功利主义选择就是做 电子表格所说的,这两个立场都有论据 这就是人工智能和伦理中的根本冲突,所以 他们提到,让我先解释这个演讲不是关于什么,这个演讲不是 啦啦队,硅谷的很多人认为有一个真正的答案 对于这个问题,你应该这样做,并接受它是正确的,没有 细微差别,就是这样,我不会在这个演讲中这样做,我实际上不会采取 任何伦理立场,我只是会提到各种伦理原则并 讨论它们之间的权衡,这个演讲也不是关于错误,所以这是一个 著名的照片,因为这个人有亚洲人特征,眼睛相对较窄 眨眼检测算法我们的相机错误地认为她眨眼,如果 你能修复这个,你应该,这只是图像处理中的一个难题,这不是 伦理问题,这只是如果你能修复它,就做,也许那太难了, 你只是不知道如何做,我当然不能让我的算法检测 每一个错误,这不是关于欧洲,我是美国人,我生活和工作 在印度,我听说GDPR是件大事,对我来说似乎有点疯狂,但 我不会谈论我不知道的事情,这个演讲也不是关于人工智能

HN 上的讨论

在许多不平衡的情况下,你根本无法做出一个在所有衡量标准上都公平的无偏决策,无论这个决策是由模型、人类还是神来做的;你必须在不同类型的不公平之间做权衡。对个人的机会平等会导致群体间结果的不平等;如果历史环境造成了社会经济上的不平等,那么结果平等就要求机会不平等。在你那个财务评估的例子中,即使你只把决策简化为针对某个特定个人的相关财务事实,许多偏见和劣势依然会存在,因为一个更贫穷、社会经济地位更低、机会更少的个人实际上不还款的风险更高,而一个处于劣势的群体会不成比例地拥有更多这样的人。我们应该接受这一点吗?我们应该要求其他群体补贴他们的不还款吗?两种选择在某些方面不公平,在另一些方面公平,你不可能既想要蛋糕又吃掉它,而且这不是你所用模型的错——与人类的唯一区别是,人类能更好地隐藏他们使用的因素,对影响撒谎(也许还对自己撒谎),并合理化/编造因素来为他们的决定辩护。关于这个话题,也许这个演讲“… — PeterisP, 2021-02
我对这份幻灯片很感兴趣,想听听作者展开讲讲他的一些想法,找到了他演讲的视频,如果有人也感兴趣的话。[VIDEO] — dvtrn, 2019-01
> 我觉得同样重要的是要记住,很多人类模型之所以被弃用,正是因为其固有的偏见 这个行业需要停止这样滥用“偏见”这个词。几乎所有试图找出这种所谓人类偏见的尝试都失败了。最近公开的例子是亚马逊和招聘[1] 偏见是指持续地朝某一类别错误分类的倾向,或者持续高估或低估的倾向。不知怎么的,这个词被劫持成了“基于政治不正确因素的歧视”的意思。你可以有一个完全没有偏见的超级种族主义模型,而大多数对受保护因素视而不见的模型实际上在统计上是有偏的。把真正的偏见和政治不正确混为一谈是没有建设性的。运营决策,无论是 AI、人类还是统计模型,都面临一个固有的三难困境:不可能同时做到对所有人一视同仁、拥有一个有用的模型、以及得到均匀分布的“无偏见”结果。一个模型最多只能努力实现其中两个。参见:[VIDEO] [1] [LINK] — missosoup, 2020-01
这种“算法有偏见”的标题该消失了。只要系统的输入不是均匀分布的,任何系统在通俗意义上都有“偏见”。系统设计者唯一能做的就是有意识地选择把系统往哪个方向“偏”,并且能够为这个选择给出理由。实际来说,这意味着处理多样化人群的系统永远会对某些群体“不公平”。我们唯一能控制的就是这个群体是谁。这是固有的、无法避免的。我们需要接受这个事实,并在设计这类系统时(或者一开始就选择不设计它们时)把它考虑进去。{程序公平,群体公平,效用}。选两个。[VIDEO] — missosoup, 2019-10
另见 Stucchio 的不可能性定理:一个给定的算法不可能同时做到程序公平、代表性公平和功利主义:视频:[VIDEO] 幻灯片:[LINK] — nostrademons, 2019-09

相关视频