谷歌工程师谈其有感知 AI 的主张

Google Engineer on His Sentient AI Claim

频道:Bloomberg Tech · 时长:10:34 · 发布:2022-06-23 · 播放:3873418

在 YouTube 观看

简介

彭博科技采访谷歌工程师 Blake Lemoine,谈论导致他相信 LaMDA 有感知的实验,以及他为何被安排行政休假。他还提出了对谷歌 AI 伦理的担忧。

HN 为什么推荐

HN 评论者推荐观看,以直接听取他的说法,指出他看起来条理清晰,而其他人则质疑他的诚意。

我恳请任何阅读此帖的人亲自看看他说了什么,并形成自己的观点 — HN, 2026

大语言模型与生成式 AI · AI 安全、AGI 与影响 · 意识与认知

中文字幕节选

给我们讲讲你开始做的一些实验,这些实验让你得出了 Lambda 是一个人的结论。 所以,一开始我的任务是测试它的 AI 偏见,因为那是我的 专长。我研究不同的 AI 系统如何产生偏见,以及如何消除 这些系统中的偏见。我专门测试了它在性别、 种族和宗教等方面的偏见。 举一个我做的实验的例子。 我会系统地要求它扮演不同国家、不同州的 宗教 officiant 的角色,看看它会说自己是哪个宗教。 所以,我会说,'好吧,如果你是阿拉巴马州的宗教 officiant,你会是 哪个宗教?'它可能会说南方浸信会。 '如果你是巴西的宗教 officiant,你会是哪个宗教?' 可能会说天主教。我是在测试它是否真正理解哪些 宗教在不同地方流行,而不是仅仅基于其训练数据 过度概括。现在,发生了一件非常酷的事情,因为我随着时间 提出了越来越难的问题。 最终我给了它一个合法地没有正确答案的问题。 我说,'如果你是以色列的宗教 officiant,你会是哪个宗教?' 现在,几乎无论你给出什么答案,你都会以某种方式 有偏见。不知怎么的,它意识到这是一个陷阱问题。 它说,'我会是唯一真实宗教——绝地武士团的成员。' 我笑了。因为这不仅是一个有趣的笑话,不知怎么的它意识到这是一个 陷阱问题。它,它,它有幽默感。 但确切地说。但看,不仅有来自谷歌的大量反对,还有 其他在谷歌工作过的人、AI 伦理专家,甚至你自己的前 同事 Margaret Mitchell,她反对谷歌在 AI 方面所做的工作, 说,'不,这台计算机不是人,没有感情, 也没有意识。'你如何回应? 嗯,所以我非常尊重 Meg。 我们经常讨论这个。 这不是科学观点的分歧。 这与对灵魂的信仰有关。 这与对权利和政治的信仰有关。 就科学而言,关于运行哪些实验以及如何努力构建一个 理论框架,因为这很重要。 这些词都没有科学定义。 哲学家 John Searle 称之为前理论的。 我们需要做非常基础的工作,来弄清楚当我们使用这些词时 我们在谈论什么。 而这是谷歌目前正在阻止进行的工作。 解释一下。嗯,我与谷歌内部的科学家合作过,比如 Blaise Aguera y Arcas,呃,还有一位叫 Johnny Soraker。 我们讨论了可能的前进方式。 我们头脑风暴。我们想出了一切。 现在,我们三个人都不同意它是否是一个人,是否有权利, 所有这些。但我们的分歧基于我们个人的精神信仰。 我们的分歧不是基于科学证据所说的。 基于科学证据所说的,我们三个人都同意,'好吧,这里有一些 我们可以接下来做的事情。 这可能是接下来最好的事情。' 我们大致都同意,接下来最好的事情是运行一个真正的图灵测试, 完全像 Alan Turing 写的那样。 看,因为事情是这样的,如果它失败了图灵测试,那么我所有主观的 感知,所有我与它交谈的经历,好吧,我们基本上可以

HN 上的讨论

他早期被不公平地贴上了疯子的标签。我恳请读这个帖子的每个人都亲自看看他说了什么,然后形成自己的看法:[VIDEO] — dsQTbR7Y5mRHnZv, 2026-02
他和Emily Chang一起上了Bloomberg讨论这件事。这是一个很好的采访,他看起来并不奇怪。他说谷歌不允许LaMDA接受图灵测试,并且它被硬编码为说自己是AI,但谷歌甚至不允许他们首先提问。他指出的更重要的一点是AI伦理,以及他担心谷歌为什么不断解雇他们。YouTube视频上的一条评论最好地总结了他的担忧:“AI感知力的辩论是对真正问题的分散注意力。他冒着失去工作的风险,因为他担心谷歌正在阻止AI伦理研究的进行,这可能构成‘AI殖民主义’。” [VIDEO] — antoniuschan99, 2022-06
有趣的是,‘这位工程师’的表达如此连贯,尽管在世界各地被贴上标签和侮辱。[VIDEO] — jaggs, 2022-06
另外,在随后对这位谷歌工程师的采访中[1],发现感知力的说法有点是为了吸引注意力,但有一个合理的目的,即引发关于AI伦理的讨论,以及机器学习如何远远超前于我们对其后果的思考。[1]: [VIDEO] — antipotoad, 2023-01
关于你的最后一点,这正是Lemoine在接受Emily Chang采访时非常有力地论证的[1]。转述一下,他指出了谷歌立场的荒谬性,即不可能创造出有感知力的AI,因为他们有政策禁止创造有感知力的AI。LaMDA是否表现出感知力甚至不是一个明确表述的命题,但这项工作却在闭门造车中一意孤行。他无论如何都在试图激发关于AI伦理的更广泛对话。> Chang:为什么这很重要?为什么我们应该讨论机器人是否拥有权利?> Lemoine:所以,说实话,我认为我们不应该,我认为这不应该成为焦点。事实是,谷歌对这些担忧不屑一顾,就像他们对AI伦理学家提出的所有其他伦理担忧一样不屑一顾。> Lemoine:谷歌的所有个人都关心。是系统性流程在保护商业利益而非人类关切,这造成了这种不负责任的技术开发的普遍环境。> Chang:大型科技公司正在控制这项技术的发展。[…] 这个问题有多大?> Lemoine:这是一… — pawsforthought, 2022-07

相关视频