AI 困境 - 2023 年 3 月 9 日

The A.I. Dilemma - March 9, 2023

频道:Center for Humane Technology · 时长:1:07:31 · 发布:2023-04-05 · 播放:3673210

在 YouTube 观看

简介

人道技术中心的 Tristan Harris 和 Aza Raskin 阐述了当前 AI 能力为何会带来灾难性的社会风险。他们认为公司正在竞相部署而缺乏足够的安全措施,机构必须适应。该演讲在 GPT-4 发布之前进行。

HN 为什么推荐

经常被推荐为了解 AI 风险的概述,尤其是那些重视《社交困境》的人。

这是一个很好的概述,可以让你快速了解 — HN, 2023

大语言模型与生成式 AI · AI 安全、AGI 与影响

中文字幕节选

我个人的感受,跟大家分享一下,就像是1944年,你 接到罗伯特·奥本海默从所谓的曼哈顿计划里打来的电话。 你根本不知道那是什么。 他说世界即将发生根本性的改变。 只不过,这种改变的方式并不是以安全、 负责任的方式部署的。而是以非常危险的方式部署的。 50%的人工智能研究人员认为,人类有10%或更大的几率会灭绝, 因为我们无法控制人工智能。 逝去的梦想和潜艇在寒冷中漂流,我会在路的尽头找到家, 等待看会发生什么。 大家好。我是苹果公司的史蒂夫·沃兹尼亚克。 我来介绍特里斯坦·哈里斯和阿扎·拉斯金,他们是 人道技术中心的联合创始人。 他们曾参与制作获得艾美奖的Netflix纪录片《监视资本主义:智能陷阱》。 《监视资本主义:智能陷阱》触及了190个国家的1亿人,以30 种语言播出,他们还为国家元首、全球政策 制定者、国会议员、国家安全领导人提供建议,此外还动员了 数百万人关注这些问题以及我们如今 在技术方面面临的一些危险。那么,有请他们。 我们之所以从那个视频开始,嗯,一是那是我第一次 看到让我有所感触的人工智能。 嗯,那是我们跨过的一个门槛。 第二点是,我们试图 向记者解释当时的情况时,有了一次非常奇特的经历。 那是去年一月。 当时可能有一百人在玩这个像是新 技术的东西。现在,你知道,有1000万人已经生成了超过 10亿张图像,我们试图向记者解释即将发生的事情,我们会 带他们了解这项技术如何运作,你输入一些文字, 它就会生成一张从未见过的图像,他们一边听一边点头, 最后他们会说,酷。 你从哪个图像数据库获取图像的? 很明显,我们就像把他们的思维像橡皮筋一样拉伸,然后 因为这是一个全新的能力、全新的范式,他们的思维会 弹回去。这并不是说记者笨。 这是我们所有人都会经历的事情。 甚至在多次做这个演示时,我们意识到我们必须拓展 思维,然后我们看向别处,它又弹回去了。 我们只是想给这种体验命名,因为如果你和我们一样, 在整个演示过程中,你的思维也会这样,尤其是在最后, 你回家后会想,等等,我们刚才看到了什么? 我认为,因为人工智能是如此抽象的东西,它 影响如此多的方面,而且没有像我们生活中 动觉体验那样的基础隐喻,所以很难理解 这有多么具有变革性。 所以,当我们把这个演示称为范式,嗯,对一种 范式技术的范式回应,嗯,我们真正想做的是武装大家, 也许用一种更直观的方式去体验我们即将 进入的指数曲线。稍微说一下背景,因为我们 要说很多关于人工智能的事情,这些不会特别积极。 然而,嗯,你知道,自2017年以来,我一直在研究一个叫做 跨物种项目的东西,利用人工智能翻译动物交流,解码非人类 语言。所以,这里面有很大一部分是我真正热爱并相信的。 几周前,我用ChatGPT在大概15分钟内给自己做了一个 西班牙语家教。所以我们并不是说它不好。 它比多邻国还好。 嗯,大概45分钟吧。嗯,所以我们并不是说

HN 上的讨论

现在几乎整个 AI 行业都是这样。类似于之前的 Web3 行业,但 AI 可能危险得多。AI 专家预测 AI 导致人类灭绝的概率为 10-20%,他们历来低估 AI,但公司却在冲向悬崖,而这只是早期阶段。每个人都应该听听这个警告:[VIDEO] — EGreg, 2023-05
非常可悲的是,人们缺乏想象力,无法想象可能存在的恐怖。你甚至不需要想象力;辛顿、本吉奥、泰格马克、尤德科夫斯基、马斯克等人已经为你详细说明了。此刻,80% 的评论都是嘲讽的,而你实际上完全不知道有多少是计算机生成的机器人内容,旨在影响后 GPT AI 行业的舆论,他们自认为将成为下一个 iPhone 时代的亿万富翁。我们正迅速接近一个现实,即我们的信息空间崩溃。你从 HN、Twitter、新闻、Substack 获得的所有文本;你从 YouTube、Instagram、TikTok 获得的所有视频;几乎都是计算机生成的输出,旨在影响舆论和/或赚钱。我无法知道奥特曼的真实动机。但这也是当领跑者恐惧 GPT6 发布时会发生什么,如果他们不这样做,其他看到亿万富翁美元向他们招手的人就会紧随其后,试图在你停止时超越你。后果?什么后果?我们都知道社交媒体是净好的,对吧?你们中的许多人听起来就像少数… — reducesuffering, 2023-05
你看过这个视频吗?[VIDEO](当然,你不必看。一个陌生人推荐的时长一小时的视频是个很高的要求)有大量证据表明,这比人们想象的要快得多。我不认为人类智能有什么特别之处。一次又一次,我们能够复制大自然所做的事情,并使它们更强大,比如飞机与鸟类。它做同样的事情,但方式完全不同。如果我们不能对大脑做到这一点,那才会令人惊讶。我觉得很多人不会承认我们已经创造了AGI,直到我们真的有一个不可阻挡的AI接管了一切。它在所有方面都不是人类水平,但在很多方面比人类好得多。它永远不会完全像人类,它的运作方式会与我们不同。但如果你把智能视为实现目标的能力,这是大多数研究者的做法,那么我们已经差不多达到了。 — NumberWangMan, 2023-04
我同意,就我所见,大多数讨论往往忽视了经济的基本驱动力,如劳动分工,并且过度关注不太可能实现的结果,而不是以风险为导向的讨论,而后者在风险管理中至关重要。不久前有人发布了一个非常好的视频,涵盖了应该作为概述涵盖的内容。链接:[VIDEO] 任何工程师都知道,一旦变化率超过反应时间,你就无法跟上,失败就会发生。就系统而言,系统越大,失败就越大、越具破坏性。我们面对的是社会机制,所以失败可能具有全球影响。 — than3, 2023-04
[LINK] 这个链接让我改变了想法。之前我不太确定(我有点不好意思承认我没有关注SB 1047的发展)。我还会特别分享这个YouTube上的演讲:[VIDEO] 我认为通过这项法案可能是一个非常好的主意。不完美,但远非破碎。编辑:我实际上不确定我们作为一个社区在宣布这一决定之前的几个月里是否给了这个话题足够的关注。 — reciprocity, 2024-10

相关视频