我尝试使用AI。它吓到了我。

I tried using AI. It scared me.

频道:Tom Scott · 时长:15:49 · 发布:2023-02-13 · 播放:8502340

在 YouTube 观看

简介

Tom Scott描述尝试用ChatGPT修复他的Gmail标签,并对其能力感到不安。他认为我们无法知道自己在技术曲线上的位置,将其比作Napster。

HN 为什么推荐

HN引用它来论证我们无法在事后才知道AI是在其S形曲线的早期还是晚期。

Tom Scott的视频[0]提出了一个很好的论点:我们不知道自己在技术曲线上的位置。 — HN, 2024

大语言模型与生成式 AI · AI 安全、AGI 与影响

中文字幕节选

我只不过想修一下我的电子邮件。 我没想到会陷入一场小小的存在主义危机, 思考这个世界可能即将发生多大的变化。 通常,这种演讲我会在舞台上讲, 在某个关于网络未来的会议上, 但是,呃,我现在在新西兰, 而且我也有一种模糊的怀疑,那些会议 可能不会再有多大的相关性了。 我很幸运地经历了互联网的大规模普及。 对于观看这个视频的25岁以下的任何人,你们不会记得那有多快 以及那次转变有多么不可思议。 我当时处于最前沿,我亲身经历着, 我是那些明白正在发生什么的人之一。 有用的新技术通常遵循S形曲线。 当技术被发明出来时,起步缓慢, 主要的痛点得到解决, 然后随着人们发现它有用,就会出现这种惊人的增长爆发, 技术变得越来越好,越来越好,越来越好,越来越好, 大量竞争者进入市场, 人们为它找到越来越多,越来越多,越来越多,越来越多的现实世界实用用途。 然后就是一场大规模的竞赛,要制造更新、更好、更大的东西, 人们不断用这些东西制造更多东西。 然后你达到了那项技术可能性的极限, 进步的速度再次趋于平缓。 基本上,这就是为什么很少有人 再为了新iPhone在苹果店外露营了。 我记得1999年的Napster。 事后看来,我认为Napster是第一个重大迹象, 表明有多少行业将会被互联网改变 或彻底摧毁。 不仅仅是音乐行业, 还有旅行社、录像带租赁店、百科全书、购物中心、 大型连锁店、邮政服务、新闻业、整个媒体行业。 Napster不是第一个迹象,但它是第一个重大迹象, 数百万非技术人士自愿使用它。 第一个获得大规模媒体关注和法律问题的。 这是第一次大规模流行的颠覆,第一声警告枪响, 远处传来的第一声隆隆雷声,预示着 风暴正在逼近,一切即将改变。 我认为当时很少有人意识到这一点。 即使他们意识到了,他们也无法预测 随之而来的世界。我成长的世界, 我已经非常适应的世界, 网络、社交媒体、智能手机的世界。 你现在观看的这个视频是2023年初的视频, 而且是非常英语的视频。 这是对某个时间和空间点的记录。 我可能错了, 我不知道技术从这里会走向何方。 但是:我认为那个世界,我的世界,我成长的世界, 即将发生根本性的变化。 我认为我们正处于一条新的S形曲线上, 我不知道我们现在在这条曲线上走了多远。 我不知道我是否想随之改变…… 但我想我不得不这样做。 而我所做的只是想修一下我的电子邮件。 这是一个非常具体的问题,但它真的让我很烦, 为了接下来的内容能说得通,我必须解释一下,所以请耐心听我说。 几乎每个电子邮件系统都有文件夹的概念。 你有一封电子邮件的副本,一旦你处理完了,就把它归档到一个文件夹里 就像文件柜里的一张纸, 因为那是20世纪中期的发明者们采用的物理类比。 但是,2004年,谷歌推出了Gmail,它抛弃了这一切,转而采用标签。 邮件只是堆在一个大堆里,你通过搜索来找到东西, 然后你添加标签来帮助分类。

HN 上的讨论

> 得到一个能可靠地编写生产代码的LLM 这取决于用户希望代码做什么,以及它有多重要。例如,一个普通的非技术用户可以用它生成一个脚本来整理他们的电子邮件,或者一个用于MS Office VBA自动化的脚本。仅仅因为它不完美,并不意味着它没有好的用途,也不会改进。Tom Scott的视频[0]提出了一个很好的论点:我们不知道我们在技术曲线上的位置。[0]: [VIDEO] — chii, 2024-10
我很喜欢Tom Scott关于这个的YouTube视频独白。总结一下,他假设大多数重大创新遵循S形增长曲线,即它们先加速,然后爆炸式增长,然后趋于平稳。问题就变成了,我们在这条曲线的哪个位置?他得出结论,我们可能只有事后才知道。[VIDEO] — ortusdux, 2023-12
我尝试使用AI。它吓到我了。 - Tom Scott [VIDEO] 我还要推荐《Accelerando》 - [LINK] 顺便说一句,我还推荐《Glasshouse》(也是Charles Stross写的),作为对奇点(和战争)后人类残余的探索... 接着是Walter Jon Williams的《Implied Spaces》... > “我和我的同伙,”Aristide说,“尽力阻止了人工智能达到那种程度的自主性。我们在大多数人甚至不知道Vingean奇点是什么之前就决定远离它。但是——”他用手做了一个像是扔球的动作。“——我声称并不比平均智慧更多。我们可能犯了错误。” 对于避免奇点的方法,可能可以做什么。我再扔一个,《The Freeze-Frame Revolution》 by Peter Watts,感觉你错过了很多故事(但那是因为那是一系列中的一本书)而且...嗯...剧… — shagie, 2023-12
Tom Scott今天关于我们在AI对社会影响曲线上所处位置的视频很有趣:[VIDEO] 我认为他可能是对的,我们正处于采用曲线的非常早期阶段。(尽管我在这里提到时总是被踩和被称为蠢货,我仍然认为量子计算(预测性)和AI的进步携手走向AGI。) — neom, 2023-02
> 我认为每个人都想跳过并直接讨论的大问题是,两年后这还会是真的吗?我不知道如何回答这个问题。我仍然会想起Tom Scott几年前关于‘我们在AI曲线上的位置’的视频。[VIDEO] — ortusdux, 2025-05

相关视频