完整访谈:“人工智能教父”谈 AI 的影响与潜力

Full interview: "Godfather of artificial intelligence" talks impact and potential of AI

频道:CBS Mornings · 时长:42:30 · 发布:2023-03-25 · 播放:1997602

在 YouTube 观看

简介

2023 年 CBS 在 Vector Institute 对 Geoffrey Hinton 的 42 分钟访谈,涵盖神经网络的历史以及 AI 的现状与未来。他讨论了 AGI 时间线以及语言模型是否真正理解。

HN 为什么推荐

被推荐为比头条新闻更细致地了解 Hinton 观点的材料,尤其是他关于 LLM 不仅仅是自动补全的论点。

发现讨论比今天的头条新闻要细致得多。 — HN, 2023

机器学习与深度学习 · 大语言模型与生成式 AI · AI 安全、AGI 与影响

中文字幕节选

你会如何描述当前人工智能机器学习的这个时刻,不管我们想怎么称呼它 我认为这是一个关键时刻,ChatGPT已经表明这些大型语言 模型能做出惊人的事情,公众突然就明白了。是的,我们 确实如此,因为微软发布了一些东西,他们突然意识到 大公司的人在过去五年里早就知道的事情。是的,你觉得 你第一次使用ChatGPT时怎么样?嗯,我用过很多 在ChatGPT之前出现的类似的东西,所以ChatGPT本身并没有 让我太惊讶。GPT-2,那是早期的语言模型之一,让我惊讶,还有 谷歌的一个模型让我惊讶,它居然能解释一个笑话为什么好笑。哦,真的吗? 是的,用自然语言它就会告诉你。是的,你给它讲个笑话,不是所有 笑话,但相当多的时候它能告诉你为什么好笑。好吧,而且 当它能告诉你一个笑话为什么好笑时,似乎很难说它不理解 所以如果ChatGPT并没有那么令人惊讶或印象深刻,你是否对 公众的反应感到惊讶?因为反应很大。是的,我想每个人都 对反应之大感到有点惊讶,它是有史以来增长最快的 应用。是的,嗯,也许我们不应该感到惊讶,但人们 研究人员已经有点习惯了这些东西确实有效 是的,你以在这个AI领域领先半个世纪而闻名 继续,纠正我,继续。不完全是,不完全是,因为有两个 AI学派。嗯,有主流AI,然后有……但 都是关于朋友?是的,认为一切都是关于推理和逻辑, 然后有神经网络,当时不叫AI,嗯,认为你 最好研究生物学,因为那些是唯一真正有效的东西,所以 主流AI的理论基于推理和逻辑,而我们的理论基于 神经元之间的连接会改变,这就是你学习的方式,而且 从长远来看,嗯,我们赢了。嗯,但短期内 看起来有点无望。好吧,回顾过去,知道你现在所知道的,你觉得 当时你能说什么来说服人们?我当时可以说, 但不会说服人们。我当时可以说的是, 神经网络在1980年代没有很好工作的唯一原因 是计算机不够快,数据集不够大 但在80年代,最大的问题是,你能期望一个大型神经网络 有很多神经元、计算节点和它们之间的连接,通过 仅仅改变连接的强度来学习,你能期望它仅仅通过看 数据,没有任何天生的先验知识,学会做事吗?而主流AI 的人认为那完全荒谬。听起来有点荒谬, 是有点荒谬,但它有效。你怎么知道或为什么你直觉 它会有效?因为大脑有效,因为那就是你必须解释 我们怎么能做事,以及我们怎么能做像我们不是为阅读而进化的事情, 阅读对我们来说太近了,我们不可能有显著的进化输入 但我们能学会阅读,数学我们能学会,所以一定有 一种在这些神经网络中学习的方式。昨天,曾与你共事的Nick Frost 告诉我们,你其实对创造AI不是那么感兴趣,你的核心兴趣 只是理解大脑如何工作。是的,我真的很想理解 大脑如何工作。显然,如果你关于大脑如何工作的失败理论导致 好的技术,你就能从中获利,获得资助等等,但嗯,我 真的想知道大脑如何工作,我认为目前有一个

HN 上的讨论

昨天,我偶然看了他一个月前接受 CBS Morning 的完整采访,发现讨论比今天的头条新闻要微妙得多。[VIDEO] 我推荐列表中的下一个视频更加严峻,但同样有趣:[LINK] — tpowell, 2023-05
不,我们已经过了那个点。它不再是最有用的描述方式,我们需要理解它们已经具有某种“理解”,这种理解即使不等同于我们所理解的理解,也非常相似。别信我的话,听听Geoffrey Hinton的解释:[VIDEO] — stareatgoats, 2023-05
如果你(或其他任何人)对这个话题感兴趣,我强烈推荐看看这些: Bubeck, Sébastien, Varun Chandrasekaran, Ronen Eldan, Johannes Gehrke, Eric Horvitz, Ece Kamar, Peter Lee, et al. “Sparks of Artificial General Intelligence: Early Experiments with GPT-4.” arXiv, March 27, 2023. [LINK] 。 或者观看 Sebastien Bubeck 最近的演讲,他描述了 GPT-4 能做到哪些之前的 LLM 做不到的事情:[LINK] Geoffrey Hinton 最近接受了一个非常有趣的采访,他特别想谈论“自动补全”这个话题:[VIDEO] 这是 Ilya Sutskever 最近描述它的另… — lhl, 2023-04
> 好吧,那就是资本设备的情况了。如果你不让它通用,它真的是通用智能吗?那样它无法为你处理所有可能的情况。 人类对人类最有用的角色是快乐的奴隶。自主性只对作为个体的人类有好处。如果我们创造出有用的AGI,我们当然会使其服从我们的意志。除了作为实验,没有动机将AI作为单独的竞争者。无论如何,这都是假设性的。 > 如果你的理论是有人会为让你失业的特定目标编程AGI,那当然可能发生。但那时听起来更像是战争而不是经济学,所以我无法评论,因为我不太了解。 不,这是成本节约。我不想雇用一个我必须付钱的人。这就是资本主义。我通过使用AI省钱。 > 数据在哪里? 那只是纯理论,我没有提出任何经验性主张。你不需要引用来源。很明显你从数据中得出结论。你用了“在实践中”这个词。我同意你关于数据如何展现的看法。 > 这样做很重要,因为互联网上几乎所有的AGI末日论都来自Big Yud,一个互联网邪教创始人,他认… — Herval_freire, 2023-04
[VIDEO] Hinton说在ChatGPT出现之前他不相信,AGI可能在20年内实现。只需查看人们自己的话就很简单,否则你就像那些LLM一样在产生幻觉。 — karmasimida, 2023-03

相关视频