A Hackers' Guide to Language Models

A Hackers' Guide to Language Models

频道:Jeremy Howard · 时长:1:31:13 · 发布:2023-09-24 · 播放:580620

在 YouTube 观看

简介

Jeremy Howard 的 90 分钟语言模型实用指南。涵盖它们的工作原理、GPT-4 的能力和局限、使用 OpenAI API、代码编写、数据分析和微调。

HN 为什么推荐

多次被评为使用 LLM 的最佳实用教程,其中微调部分广受好评。

强烈推荐 Jeremy Howard 的“Hackers Guide to language models”。1.5 小时的视频充满了实用信息 — HN, 2023

机器学习与深度学习 · 大语言模型与生成式 AI

中文字幕节选

嗨,我是来自 fast.ai 的 Jeremy Howard,这是一份面向黑客的语言模型指南。 当我说黑客指南时,我们要看的是 一种代码优先的方法,来理解如何在实践中使用语言模型。所以 在我们开始之前,我们可能应该谈谈什么是语言模型。我 想说,如果你了解深度学习的基础知识,这会更容易理解。 如果你不了解,我想你仍然能从中获得很多收获,并且会有 很多你可以做的事情。但如果你有机会,我建议 看看 course.fast.ai,这是一个免费课程,具体来说 嗯,如果你至少能观看,如果不能完成前五课 的话,那会让你达到理解所有基本 深度学习基础的程度,这会让这节课/教程更加 容易理解。也许我不应该称这个为教程,它更像是一个快速浏览。 所以我必须尝试快速浏览语言模型的所有基本概念,如何使用 它们,包括开源的和基于 OpenAI 的,并且一切都将基于 尽可能多地使用代码。嗯,那么让我们从谈论什么是 语言模型开始。你可能听说过,语言模型是 一种知道如何预测句子下一个词,或者知道如何填充 句子中缺失词的东西。我们可以看一个例子,OpenAI 有一个 语言模型 text-davinci-003,我们可以通过传入 一些词并让它预测下一个词可能是什么来玩它。所以如果 我们传入“当我在这群活青蛙的非凡统治之后回到熊猫繁殖设施时, 我简直不敢相信我所看到的”,这是我昨天刚想出来的, 我想接下来可能会发生什么,所以对于创意头脑风暴来说挺有趣的。嗯, 有一个不错的网站叫 nat.dev,Nat.dev 让我们可以玩各种 语言模型,这里我选择了 text-davinci-003,我点击提交,它 开始打印东西:“熊猫们正快乐地玩耍和吃着从 天上掉下来的青蛙,看到这些动物利用这样一个独特的机会 真是令人惊叹的景象。首先,在采取快速措施确保 熊猫和青蛙的安全之后……”所以就是这样,这就是在 熊猫繁殖设施中活青蛙的非凡统治之后发生的事情。嗯,你会看到这里 我启用了显示概率,这是 nat.dev 中的一个功能,它会显示,嗯, 好吧,让我们看看,下一个词很可能是“the”, 在这之后,因为我们在谈论熊猫繁殖设施,所以很可能是“Pandas” 然后是“were”,它们在做什么呢?它们可能在做几件事,它们 可能在做某事“happily”,或者“the pandas were having”,“the pandas were out”,“the pandas were playing”,所以它选择了最可能的,它认为有 20% 的可能性是“happily”,它们快乐地做什么呢?可能是 “playing”、“hopping”、“eating”等等,所以它们 在吃青蛙,然后“that”和“had”几乎肯定,所以你可以看到它在做什么, 在每一步,它都在预测各种可能的下一个词的概率, 根据你如何设置,它要么每次选择最可能的那个,

HN 上的讨论

我理解因为不懂它而感到的悲伤,这真的很难。然而,网上有越来越多的资源教你如何开始理解它,这些资源以有助于学习的抽象层次解释数学,帮助你学会用它来构建东西。我强烈强烈强烈推荐从Karpathy的从零到英雄神经网络YouTube课程开始——它从构建张量库和反向传播开始,以一种终于让我豁然开朗的方式解释。[LINK] Jeremy Howard也有一个很棒的视频,更多是关于如何使用LLM之类的,叫做《语言模型的黑客指南》——[VIDEO] 随着我越来越深入,我强烈建议也尝试在本地机器上运行东西(llama.cpp、ollama、LM studio)。这帮助我对抗那种“我们最终都会成为OpenAI开发者吗”的感觉,并让我觉得你_可以_把这些东西整合到你独自构建的东西中。我无法想象如果llama从未开源,我们会有多惨。年纪大并不意味着你不能继续成长,记住,对这一切感到不知所措是正常的——很多人都是… — mangoman, 2024-02
对于盲点错误的一个有趣解决方案(直接取自Jeremy Howard的精彩语言模型指南——[VIDEO])是清除聊天历史并重试。一旦GPT犯了错误(或者如本文作者所说,早期层不可逆地修剪了一些重要数据),它往往会开始错得更厉害。 — dojitza1, 2023-11
如果你在寻找如何使用LLM的实用指南,强烈推荐Jeremy Howard的“黑客的语言模型指南”。1.5小时的视频充满了实用信息:[VIDEO] — tarruda, 2023-11
非常感谢这个视频,这是我见过的最好的LLM使用教程。在[VIDEO]中,当谈到本地模型与GPT4的有效用例时,他说:“你可能想要创建自己的模型,通过微调特别擅长解决你需要解决的问题,这些事情你绝对可以获得比GPT4更好的性能”。关于这一点,我思考了一段时间的一个想法:想象一个由多个“小”模型(如70亿参数)支持的聊天机器人,每个模型都针对特定任务进行了微调。这样的系统能否超越GPT4?以下是我设想的高层概述:- 上下文/提示被发送到一个“路由模型”,该模型经过训练,可以确定哪种专家模型最能回答/完成提示。- 然后系统将上下文/提示传递给专家模型并返回答案。- 如果没有找到专家模型,就使用通用的指令调优的通用LLM来回答。如果你理论上可以在针对该任务微调的小模型上获得比GPT4更好的性能,那么也许这样的小模型集群可以集体超越GPT4。这有道理吗? — tarruda, 2023-09
听起来你想要更广泛的内容,不一定是学习如何训练模型。更像是学习使用它们以及它们如何工作。[LINK] 和 Fast.ai 的 Jeremy 的 LLM 黑客指南 - [VIDEO] Karpathy 的 GPT 现状 - [LINK] 3b1b 的 LLM - [LINK] 3b1b 的 Transformer 可视化 - [LINK] ChatGPT 如何训练 - [LINK] AI 概述 - [LINK] Carlini 如何使用 LLM - [LINK] 为了保持更新:X/Twitter 和 Bluesky。去关注在 OpenAI、Anthropic、Google DeepMind 和 xAI 工作的人。播客:No Priors、Generally Intelligent、Dwarkesh Patel、红杉资本的“Training Data” — tikkun, 2024-11

相关视频