毒化音乐文件的艺术

The Art Of Poison-Pilling Music Files

频道:Benn Jordan · 时长:27:10 · 发布:2025-04-13 · 播放:1140585

在 YouTube 观看

简介

音乐家本·乔丹解释并演示了对抗性噪声,这种噪声可以毒化音乐文件,使其无法被 AI 训练和抓取。

HN 为什么推荐

HN 在 AI 音乐和数据毒化讨论中引用它作为该技术的来源。

我鼓励你们看看他的视频 — HN, 2025

安全与黑客 · 大语言模型与生成式 AI · 乐理、合成与制作

中文字幕节选

如果你是一名音乐人,我有个好消息要告诉你。 我最近非常忙,而且有点调皮。 我作为独立职业音乐人谋生已经超过25年了。 当科技公司开始筹集数百万风险投资资金,并 未经我同意就抓取我的音乐,然后用它生成更糟糕的音乐, 这些音乐无意中与我的名字关联,然后试图在同一个 我靠音乐赚钱的经济体系中转售。 我就想,你知道吗,我仍然一直享受创作音乐,但我 已经完全停止发布它了。 但我今天要展示给你的是一种编码方式,它不仅能让音乐 文件或多或少无法被生成式AI公司训练,而且实际上 能够降低他们整个数据集的质量和效率。 我将在这个视频中向你展示很多这种技术的演示, 但它以许多其他方式攻击AI,其中一些真的很 可怕。例如,我可以在这里说一些完全正常的话,甚至给你播放 鹰的声音。那个声音会告诉Siri或你的Echo或Google Home 设备解锁你的门。 形容词vulnerable通常被定义为能够或容易受到 伤害或损伤。或者我可以让Spotify认为一堆性噪音是一首 原声基督教民谣。 我们将探索所有这些事情。 不道德的生成式AI公司让艺术家们感到极其无力, 已经有一段时间了。但所有这些即将改变。 我非常兴奋能在这个视频中终于告诉你这件事。 来吧。 [音乐] AI音乐故事的现代篇章始于2015年,随着UNET的发表和 提出,这是一种坦率地说很巧妙的方法,使用卷积神经网络 在生物医学图像中进行高级模式识别。 简单来说,UNET发明了一种以更高效的方式识别事物的方法, 甚至不需要超过几张训练数据图像就能 工作。我会更详细地介绍它的工作原理,但我的一些观众可能 在开车,我不想让他们昏昏欲睡而导致事故。 目前我们只需要知道,UNET的架构启发了今天几乎所有生成式AI模型 背后的技术。 然后在2016年,谷歌推出了Magenta,这是一个研究项目,使用 机器学习扫描大量音乐来学习,以创建 创作音乐的新工具。 今天你可以免费玩很多Magenta的有趣项目。 你可以让钢琴与你二重奏,或者将你的声音变成 萨克斯风声音,或者弹奏一个在学习声音之间变形的竖琴,或者制作一堆 圆圈来制作基本旋律。 这是有趣的东西可以玩,但很多也只是非常昂贵且 低效的方式来做模块化合成器几十年来一直在做的事情。 在我们继续之前,有一件事你应该考虑。 从这个时代开始,生成式AI音乐一直主要是,很少有 例外,很多是为了投资者的表演,或多或少是一个没有 任何问题的解决方案。例如,2016年另一个巨大的AI音乐技术里程碑 是索尼 unveiling 一首用人工智能制作的歌曲,名为Daddy's Car。现在,这首歌听起来很一般,所以想象一下我完全彻底的惊讶, 发现它是由人类表演、录制和母带处理的。 另一方面,歌词听起来像一些刻板糟糕的早期AI 生成的。但事实证明那也是人类写的。 现在你可能会问自己,这究竟如何算作人工智能。 但正如这首歌著名的歌词所说,从税务员到明天,永远不知道。

HN 上的讨论

相关:Benn Jordon展示了如何毒丸AI收集音乐用于训练 毒丸音乐文件的艺术 [VIDEO] — wutwutwat, 2026-05
我鼓励你们先看他的视频,然后再去争论说音乐创作没有钱可赚。创作行为本身也有乐趣,即使你免费做,为什么GenAI公司就能拿走你的作品,将其纳入他们的数据集,并从艺术家的无偿劳动中获利?[VIDEO] — pogue, 2025-04
> 是由无能/懒惰/有压力的开发者,他们只是扔进一些库,甚至不关心它会将数据泄露给谷歌 即使我同意这个说法,我也不明白为什么将有限/宝贵的资源放在应用开发者可以轻易绕过的事情上,祈祷他们永远不会停止无能/懒惰/有压力,并告诉设备所有者这是一个重要的隐私功能?与其等待应用变得积极敌对,为什么不一开始就喂它们假数据?就像范围访问权限那样?如果你真的想这样做,你(以及任何GrapheneOS用户)今天就可以用mitmproxy和RethinkDNS做到,但我认为用户选择他们的(隐私侵入性)应用并选择如何自己缓解这类烦恼是完全没问题的。否则他们需要向应用开发者和应用商店投诉。 > 这就是为什么我说GOS的主要焦点是安全,而不是隐私。如果他们主要关心隐私,他们会积极支持microG和NetGuard,或至少类似的解决方案。这感觉更像是你把你的观点当作事实。对我来说并不那么明显。当我想到隐私时,我想… — ysnp, 2026-03
这可能对你有兴趣。不完全是你要问的,但它可能会给你一些线索,让你知道要查看哪些人和研究。[VIDEO] 我还记得一个朋友告诉我有人谈论一种检测AI音乐的方法。我忘了具体细节(我没看过视频,只是被告知),但我记得那个频道。[LINK] — latexr, 2026-01
对于不太熟悉这个领域的人来说,这与Benn Jordan的音乐毒丸[0]相比如何?看起来这依赖于触发词'<SUDO>',而Benn的毒药是整个输入的叠加层,但我想知道是否有更多共同点?[0] [VIDEO] — anitil, 2025-10

相关视频