支持AI合理使用的一些论点

我针对大型语言模型训练的本质，以及我们作为一个社会是否应将用于训练它们的素材视为合理使用，做了一些笔记。我认为将其认定为合理使用更为妥当，并为此提出了一些论据。

这些讨论以美国版权法为背景，此处未予详述。此外，还有许多常见的支持与反对意见，也未一一列举。写下这些要点，只是希望按自己的思路进行一番梳理，并未按严密的论证顺序排列。

欢迎提出建设性意见，或指出我可能遗漏之处。

1. 文本、图像、音乐等均为人类创作的表达，受版权保护。在训练过程中，大型语言模型将这些表达转化为一种称为“隐空间”的抽象表征。它把一类事物——即具体的表达内容——转换成另一类事物——一种近乎数学化的抽象，其中已不包含任何表达。这正是大型语言模型被称为“变换器”的原因。大型语言模型所构建的隐空间更接近于语法之类不受版权保护的对象。
2. 这种隐空间的转换是一种根本性的变革，因为它具有单向性。这是一个非对称的过程：内容可以被映射到隐空间，但隐空间却无法逆向还原为原始内容。它确实发生了彻底的转变。
3. 公众对经由这种转换而产生的成果之使用模式是全新的。当要求大型语言模型诊断一台损坏的电子设备时，这一服务并不等同于阅读一本书或一篇新闻报道；当用其制定营销策略时，这与单纯阅读文字有着本质区别；当让其解答一道数学难题时，它也并非在替代一本数学书籍。大型语言模型所带来的变革既体现在形式上，也体现在用途上。它们不仅被改造，而且被赋予了一个前所未有的全新类别。
4. 大型语言模型的核心价值在于其“智能”，这种智能源自隐空间，并非原素材本身所具备。它们能够通过历史考试的能力，并不存在于任何一本历史书中，甚至不存在于所有历史书中。这些新价值是在以历史书籍为原料训练模型、并将其转化为隐空间的过程中涌现出来的。可以说，大型语言模型的大部分乃至绝大部分价值，都来自其超越原始素材本身的创新能力。
5. 大型语言模型内部的信息并非以复制件的形式存储。尽管它可能熟稔数百万本书籍的全部内容，却并不在其内部保存这些书籍的副本。它或许能识别图片中的任何对象，却并未储存那些图片；与其说它保存了图像的副本，不如说它记录了图像所承载的信息。大型语言模型的权重参数可以被复制，但隐空间本身并不构成复制件，它是一种非复制性的存在。
6. 在数字世界中，中间性、过渡性的复制极为常见。当您的手机加载一个网页时，从技术上讲，它的确会在短时间内生成该页面的临时副本；当您发送一封电子邮件时，它会在传输过程中被电信运营商多次复制，但我们并不因此触发版权问题。由于这些中间副本不会被持久保存，我们也不对其加以限制。法院早已认可某些从未公开呈现的字面性复制行为。大型语言模型在训练期间读取的那些材料，既不被保存，也未对外公开，因而属于正常的过渡性复制，可适用合理使用规则。
7. 大型语言模型的卓越之处，在很大程度上源于这样一个惊人事实：来自数以百万计不同来源、涵盖各类主题的信息片段，都被映射到同一张“地图”之上。在那片单一的概念空间（即隐空间）里，每一个虚构故事、每一条医学信息，都与全部地质知识、所有新闻事件交织在一起，如此等等。正因如此，每一项具体贡献对整个模型整体价值的边际效应几乎微乎其微。
8. 用于训练大型语言模型的任何单一素材，其相对价值都非常低，因为几乎所有来源中都有高达99%的内容是重复的。即便是看似原创的材料，其中真正独特的信息也寥寥无几。当又一件内容被纳入人类知识的整体概念框架时，绝大多数部分都会与其他素材重叠。这意味着，移除某一段普通的原始内容，几乎不会对模型的输出产生显著影响。随着大型语言模型规模的不断扩大，每一项具体来源的价值也在持续衰减。
9. 现代大型语言模型往往拥有数万亿个参数——也就是说，它们描述着数万亿种属性。将整个人类知识映射到一个拥有数万亿属性的隐空间之中，其直接后果便是：每一条信息都与其他所有信息相互交叉、彼此影响。厘清这数万亿种复杂关联，是一项极其庞大的计算任务，需要依托超大规模数据中心来完成。这是迄今为止我们所面临的最复杂的计算挑战之一。然而，由于其复杂度极高，我们实际上难以精确解析任一特定来源所产生的连锁效应。在如此宏大的尺度下，各源头影响力的大小也无法量化评估。这与我们在量化自身思维与知识中的各种影响时所遭遇的困难颇为相似。因此，某一特定来源的实际重要性亦难以切实衡量。
10. 在建构自身知识的过程中，大型语言模型并不会刻意区分其训练材料的不同来源。关于《星球大战》的评论文章数量远多于影片本身。即便您从未看过一部《星球大战》电影，您也可能对这一系列作品了如指掌。大型语言模型对《星球大战》的认知，很可能主要来自那些并未直接观看影片的作者及其相关评论。这些多元的次级、三级影响，事实上承担了模型产出的很大一部分工作。甚至有逐字引用的情况出现，而这些二次来源本身也在以合理使用的方式利用原始素材。可以说，大型语言模型的高价值在很大程度上得益于那些间接来源为它的知识体系提供了必要且富有“智慧”的语境。由此，大型语言模型实现了对原始素材的升华，使其真正派上了用场。这也是大型语言模型改造素材的另一种方式。
11. 当一名学生学习时，他可能使用自己购买的书，也可能借阅图书馆的书，而这通常被视为合理使用。我们不会因其获取素材的方式——是付费购买还是借阅——而评判其学习效果。同样地，如果大型语言模型是以图书馆借来的副本为原料进行训练（属合理使用），这也理应不影响我们对其知识水平的评价。
12. 美国版权制度的宪法依据在于激励创作以增进公共利益，而非单纯保障收益流。我个人曾观察到一些零星的证据表明，大型语言模型正在推动大规模的协同创造。几乎每天都有人向我分享他们借助大型语言模型新近创作的作品。也许你会把这些视为“垃圾”。大多数确属如此。但传统意义上人类每日生产的大量东西也都称得上“垃圾”。而其中的精华部分则会不断精进。显而易见的是，将表达转化为隐空间这一过程所带来的公共效益极为可观，应当予以鼓励。
13. 目前，人类所发明的最智能的人工智能系统是大型语言模型，但未来未必如此。人们正在探索多种替代大型语言模型的方案，它们有可能在未来成为主流。如今最先进的大型语言模型高度商业化（且利润丰厚），但这种情况未必会长久。我们已经拥有多类开放权重、开源的大型语言模型。我们习惯于将大型语言模型视为以营利为主要目标的实体，致力于最大化收入。然而，大型语言模型并不必以盈利为目的。许多开源模型如今已能媲美营利性模型的性能。大型语言模型完全可以是非营利性的，也可以被视为一种真正的公共财富，如同公共领域或互联网一般。我将这样一种人工智能形态称为“公共智识”。这样的“公共智识”可能不止一种。这些大型语言模型将拥有多元的利益相关方，由公共资金支持并接受公众监督。它们可以以古今中外的各种文本为训练素材，某种程度上相当于一座配备超级馆员的巨型图书馆，能够胜任绝大多数知识工作。这种“公共智识”将以成本价向所有人开放。无论营利与否，大型语言模型所处的隐空间都是我们的新型公共领域。版权制度的宗旨，正是通过鼓励以暂时性垄断促进创作的繁荣，继而尽快将受保护的成果转入公有领域，从而助力新一轮的创新。新型大型语言模型代表着一种新的公共领域，为社会提供了全新的认知能力（获得令人惊叹的问题解答）、自我提升的新途径、协作的新方式以及创意的新路径。对于当代社会乃至尚未出生的一代而言，最理想的状态莫过于推动建立公共性质的大型语言模型共同体。我们应当保留大型语言模型训练的合理使用选项，以确保至少拥有一些可供公众共享的“公共智识”资源。