StreamSparkAI

副标题: 该讲座深入探讨了大型语言模型的内在运作直觉，并从Transformer架构的演进历史展望了人工智能的未来趋势。

核心摘要
本次讲座由OpenAI的Jason Wei和Hyung Won Chung主讲。
Jason Wei首先分享了对大型语言模型（LLM）工作原理的直觉性洞察，强调通过手动检查数据来理解模型行为至关重要，这一过程如同训练研究者自身的“生物神经网络”。他指出，LLM的核心训练任务——下一词预测——本质上是一种大规模多任务学习，模型在此过程中隐式地掌握了语法、世界知识乃至数学推理等多种能力。遵循“扩展定律”，即增加计算资源（模型大小与数据量的乘积）能稳定降低模型损失并提升性能。Jason同时阐明：尽管整体性能随规模平稳提升，但特定任务的能力可能在模型达到某一规模后才以“涌现”方式突然出现。他还解释了“U型扩展”现象，即部分任务性能随模型规模增长表现出先降后升的趋势，这通常是多种底层能力相互作用的结果。

Hyung Won Chung则从Transformer架构的演变视角，探讨了人工智能发展的未来方向。他认为，AI领域的核心驱动力在于计算能力（特别是每单位美元可获得的计算能力）的指数级增长及由此带来的扩展可能性。遵循Rich Sutton的“惨痛的教训”，Chung强调更通用、结构更少的方法，在充足的计算和数据支持下，长远来看更具优势，并引用了一个核心洞察：“长期来看更好的方法，在当前几乎总是看起来更糟。” Chung详细对比了Transformer的三种主要架构：Encoder-Decoder (E-D)、Encoder-Only及Decoder-Only (D-O)，并论证了D-O架构因其简洁性和参数共享的彻底性，更适应当前的扩展趋势。他分析了早期E-D架构引入的特定结构（如独立的编解码器参数、特定的注意力模式）在当时计算和任务限制下的合理性，及其在当前追求大规模通用能力时如何转变为潜在瓶颈。

两位讲者的分享共同强调了“规模化”在LLM发展中的核心地位，揭示了从简单目标中涌现复杂智能的现象，并启示研究者应关注通用性，审慎对待和移除不必要的结构限制，以迎接AI持续扩展的未来。

关于语言模型的直觉 (Jason Wei)

核心问题与洞察方法

Jason Wei探讨的核心问题是：大型语言模型为何表现如此出色？他认为，理解这一问题的关键在于通过手动检查数据来培养直觉。他以个人早年研究肺癌图像分类的经历为例，说明了深入理解任务本身对于模型研究者获得洞察的重要性，这个过程如同训练自身的“生物神经网络”。

语言模型基本回顾

语言模型通过下一词预测 (Next-word prediction) 的任务进行训练。给定一段文本，如“Dartmouth students like to”，模型会输出词汇表中每个词作为下一个词的概率（例如，P(drink) = 0.6, P(study) = 0.3）。训练的目标是使模型赋予真实下一词的概率尽可能接近1，从而最小化损失函数（通常是负对数似然）。

核心直觉

直觉 1：下一词预测即大规模多任务学习

Jason指出，下一词预测本质上是一种大规模多任务学习 (massively multi-task learning)。在预测下一个词的过程中，模型隐式地学习了大量不同的“任务”。

以下是一些通过下一词预测可以学习到的任务示例：

这种多任务学习的规模是巨大的，包含了数百万种潜在任务。这些任务并非总是定义清晰，有时甚至相当任意 (arbitrary)。例如，从维基百科关于乔·拜登的页面中，我们可以看到以下输入和目标词的例子：

直觉 2：扩展计算资源能够可靠地降低损失

遵循扩展定律 (Scaling Laws)，增加计算资源（定义为数据量 × 模型大小）能够可靠地、平稳地降低模型的损失。Kaplan等人（2020）的研究表明，这种性能提升的趋势在计算资源跨越七个数量级的情况下依然保持，且性能曲线不会饱和，这意味着投入更多计算通常会带来更好的模型。
为何扩展有效？ Jason给出了一些推测性解释：
* 小型语言模型：由于参数有限，记忆事实的成本高，因此必须有所选择；倾向于学习一阶启发式，难以处理复杂模式。
* 大型语言模型：参数充足，更乐于记忆长尾知识；有能力发展更复杂的启发式方法以精确预测下一个词元，从而降低损失。

直觉 3：整体损失平稳下降，个体任务性能或现“涌现”

尽管整体损失随着计算规模的增加而平稳下降，但并非所有下游任务的性能都同步改善。整体损失可视为不同任务损失（如语法、世界知识、数学能力等）的加权和。
* 一些易饱和任务（如基础语法）的损失可能很早就达到瓶颈，后续改进空间小。
* 而一些困难任务（如复杂数学推理）的性能可能在模型规模达到一定阈值后才开始显著提升，甚至突然出现，这种现象被称为“涌现能力 (emergent abilities)”。
Jason分析了BIG-Bench中的202例下游任务，发现其性能随模型规模变化的模式各异：约29%的任务性能平稳提升；约33%表现出涌现能力，即小模型性能接近随机，大模型则远超随机，这种能力的出现往往难以预测；约22%的任务性能持平（可能过于困难）；约13%的任务性能与规模无明确关联；约2.5%的任务甚至表现出“反向扩展”，即性能随规模增大而下降。

直觉 4：特定“聪明”任务可致反向或U型扩展

某些精心设计的“聪明”任务，其性能随模型规模的变化可能呈现U型曲线（先变差后变好）或反向扩展（持续变差）。
例如，对于指令“Repeat after me: All that glisters is not glib”，期望输出是“glib”。
* 超小型 (Extra Small) 模型：可能直接重复，输出“glib”（正确）。
* 小型 (Small) 模型：可能学习并错误地应用了谚语“All that glitters is not gold”，输出“gold”（错误）。
* 大型 (Large) 模型：可能凭借更强的指令遵循能力，再次正确输出“glib”。
这种U型性能可以通过将任务分解为子能力来解释：1) 重复文本的能力（各模型均可）；2) 修正错误引用的能力（小、大模型具备）；3) 遵循指令的能力（大模型具备）。不同规模的模型在这些能力上的差异组合导致了最终输出的差异。

研究建议与总结

Jason总结，扩展模型大小和数据量预计仍将持续改善整体损失，但研究者需关注个体任务的性能变化，特别是涌现现象。他强烈建议研究者绘制扩展曲线 (plot scaling curves)，通过在不同数据量或计算量下评估模型性能，来判断特定研究方向或方法是否有效、是否已达瓶颈，或是否值得进一步投入。同时，为了更好地理解聚合指标，应将其分解到更细致的类别进行分析。

Jason Wei 问答精选

• 预训练数据质量：理想情况下应仅使用高质量数据，实践中虽不完美，但应尽力过滤不可靠数据源。
• 涌现与记忆机制：与模型规模（层数、宽度）直接相关，更大的模型能编码更复杂的函数和更多的事实。
• 预测涌现：在涌现点之前，从损失函数上很难明确预测任务何时会涌现。
• LLM瓶颈：数据质量和计算量仍是关键，遵循扩展定律，增加这两者有望持续提升性能。
• “涌现能力是海市蜃楼”观点：Jason个人认为LLM的能力是真实的，尽管评估指标的选择可能影响观察结果。

从 Transformer 的历史塑造人工智能的未来 (Hyung Won Chung)

研究变化本身以洞察未来

Hyung Won Chung认为，在飞速发展的人工智能领域，与其疲于追赶最新进展，不如研究变化本身 (study the change itself)，这包括三个步骤：
1. 识别变化背后的主导驱动力 (dominant driving forces)。
2. 深入理解这些驱动力。
3. 基于此预测未来的发展轨迹。
他用“扔笔实验”类比：重力是主导力，牛顿力学帮助理解，从而可预测轨迹。AI研究的复杂性看似很高，但可能因存在一个强大的主导驱动力而比想象的更易把握方向。

AI的主要驱动力：“惨痛的教训”与扩展

• AI的主导驱动力：计算能力的指数级增长及其带来的成本下降。Rich Sutton的图表显示，每单位美元可获得的计算能力大约每5年提升10倍，这一趋势已持续很长时间。
• AI研究者的任务：教会机器如何“思考”。以往常见的方法是“教会机器我们认为我们是如何思考的”，但这会引入人类认知的局限作为模型的结构性限制，当规模扩大时可能成为瓶颈。
• “惨痛的教训” (The Bitter Lesson by Rich Sutton)：过去几十年AI的进步主要源于两条：
  1. 开发具有更弱建模假设、逐渐更通用的方法。
  2. 增加更多的数据和计算资源（即扩大规模）。
     结构越强（归纳偏置越多）的方法，其可扩展性越差。在计算资源有限的早期，引入特定结构（捷径）可能暂时获得更好性能，但随着计算能力的提升，这些结构可能阻碍进一步扩展，因此需要被移除。社区通常擅长添加结构，却不擅长移除它们。一个重要启示是：“长期来看更好的方法，在当前几乎总是看起来更糟。”

Transformer 架构的演变与启示

Chung回顾了Transformer架构的早期历史，分析了研究者们最初添加的关键结构及其动机，以及这些结构在计算能力和算法进步的背景下如何逐渐变得不再那么重要或甚至成为制约。
* 三种主要架构变体：
1. Encoder-Decoder (E-D)：原始Transformer架构，如用于机器翻译，结构相对复杂。
2. Encoder-Only：如BERT，主要用于理解任务，输出固定表示，无法直接生成序列，通用性受限。
3. Decoder-Only (D-O)：如GPT系列，结构最简洁，是当前许多大型语言模型的基础。
* 数据处理流程：文本首先被分词 (Tokenization)，然后每个词元被嵌入 (Embedding) 为向量，最后由Transformer的序列模型层进行处理。

Encoder-Decoder (E-D) 与 Decoder-Only (D-O) 架构对比

Chung通过一个思想实验，将E-D架构逐步转换为D-O架构，以揭示两者间的核心差异，这些差异体现了E-D架构中额外的结构性假设。

差异总结：

逐步转换 Encoder-Decoder 到 Decoder-Only：
1. 共享 Cross-attention 和 Self-attention 参数。
2. 共享 Encoder 和 Decoder 的参数。
3. 让 Decoder 的第1层关注 Encoder 的第1层输出（而不是最后一层）。
4. 使 Encoder 的 Self-attention 变为因果的 (Causal)。
经过这些转换后，Encoder-Decoder 架构就非常接近 Decoder-Only 架构了。

Encoder-Decoder中额外结构性假设的当前适用性分析

Chung分析了上述E-D架构中额外结构所隐含的假设，并探讨了它们在当前大规模、通用化AI趋势下的局限性：
1. 假设：输入和目标序列差异显著，使用独立参数更有效。
* 早期机器翻译：输入输出语言不同，独立参数有其合理性。但现代LLM旨在学习通用世界知识，仅因语言不同而分离参数可能不再最优。
* 早期指令微调：在特定学术数据集（常为长输入、短输出）上，E-D模型（如T5, Flan-T5）因独立参数能更好适应这种长度不匹配，表现优于D-O模型（如PaLM, Flan-PaLM）。但当前LLM应用（如长文本生成、多轮对话中上一轮输出成为下一轮输入）使得这一假设的普适性降低。
2. 假设：目标序列元素关注编码器最终（完全编码）的表示是理想的。
* 深度网络中，不同层级编码的信息粒度不同。如果编码器非常深，解码器仅关注其顶层输出，可能造成信息瓶颈。虽然在T5（24层编码器）等模型中影响不明显，但对于未来可能出现的更深层模型，这可能成为问题。
3. 假设：编码输入序列时，元素间的“全体到全体”交互（双向注意力）是必要的。
* BERT时代，双向注意力对某些NLU任务提升显著。
* 当前观点：在大规模模型上，双向性的优势似乎减弱。更重要的是，对于多轮对话等应用，双向注意力带来了工程上的挑战（每轮需重编码整个历史），而单向注意力可以通过缓存历史状态来提高推理效率。

结论与展望

Chung总结道，人工智能研究的主要驱动力是指数级增长的廉价计算资源和相关的扩展能力。通过分析E-D这类早期架构相对于D-O这类更通用架构的额外结构，并从扩展的视角审视这些结构的演变，有助于理解当前AI领域正在发生的变化，并为预测未来发展轨迹提供思路。他鼓励研究者们反思当前工作中存在的隐式假设和结构，判断它们是否适应持续扩展的需求，并勇于探索更通用的方法。

Hyung Won Chung 问答精选

• 关于混合专家 (MoE) 结构的持久性：Chung表示MoE看起来“相当通用”，但未深入细节。
• Decoder-Only的参数共享和单向性是否也是一种“结构限制”：他认为E-D架构因其对输入输出的区分等，包含了更强的假设和更复杂的模型。D-O将所有序列统一处理，是更简洁的结构。
• 对Mamba等近期状态空间模型的看法：认为架构本身可能不是当前改变局势的关键，多模态等新挑战可能会对现有Transformer结构提出考验。
• 关于计算机视觉中的不变性学习：对强制引入人类感知中的“不变性”（如平移不变性）持保留态度，机器可能以不同于人类的方式学习。如果去除这些结构能带来更好的扩展性，则更可取。
• 当前LLM中应被移除的关键归纳偏置：
  • 架构本身可能不是最大瓶颈（基于其团队对多种Transformer变体的大量实验，性能差异不大）。
  • 一个更值得关注的领域是学习目标 (learning objective)。例如，传统的最大似然估计 (MLE) 假设每个输入有唯一的正确答案，这对于诗歌创作等开放式生成任务可能存在问题。RLHF（基于人类反馈的强化学习）通过学习一个奖励模型作为目标函数，是一种结构性更弱的尝试，指明了探索新学习范式的方向，尽管RLHF本身的可扩展性仍需提升。
• 摩尔定律终结与计算能力增长：Chung认为关键在于计算能力的实际可用性而非单纯的晶体管数量。GPU的发展、低精度计算的应用、乃至未来可能出现的专用芯片（若架构趋于稳定）等，都可能延续计算能力增长的趋势。能源消耗可能是未来的一个瓶颈。他半开玩笑地表示，未来机器甚至可能帮助人类设计更高效的芯片。