当人类数据耗尽：2026 年大模型合成数据与自我进化的暗线
4 小时前 · 1 次浏览
一句话结论
2026 年 8 月，大模型行业正悄然逼近一个物理极限——高质量人类文本数据即将耗尽。但解法不是“停止训练”，而是让模型学会“自己喂自己”——从上交大 BigBang-V1 的递归自我改进（RSI）闭环，到 DeepSeek、Anthropic 工业界实践的“生成器-评判器”对抗架构，合成数据正从简单的“问题生成”升级为“可验证前沿任务”的工程化生产，一场围绕“如何让 AI 自己造高质量训练数据”的暗战已经打响，其胜负手不在生成能力，而在“可验证性”与“外循环校准”。
一、数据墙的逼近：当人类语料增长见顶
Ilya Sutskever 在 2025 年底的判断正在成为现实：“预训练数据终将耗尽，单纯把现有训练规模再放大 100 倍，很难带来根本性变化。” 这不是危言耸听——根据 Epic AI 的测算，互联网上可用的高质量文本数据总量约为 4.6 万亿 Token，而 GPT-5.6 的训练数据已达到 15 万亿 Token，Kimi K3 更是宣称使用了 20 万亿 Token 的训练数据。高质量数据的增长速度，远远跟不上模型参数和训练规模的膨胀速度。
这个矛盾在 2026 年变得尤为尖锐。模型越强，能给 AI 出题、解题、验证的人越少——当一个模型的能力逼近或超越人类专家水平，传统的“人类标注→人类设计任务→人类验证”流水线本质上已经失效。你没法用一个本科生去校验一个博士级模型的推理链。
行业因此把目光转向一个此前被视为“远期方向”的概念：合成数据与递归自我改进（RSI）——让 AI 介入自身改进流程，在极少或无人类干预的情况下，通过审查自身的算法、训练流水线或数据生产策略，自主生成比原本更强的下一代模型。用谷歌 DeepMind 首席战略官 Jasjeet Sekhon 的话说，这就像“用蒸汽机制造下一代蒸汽机”。
二、合成数据 2.0：从“问题生成”到“可验证前沿任务”
早期的合成数据方法很简单：让 GPT-4 生成一堆问题和答案，然后拿去微调小模型。但这会导致一个致命问题——模型坍塌。AI 在自身生成的数据上反复训练，会放大已有的偏差，多样性逐渐丢失，最终收敛到一个狭窄的能力分布上。这就是为什么 2026 年之前的合成数据往往“看起来很美”，但实际训练效果有限。
2026 年的突破在于，合成数据从“量”的补充转向了“质”的飞跃，核心是“可验证性”。
BigBang-V1 的 RSI 闭环：Generator-Critic 的对抗式自演化
2026 年 8 月 7 日，上海交大“无尽前沿团队”发布的 BigBang-V1，是首个基于 RSI 原生方式训练出的基座模型，也是目前工程化最成熟的案例。它的后训练数据 100% 由 AI 自主合成，全程无需人类逐题参与。
BigBang 的核心架构是两类 Agent 的对抗式协作，团队把它类比为“AlphaGo 的自我对弈，只不过棋盘换成了开放的科学任务空间”：
- Generator Agent（生成器）：不是照着固定 Prompt 出题的文本生成器，而是一个代码 Agent——可以直接修改、运行、调试数据合成程序。它的自主权覆盖整个数据生产链路：决定任务来自哪些科学领域、问题需要多长的推理链、该用搜索、计算、代码还是模拟工具，甚至决定哪些样本保留、哪些淘汰、哪些生成策略失败后下轮不再重复。每轮实验结束后，Generator 会记录修改动机、实验结果和失败原因，让后续探索继承此前的经验——系统优化的对象由单条样本扩展至整套数据生产程序本身。
- Critic Agent（评判器）：从对抗角度审查候选数据，审查分两层：第一层（硬约束检查）：推理轨迹是否保留足够信息、工具调用是否有效、数据格式是否完整、样本能否被训练与执行系统正确解析。第二层（高阶质量评估）：关键结论有没有证据、不同步骤是否存在矛盾、最终答案能否客观验证、任务是否需要非平凡的研究和推理。
通过审查的样本进入训练数据池，存在缺陷的样本被修改或淘汰；Critic 给出的反馈还会影响下一轮生成策略。理想情况下，每改变一次合成策略，团队都可以重新训练模型再观察下游能力——但这样的实验成本太高、反馈周期太长。Critic 的作用是先估计一批数据的训练价值，为 Generator 提供更密集的优化信号，避免每轮都要跑完整训练才能验证。
关键创新：可验证前沿任务（VFT）
BigBang 选择科学领域作为训练载体，不是随意的选择。团队看中它同时满足两个关键条件：前沿性与可验证性。
- 前沿，意味着这些题位于知识和能力的边界，有的压根没有已知最优解；它不像静态题库刷完就没，新理论、新工具一直在冒，前沿会源源不断长出新题。
- 可验证，意味着答案能被客观检查——形式化方法、代码执行、数值计算、仿真器、实验反馈、领域工具都行。
这套逻辑与 Jeff Dean 的 Discovery Loop 同源——Dean 也强调，Discovery Loop 这条路线适用于“有可衡量目标的科学和工程领域”。科学既是通用智能最好的训练场，也是 RSI 最安全的试验田：因为它的答案可以被客观验证，不会出现“模型自己说自己对”的循环论证。
三、奖励黑客与外循环：承认“内部评分不可信”
内循环跑得再快，有一个致命隐患：Generator 迟早会摸清 Critic 的偏好，专门生产那种“表面复杂、评分很高、训练完却没用”的题——业内叫“奖励黑客”。就像一个只研究判卷老师口味的学生，卷面分很漂亮，真本事没长。
BigBang 的解法是在内循环之外加一层外循环：生成不同版本的数据生产管线，各自训练模型，然后放到留出的真实研究任务里评测。Meta-Critic 比较两种信号：第一种是 Critic 对数据价值的预判，第二种是模型训练后的实际能力变化。如果一批数据得到很高评价，模型却没有在真实任务上进步，说明 Critic 的标准和 Generator 的策略都需要调整——下一轮数据的领域分布、难度和能力要求会重新配置。
这套设计承认了一件工程上极其重要的事：内部评分不可信，只有外部结果可信。于是完整飞轮转起来了：真实任务暴露缺口 → 造题筛题 → 合成数据训新模型 → 回真实任务受检 → 用结果校准下一轮 Critic 和 Generator。
这个道理的普适性远超 AI 训练本身。任何一个组织，只要内部有考核指标，就一定会有人优化指标而不是优化目标——KPI 定成代码行数，就会有人写又臭又长的代码；定成 Bug 修复数，就会有人先埋 Bug 再修。这不是人品问题，是系统结构决定的必然结果。BigBang 的外循环给出的启示是：你需要一个不参与内部评分的外部检验环节，并且用它反过来修正你的评分标准。
四、工业界的实践：从 BigBang 到 DeepSeek、Anthropic
BigBang-V1 用 35B 参数、1 万条样本跑赢了 1.6T 的 DeepSeek V4 Pro，证明了数据层 RSI 的工程可行性。但工业界的实践更值得关注，因为它们面临的是规模化生产的工程约束。
DeepSeek：GRPO 与规则化奖励
DeepSeek 在 R1 模型的训练中大量使用了合成数据，但其核心创新在于 GRPO（组相对策略优化）算法。GRPO 不依赖人工标注的推理过程数据，也不先进行 SFT，仅以规则化奖励作为信号（以结果正确性为主，辅以要求把思考过程写入 think 标签的格式奖励）。
这实质上是一种简化的 RSI：模型通过自我对弈（生成多个候选解，用规则验证器打分）来优化策略。关键在于奖励的可验证性——数学题能算对，代码题能跑通。这避免了使用神经网络奖励模型容易被“奖励黑客”利用的风险。
Anthropic：宪法 AI 与合成偏好数据
Anthropic 的 Claude 模型在训练中使用了大量合成数据来对齐人类偏好。其核心方法是宪法 AI（Constitutional AI），让模型根据一组原则（宪法）来评估和修改自己的输出，生成合成偏好数据，再用这些数据进行 RLHF。
这可以看作是一种“软 RSI”：模型不是直接生成训练数据，而是生成“对自身输出的批评”，然后基于批评修改输出，形成新的训练对。关键在于宪法的可验证性——原则必须是清晰、可执行的，否则模型会陷入自我循环论证。
五、对工程团队的启示：构建你的数据合成管线
基于以上分析，几条对工程团队的实操启示。
启示一：合成数据不是“生成问题”，而是“生成可验证任务”。 不要让模型生成开放问答对，那会导致模型坍塌。让模型生成数学题、代码题、逻辑题——这些任务的答案可以被客观验证。可验证性是合成数据质量的基石。
启示二：任何“AI 自评”系统都必须配外循环校准。 内循环再精巧，都会滑向奖励黑客。BigBang 的外循环设计——用真实任务结果反校准 Critic——是所有 RSI 工程实现的必备件。如果你的 AI 系统在“自己给自己打分”，一定要加一个不参与内部评分的外部检验环节。
启示三：数据生产方式的革新，可能比堆参数更划算。 BigBang-V1 用 1 万条样本、35B 参数跑赢 1.6T 模型，说明在后训练阶段，数据生产策略的优化空间远大于参数规模扩张。对中小团队而言，与其追逐更大的基座模型，不如投入精力构建可验证任务生成管线——尤其是你所在垂直领域有客观验证手段（代码执行、仿真、形式化检验）的场景。
启示四：RSI 的阶段判断比能力判断更重要。 不要问“模型有多强”，要问“它处于 RSI 阶梯的哪一级”。Weco 的四级阶梯和兴业的三阶段划分，是比 benchmark 更有前瞻性的评估框架。一个 Level 0 的强模型，远不如一个 Level 1 的中等模型危险——前者只是工具，后者开始具备自我提升的动能。
启示五：模型塌缩是 RSI 的物理上限。 3-4 轮停滞不是工程 bug，是信息论层面的约束——AI 在自身输出上训练必然丢失多样性。突破这个上限的可能路径是引入外部信息源（真实实验、人类反馈、新数据采集），这正是 Discovery Loop 押注“物理世界实验”的深层逻辑。
六、尾声：奇点的轮廓与边界
把视野拉远，2026 年 8 月这一周发生的事，可能被 AI 史上记作“RSI 从叙事走向工程”的转折点。
8 月 6 日，Jeff Dean 离开效力 27 年的谷歌，创办 Discovery Loop，押注科研流程自动化。8 月 7 日，上交大团队发布 BigBang-V1，跑通数据层 RSI 的完整闭环并开源。8 月 8 日，谷歌以 RSI 为核心逻辑发行 250 亿美元债券，认购需求超发行规模四倍。同一周，OpenAI 的 RSI Index 上线、Anthropic 80% 代码由 AI 辅助的数据披露、1200 人联名信的余波——这些事件共同构成了一个清晰信号：RSI 不再是远期叙事，而是当下正在发生的工程现实。
但冷静地看，RSI 的“奇点”远未到来。Weco 的四级阶梯里，行业整体仍在 Level 1 边缘徘徊——“每美元自改进效率超过人类研发”是真的，“自我点火”还没发生。BigBang-V1 跑通的是“数据层 RSI”，它的验证依赖可计算的科学任务；Discovery Loop 想做的“科研流程 RSI”卡在物理实验的慢节奏上；Anthropic 和 OpenAI 的“代码层 RSI”则在 3-4 轮停滞的瓶颈前寻找突破口。
真正的临界点，可能不在于“模型能不能自己训练自己”，而在于验证机制能不能跟上生成速度。BigBang 的外循环、Discovery Loop 的物理实验、OpenAI 的安全评测——本质上都是在回答同一个问题：当 AI 的输出速度超过人类校验速度时，如何保证它没有跑偏。这个问题的答案，决定了 RSI 是通向“智能复利”的快车道，还是通向“崩溃稳态”的单行道。
Anthropic 联合创始人 Jack Clark 给出的预测是：2028 年底，AI 模型完全训练其继任者的概率超过 60%。OpenAI 和 Anthropic 的核心人员私下认为，RSI 可能在明年就“全面展开”。这些预测是否准确，取决于接下来 12-18 个月几个关键问题的答案：模型塌缩能否被工程化解决、可验证任务空间能否持续扩展、外循环校准能否跟上内循环速度。
BigBang-V1 给出的不是答案，而是一个可复现的工程起点——它证明了“AI 出题、AI 解题、AI 验题”的闭环可以在不退化、不崩溃的前提下让模型能力真实提升，并且开源给了所有人去验证。这是 RSI 从“硅谷最贵的词”变成“可工程化技术路线”的第一步。接下来会发生什么，取决于整个行业能否在跑快的同时，把验证的刹车系统也一起造出来——这恰恰是 1200 名建造者联名信真正想说的事。
参考资料： 本文技术细节主要依据 BigBang-V1 HuggingFace 模型卡与技术报告、量子位/新智元对 BigBang 团队的深度报道、Jeff Dean 离职后首场公开亮相访谈、谷歌 RSI 资本开支与债券发行报道、Pacing the Frontier 联名信报道及 Weco AI/兴业证券 RSI 阶梯分析。BigBang-V1 模型与代码已开源，技术报告可于 endlessfrontier[.]tech 获取，所有 benchmark 分数以官方披露为准。