合成数据(Synthetic Data)指的是人工生成而非从真实世界采集的数据。生成方式可以是模型输出(让强模型写出大量问答对)、可以是仿真引擎渲染(在虚拟厨房里生成十万张不同光照下的餐具图片)、也可以是规则程序拼装(按语法规则批量造出合法的地址和订单)。
这个词在 2026 年变成高频词,直接原因是缩放定律遇上了数据侧的天花板:高质量的公开文本是有限的,而模型对数据的胃口不是。同时在机器人、自动驾驶这类领域,真实数据的采集成本高到几乎不可能靠堆量解决。
先用一句话抓住它
合成数据是「造出来的训练材料」——用于补上真实数据太少、太贵、太敏感或者分布太偏的地方。
打个比方。驾校教练不会只等着真实的危险场景自然发生,而是在封闭场地里人为制造湿滑路面、突然横穿的假人、故障车辆。这些场景是造出来的,但训练效果是真的——因为真实道路上遇到它们的概率太低、代价太高,靠等是等不来的。合成数据做的就是这件事。
它主要用在哪几种情况
真实数据太贵或太危险。 机器人抓取、自动驾驶极端工况、工业缺陷检测里的罕见故障,真实样本要么采集成本极高,要么本身就是事故。仿真里可以按需生成,还能顺带拿到完美标注(每个像素属于哪个物体,仿真引擎自己知道)。
真实数据涉及隐私。 医疗记录、金融交易、个人通信不能直接拿来训练。合成一批统计特征相似但不对应任何真人的数据,是常见的合规路径——不过要注意,如果合成过程本身记住了原始个体,隐私风险并没有消除。
数据分布不平衡。 欺诈交易在真实数据里占比极低,直接训练会让模型学会「一律判为正常」。合成少数类样本是经典的处理手段。
能力需要针对性强化。 代码、数学、多步推理这类任务,可以用强模型生成大量带解题过程的样本,再经过验证器筛选(能跑通的代码、能算对的题才留下),用来训练更小的模型。微软 Phi 系列证明了这条路线的有效性:数据质量足够高时,小模型可以在推理基准上超过大得多的模型。
图里那条虚线是整件事的风险所在:用模型生成的数据训练模型,如果没有外部信号把关,误差会一轮轮累积。
它的核心风险:模型退化
研究里有一个被反复验证的现象:如果一代模型只用上一代模型生成的数据训练,如此迭代下去,模型输出的多样性会逐渐塌缩,罕见但真实的情况被系统性地遗忘,最终质量崩坏。这被称为模型崩溃(model collapse),本质是采样偏差在闭环里被反复放大。
关键限定是「只用」和「没有把关」。实践中避免这个问题的做法很明确:
- 保留真实数据锚点。合成数据作为补充而不是替代,训练集里始终保有足够比例的真实样本。
- 加验证环节。代码要能跑通、数学要能对答案、事实要能溯源。可验证的任务最适合用合成数据,正是因为筛选信号是客观的。
- 控制多样性。同一个提示反复生成会得到高度相似的样本,需要在生成阶段刻意引入变化,并在事后做去重。
- 人工抽检。哪怕只抽百分之一,也能及早发现系统性的格式错误或事实错误。
和相邻概念的区别
和数据增强的区别:数据增强是对已有真实样本做变换(旋转图片、替换同义词),底子还是真的;合成数据是凭空生成新样本。两者常一起用,但风险特性不同。
和 RAG 的区别:RAG 是在推理时把真实资料取回来给模型看,不改权重;合成数据是在训练阶段影响模型本身。想让模型「知道」某批资料时,先考虑 RAG,因为它可更新、可溯源。
和蒸馏的关系:蒸馏经常以合成数据为载体——用教师模型生成大量输出,训练学生模型去模仿。可以说蒸馏是合成数据最成熟的一种用法。
和具身智能、世界模型的关系:在具身智能领域,世界模型正在扮演「合成数据引擎」的角色——先学会预测物理世界如何演变,再用它批量生成训练场景。这是当前把合成数据推上台面的主要产业动力之一。
容易误解的地方
「合成数据能无限扩充」——数量不是瓶颈,信息量才是。从同一个模型里生成一亿条数据,并没有引入超出该模型已有知识的新信息。真正带来增量的是外部验证信号:编译器、单元测试、物理引擎、真实测量、人工标注。
「合成数据没有隐私问题」——不一定。如果生成模型是在真实个人数据上训练的,它可能在输出里泄露原始记录。合规上需要的是可论证的隐私保证,而不是「这是生成的所以没事」。
「合成数据没有版权问题」——用受版权保护的内容训练出的模型再生成数据,权利状态并不自动清白,这在法律上仍是有争议的领域。
「效果不好是因为合成数据不够」——多数失败案例是质量问题而非数量问题:格式漂移、答案错误、多样性塌缩、和真实分布对不上。加量往往只会把问题放大。
什么时候该用
先问真实数据能不能拿到。能拿到、量够、覆盖面全,就别绕弯。当出现下面任一情况时,合成数据才是合理选择:真实样本采集成本高到不可行、涉及隐私无法直接使用、罕见类别严重不足、或者你需要针对某个具体能力做强化训练。
上手时守住三条:任务本身要可验证(有客观的对错判据);训练集里保留真实数据;生成流程里必须有筛选环节。这三条做到了,合成数据是很有效的工具;缺一条,它就是在给模型喂自己的回声。