Experiment atlas / November 2026

从预训练,
到机器人泛化。

沿三个问题阅读 RobotWin 结果:预训练多久、用哪些数据,以及梯度连接与模型结构如何影响下游表现。

—Clean / Random
5k · 20kSFT optimizer steps
500unique episodes
01

原版:预训练步数与下游收益

梯度在预训练0→10k渐进放开。Baseline代表未经过本轮WAM预训练的原始初始化,不是“原版方法”的别称。

02

Humanoid-only,还是多数据集?

保留 Baseline 与原版Humanoid PT10k作锚点,对照两种数据组成的PT20k、PT40k;SFT保存点和评测环境分别对齐。

切换评测环境;左侧SFT5k,右侧SFT20k。数值为成功率(%)。

不同预训练数据组成的对照,不等价于严格匹配数据曝光量或计算量的因果实验;未进行多随机种子显著性检验。

03

消融:固定PT40k,只比较方法

原版、全程Detach、Unified默认LR、双分支LR1e-4及新增全程不Detach。这里不混入PT10k或PT20k。

相同PT40k初始化深度,对比SFT5k与SFT20k权重。

新增“全程不Detach”尚无完整评测结果时显示“待完成”,不作为0%绘图,也不参与最好值排序。