Experiment atlas / November 2026
从预训练,
到机器人泛化。
沿三个问题阅读 RobotWin 结果:预训练多久、用哪些数据,以及梯度连接与模型结构如何影响下游表现。
—Clean / Random
5k · 20kSFT optimizer steps
500unique episodes
01
原版:预训练步数与下游收益
梯度在预训练0→10k渐进放开。Baseline代表未经过本轮WAM预训练的原始初始化,不是“原版方法”的别称。
02
Humanoid-only,还是多数据集?
保留 Baseline 与原版Humanoid PT10k作锚点,对照两种数据组成的PT20k、PT40k;SFT保存点和评测环境分别对齐。
切换评测环境;左侧SFT5k,右侧SFT20k。数值为成功率(%)。
不同预训练数据组成的对照,不等价于严格匹配数据曝光量或计算量的因果实验;未进行多随机种子显著性检验。
03
消融:固定PT40k,只比较方法
原版、全程Detach、Unified默认LR、双分支LR1e-4及新增全程不Detach。这里不混入PT10k或PT20k。
相同PT40k初始化深度,对比SFT5k与SFT20k权重。
新增“全程不Detach”尚无完整评测结果时显示“待完成”,不作为0%绘图,也不参与最好值排序。