#diffusion transformers

LingBot-Video 是一个 13B 参数的稀疏 MoE 视频扩散 Transformer(活跃参数 1.4B),通过包含物理合理性奖励在内的六项奖励进行了强化学习后训练,并支持基于动作条件的机器人 rollout 预测即世界模型。 该工作通过结合稀疏 MoE 提升效率、强化学习后训练增强合理性,并开源权重与代码,推动了视频生成和世界建模的发展,是机器人与视频合成研究的有力候选。 该模型采用 DeepSeek-V3 风格的稀疏 MoE,拥有 128 个专家和 Top-8 路由,在 RBench 上取得平均最高分,但通用文生视频排名第二。物理合理性奖励由 VLM 评判,尽管加入了真实视频负样本,仍引发对奖励破解的担忧。