#weight reuse

一位作者在 Reddit 技术帖中公布了对 Huginn 式循环 Transformer 的 B200 性能剖析：在由 8 个矩阵乘法组成的链中，单个共享的 72 MiB 权重比 8 份相同副本快 24%，且几乎不从 HBM 读取数据；当权重增至 288 MiB、超出 L2 缓存后，这一差距消失。作者还用随机权重的教学版 Huginn Core 测得，8 次迭代的耗时和 HBM 读取量都约为 1 次迭代的 8 倍。结论是权重共享本身节省存储，但除非权重能留在缓存中，否则并不能阻止 GPU 在每次迭代时重新从 HBM 读取权重。上述为作者基于 Nsight Compute 数据的单方测量，完整模型结果来自教学实现。