论文CMU / Princeton2023 年 12 月 1 日

Mamba：选择性状态空间模型

一种计算量随序列长度线性增长的序列模型，同等规模下效果追平 Transformer。

为什么重要

重新带动了“注意力替代方案”的研究；后来线性层与注意力混合的架构进入了量产模型。

引出

Qwen3.5

出处: arxiv.org ↗

在 3D 时间轴上查看 →