AWS 开源 Priming：现成的 Transformer 直接「改装」成混合 SSM，预训练成本省掉 99% 以上
亚马逊团队把 Qwen3-32B 一半的注意力层换成 Gated KalmaNet（一种状态空间模型层），只用了原模型不到 0.5% 的预训练 token。改装后的模型在同一套推理训练配方下，成绩和原版基本持平，KV 缓存砍掉约一半，128K 长度下解码吞吐最高约 2 倍。8B 和 32B 的模型、训练代码和 vLLM 插件都以 Apache 2.0 发布。
为什么重要 以前想试混合架构只能从头预训练，现在拿现成的开源 Transformer 就能改。做长上下文智能体的团队，可以用同样的显卡扛更多并发。