#LLM架构

概念-Jamba

一句话理解 Jamba 是 Mamba（状态空间模型）与 Transformer 的混合架构 LLM，部分层用 Mamba 处理长序列（线性复杂度），部分层用 Transformer 捕捉全局