索引 / 标签
#Mamba
共 2 篇
- Ch06 神经网络基础
状态空间模型（深挖）
状态空间模型（State Space Model, SSM）是一类将序列建模从 O(n^2) 降到 O(n) 线性复杂度的架构。从经典控制论中的 SSM 出发，经过 S4（结构化状态空间）、H3（Hybrid H3）、Mamba（选择性 SSM）的演进，到 2026 年，SSM
约 5 分钟1,543 字 - Ch10 LLM架构
概念-Jamba
一句话理解 Jamba 是 Mamba（状态空间模型）与 Transformer 的混合架构 LLM，部分层用 Mamba 处理长序列（线性复杂度），部分层用 Transformer 捕捉全局
约 5 分钟1,501 字