#RWKV

RWKV (Receptance Weighted Key Value)

一句话理解 RNN式的线性复杂度Transformer替代方案——训练像Transformer一样并行,推理像RNN一样快,试图在"注意力"的高性能和"RNN"的高效率之间找到平衡点。 为什么