Jamba 1.6 Mini
基于 Mamba 与 Transformer 混合架构的轻量高效开源大模型 1.6 升级版。
AI21 Labs 于 2025-02-27 AI21 Labs 开源 Jamba 1.6 系列 (Mini 与 Large)。
关键参数
- Mamba-Transformer
- 混合架构
- 上下文长度
- 256k
Jamba 1.6 Mini
基于 Mamba 与 Transformer 混合架构的轻量高效开源大模型 1.6 升级版。
AI21 Labs 于 2025-02-27 AI21 Labs 开源 Jamba 1.6 系列 (Mini 与 Large)。