M

Mixtral 8x7B

采用稀疏混合专家架构的高性能开源大模型

Mistral AI· 2023-12-11 发布 ·2023-12-11 开放使用 ·语言模型 ·开源 ·Mixtral 系列

Mistral AI 于 2023-12-11 Mistral AI 发布混合专家模型 Mixtral 8x7B。

关键参数

上下文窗口: 32K
开源许可: Apache 2.0

来源

官方公告 ↗Mistral AI 发布混合专家模型 Mixtral 8x7B ↗

Mistral AI 的其他模型

Ministral 3B2024-10-16 Ministral 8B2024-10-16 Pixtral 12B2024-09-17 Mistral Large 22024-07-24 Codestral 22B2024-05-29 Mistral Large2024-02-26