元

XVERSE-65B-Base

2.6T 词元训练高性能大模型基座

元象· 2023-11-06 发布 ·2023-11-06 开放使用 ·语言模型 ·开源 ·XVERSE 系列

元象于 2023-11-06 元象开源 650 亿参数底座大模型 XVERSE-65B 系列。

关键参数

参数量: 65B
预训练词元量: 2.6T
上下文窗口: 16K

同次发布

XVERSE-65B-Chat

来源

官方公告 ↗元象开源 650 亿参数底座大模型 XVERSE-65B 系列 ↗

元象的其他模型

XVERSE-V-13B2024-04-28 XVERSE-MoE-A4.2B2024-04-02 XVERSE-65B-Chat2023-11-06 XVERSE-13B-Base2023-08-07 XVERSE-13B-Chat2023-08-07