首页/2024 年 6 月/昆仑万维/事件 开源昆仑万维大模型 昆仑万维发布 Skywork-MoE 大模型架构方案 昆仑万维开源 146B 参数混合专家模型 Skywork-MoE,公布门控 Logit 归一化与自适应辅助损失系数等 MoE 核心训练技术。 公告日期2024-06-10 开放使用日期与公告日期相同 厂商昆仑万维 模态语言 核实状态已核实 原始资料 论文arXiv 论文报告arxiv.org/abs/2406.06563 更早Qwen2-72B 开放权重 更近Stable Diffusion 3 Medium 开放权重