GPT-1
O

GPT-1

以生成式预训练再进行任务微调的 Transformer,开启 GPT 模型路线。

OpenAI· 2018-06-11 发布 ·语言模型 ·开源 ·GPT 系列 ·历史版本

以生成式预训练再进行任务微调的 Transformer,开启 GPT 模型路线。

关键参数

上下文窗口
512
架构
Dense

版本谱系

变更历史

  1. 开放权重GPT-1 开放权重。原文 ↗

来源