ChatGPT (Conversational Generative Pre-training Transformer) 是由 OpenAI 开发的一种大型语言模型，它可以自然地生成人类语言，并用于聊天机器人、对话系统、自动文本生成等应用。ChatGPT 使用了 Transformer 模型作为其架构的基础，这种模型可以处理长输入并具有较高的并行性。它还使用了诸如 masked language modeling 和 next sentence pred 继续阅读