穿越平凡·追求卓越
搜索

【行业】计算机-ChatGPT引领AI新浪潮(17页)

ChatGPT 是由 OpenAI 公司在 2022 年 11 月 30 日发布的一种聊天机器人模型,是由人工智能技术驱动的自然语言处理工具。它使用了 Transformer 架构并训练了大量的文本数据,能够进行语言翻译、问答、对话等任务。由于其在各种对话交互处理中的性能表现出色,自上线之后就迅速走红,仅一周就吸引了超过百万用户,Elon Musk 也在推特盛赞 ChatGPT 的出色表现。AI 发展方兴未艾,ChatGPT 的优秀表现也离不开强大的模型算法支撑。ChatGPT 采用了 RHLF(Reinforcement Learning from Human Feedback,基于人类反馈的强化学习)算法,采用人工标注的方式将NLP(Natural Language Processing,自然语言处理)和RL(Reinforced Learning强化学习)结合起来,极大地提升了模型效率和学习能力。GPT 已经历了三个版本的发展,ChatGPT 是 GPT-3 与 GPT-4 之间的过渡版本。GPT(Generative Pre-trained Transformer,生成式预训练语言模型)系列模型是一种基于互联网可用数据训练的文本生成深度学习模型。GPT 模型是 OpenAI 公司研发的一系列模型,这一系列的模型可以在非常复杂的 NLP 任务中取得非常惊艳的效果,例如文章生成,代码生成,机器翻译,Q&A 等,而完成这些任务并不需要有监督学习进行模型微调。不过,要达到这样的目的,GPT模型的训练需要大量的数据、参数以及强大的算力支撑,GPT 模型的发展也印证了,通过不断地提升模型容量和语料规模,模型的能力是可以不断提升的。GPT 系列模型经历了 GPT-1、GPT-2 和GPT-3 三个阶段,ChatGPT 则是由 GPT-3 微调得到的一个聚焦于对话交互的过渡版本。