织梦门户网站源码,外贸局是做什么的工作,顺德网站建设市场,软件开发外包公司赚钱不文章目录简介BertGPT 初代GPT-2GPT-3chatGPT开源ChatGPT简介
openai 的 GPT 大模型的发展历程。
Bert
2018年#xff0c;自然语言处理 NLP 领域也步入了 LLM 时代#xff0c;谷歌出品的 Bert 模型横空出世#xff0c;碾压了以往的所有模型#xff0c;直接在各种NLP的建模…
文章目录简介BertGPT 初代GPT-2GPT-3chatGPT开源ChatGPT简介
openai 的 GPT 大模型的发展历程。
Bert
2018年自然语言处理 NLP 领域也步入了 LLM 时代谷歌出品的 Bert 模型横空出世碾压了以往的所有模型直接在各种NLP的建模任务中取得了最佳的成绩。 Bert 所作的事就是从大规模的上亿的文本预料中随机地扣掉一部分字形成完形填空题型不断地学习空格处到底该填写什么。所谓语言模型就是从大量的数据中学习复杂的上下文联系。
GPT 初代
与此同时openai 早于 Bert 出品了一个初代 GPT 模型。 他们大致思想是一样的。都基于 Transformer 这种编码器获取了文本内部的相互联系。 编解码的概念广泛应用于各个领域在 NLP 领域人们使用语言一般包括三个步骤 接受听到或读到的语言 - 大脑理解 - 输出要说的语言。 语言是一个显式存在的东西但大脑是如何将语言进行理解、转化和存储的则是一个目前仍未探明的东西。因此大脑理解语言这个过程就是大脑将语言编码成一种可理解、可存储形式的过程这个过程就叫做语言的编码。 相应的把大脑中想要表达的内容使用语言表达出来就叫做语言的解码。 在语言模型中编码器和解码器都是由一个个的 Transformer 组件拼接在一起形成的。
两者最主要的区别在于Bert 仅仅使用了 encoder 也就是编码器部分进行模型训练GPT 仅仅使用了 decoder 部分。两者各自走上了各自的道路根据我粗浅的理解GPT 的decoder 模型更加适应于文本生成领域。 我相信很多的 NLP 从业者对 LLM 的理解也大都停留在此。即本质上讲LLM 是一个非常复杂的编码器将文本表示成一个向量表示这个向量表示有助于解决 NLP 的任务。 GPT-2 我们一般的 NLP 任务文本分类模型就只能分类分词模型就只能分词机器翻译也就只能完成翻译这一件事非常不灵活。 GPT-2 主要就是在 GPT 的基础上又添加了多个任务扩增了数据集和模型参数又训练了一番。
既然多个任务都在同一个模型上进行学习还存在一个问题这一个模型能承载的并不仅仅是任务本身“汪小菲的妈是张兰”这条文字包含的信息量是通用的它既可以用于翻译也可以用于分类判断错误等等。也就是说信息是脱离具体 NLP 任务存在的举一反三能够利用这条信息在每一个 NLP 任务上都表现好这个是 元学习meta-learning实际上就是语言模型的一脑多用。
GPT-3
大模型中的大模型 首先 GPT-3 的模型所采用的数据量之大高达上万亿模型参数量也十分巨大学习之复杂计算之繁复不说了。 GPT-3 里的大模型计算量是 Bert-base 的上千倍。统统这些都是在燃烧的金钱真就是 all you need is money。如此巨大的模型造就了 GPT-3 在许多十分困难的 NLP 任务诸如撰写人类难以判别的文章甚至编写SQL查询语句React或者JavaScript代码上优异的表现。 首先 GPT-n 系列模型都是采用 decoder 进行训练的也就是更加适合文本生成的形式。也就是输入一句话输出也是一句话。也就是对话模式。 对话 对话是涵盖一切NLP 任务的终极任务。从此 NLP不再需要模型建模这个过程。比如传统 NLP 里还有序列标注这个任务需要用到 CRF 这种解码过程。在对话的世界里这些统统都是冗余的。 in-context learning 以往的预训练都是两段式的即首先用大规模的数据集对模型进行预训练然后再利用下游任务的标注数据集进行 finetune时至今日这也是绝大多数 NLP 模型任务的基本工作流程。
在 GPT-3 的预训练阶段也是按照这样多个任务同时学习的。比如“做数学加法改错翻译”同时进行。这其实就类似前段时间比较火的 prompt。 这种引导学习的方式在超大模型上展示了惊人的效果只需要给出一个或者几个示范样例模型就能照猫画虎地给出正确答案。注意啊是超大模型才可以一般几亿参数的大模型是不行的。我们这里没有小模型只有大模型、超大模型、巨大模型
chatGPT
chatGPT 模型上基本上和之前都没有太大变化主要变化的是训练策略变了。 强化学习 强化学习非常像生物进化模型在给定的环境中不断地根据环境的惩罚和奖励reward拟合到一个最适应环境的状态。 开源ChatGPT
https://github.com/hpcaitech/ColossalAI https://github.com/lucidrains/PaLM-rlhf-pytorch
