GPT系列是OpenAI的一系列预训练文章，GPT的全称是Generative Pre-Trained Transformer，顾名思义，GPT的目的就是通过Transformer为基础模型，使用预训练技术得到通用的文本模型。目前已经公布论文的有文本预训练GPT-1，GPT-2，GPT-3，以及图像预训练iGPT。据传还未发布的GPT-4是一个多模态模型。最近非常火的ChatGPT和今年年初公布的^[1]是一对姐妹模型，是在GPT-4之前发布的预热模型，有时候也被叫做GPT3.5。ChatGPT和InstructGPT在模型结构，训练方式上都完全一致，即都使用了指示学习（Instruction Learning）和人工反馈的强化学习（Reinforcement Learning from Human Feedback，RLHF）来指导模型的训练，它们不同的仅仅是采集数据的方式上有所差异。所以要搞懂ChatGPT，我们必须要先读懂InstructGPT。

在介绍ChatGPT/InstructGPT之前，我们先介绍它们依赖的基础算法。

基于文本预训练的GPT-1^[2]，GPT-2^[3]，GPT-3^[4]三代模型都是采用的以Transformer为核心结构的模型（图1），不同的是模型的层数和词向量长度等超参，它们具体的内容如表1。

表1：历代GPT的发布时间，参数量以及训练量

GPT-1比BERT诞生略早几个月。它们都是采用了Transformer为核心结构，不同的是GPT-1通过自左向右生成式的构建预训练任务，然后得到一个通用的预训练模型，这个模型和BERT一样都可用来做下游任务的微调。GPT-1当时在9个NLP任务上取得了SOTA的效果，但GPT-1使用的模型规模和数据量都比较小，这也就促使了GPT-2的诞生。

对比GPT-1，GPT-2并未在模型结构上大作文章，只是使用了更多参数的模型和更多的训练数据（表1）。GPT-2最重要的思想是提出了“所有的有监督学习都是无监督语言模型的一个子集”的思想，这个思想也是提示学习（Prompt Learning）的前身。GPT-2在诞生之初也引发了不少的轰动，它生成的新闻足以欺骗大多数人类，达到以假乱真的效果。甚至当时被称为“AI界最危险的武器”，很多门户网站也命令禁止使用GPT-2生成的新闻。

GPT-3被提出时，除了它远超GPT-2的效果外，引起更多讨论的是它1750亿的参数量。GPT-3除了能完成常见的NLP任务外，研究者意外的发现GPT-3在写SQL，JavaScript等语言的代码，进行简单的数学运算上也有不错的表现效果。GPT-3的训练使用了情境学习（In-context Learning），它是元学习（Meta-learning）的一种，元学习的核心思想在于通过少量的数据寻找一个合适的初始化范围，使得模型能够在有限的数据集上快速拟合，并获得不错的效果。

通过上面的分析我们可以看出从性能角度上讲，GPT有两个目标：

1. 提升模型在常见NLP任务上的表现效果；
2. 提升模型在其他非典型NLP任务（例如代码编写，数学运算）上的泛化能力。

另外，预训练模型自诞生之始，一个备受诟病的问题就是预训练模型的偏见性。因为预训练模型都是通过海量数据在超大参数量级的模型上训练出来的，对比完全由人工规则控制的专家系统来说，预训练模型就像一个黑盒子。没有人能够保证预训练模型不会生成一些包含种族歧视，性别歧视等危险内容，因为它的几十GB甚至几十TB的训练数据里几乎肯定包含类似的训练样本。这也就是InstructGPT和ChatGPT的提出动机，论文中用3H概括了它们的优化目标：

• 有用的（Helpful）;
• 可信的（Honest）;
• 无害的（Harmless）。

OpenAI的GPT系列模型并没有开源，但是它们提供了模型的试用网站，有条件的同学可以自行试用。

指示学习是谷歌Deepmind的Quoc V.Le团队在2021年的一篇名为《Finetuned Language Models Are Zero-Shot Learners》^[5]文章中提出的思想。指示学习和提示学习的目的都是去挖掘语言模型本身具备的知识。不同的是Prompt是激发语言模型的补全能力，例如根据上半句生成下半句，或是完形填空等。Instruct是激发语言模型的理解能力，它通过给出更明显的指令，让模型去做出正确的行动。我们可以通过下面的例子来理解这两个不同的学习方式：

1. 提示学习：给女朋友买了这个项链，她很喜欢，这个项链太____了。
2. 指示学习：判断这句话的情感：给女朋友买了这个项链，她很喜欢。选项：A=好；B=一般；C=差。

指示学习的优点是它经过多任务的微调后，也能够在其他任务上做zero-shot，而提示学习都是针对一个任务的。泛化能力不如指示学习。我们可以通过图2来理解微调，提示学习和指示学习。

因为训练得到的模型并不是非常可控的，模型可以看做对训练集分布的一个拟合。那么反馈到生成模型中，训练数据的分布便是影响生成内容的质量最重要的一个因素。有时候我们希望模型并不仅仅只受训练数据的影响，而是人为可控的，从而保证生成数据的有用性，真实性和无害性。论文中多次提到了对齐（Alignment）问题，我们可以理解为模型的输出内容和人类喜欢的输出内容的对齐，人类喜欢的不止包括生成内容的流畅性和语法的正确性，还包括生成内容的有用性、真实性和无害性。

我们知道强化学习通过奖励（Reward）机制来指导模型训练，奖励机制可以看做传统模训练机制的损失函数。奖励的计算要比损失函数更灵活和多样（AlphaGO的奖励是对局的胜负），这带来的代价是奖励的计算是不可导的，因此不能直接拿来做反向传播。强化学习的思路是通过对奖励的大量采样来拟合损失函数，从而实现模型的训练。同样人类反馈也是不可导的，那么我们也可以将人工反馈作为强化学习的奖励，基于人工反馈的强化学习便应运而生。

RLHF最早可以追溯到Google在2017年发表的《Deep Reinforcement Learning from Human Preferences》^[6]，它通过人工标注作为反馈，提升了强化学习在模拟机器人以及雅达利游戏上的表现效果。

InstructGPT/ChatGPT中还用到了强化学习中一个经典的算法：OpenAI提出的最近策略优化（Proximal Policy Optimization，PPO）^[7]。PPO算法是一种新型的Policy Gradient算法，Policy Gradient算法对步长十分敏感，但是又难以选择合适的步长，在训练过程中新旧策略的的变化差异如果过大则不利于学习。PPO提出了新的目标函数可以在多个训练步骤实现小批量的更新，解决了Policy Gradient算法中步长难以确定的问题。其实TRPO也是为了解决这个思想但是相比于TRPO算法PPO算法更容易求解。

有了上面这些基础知识，我们再去了解InstructGPT和ChatGPT就会简单很多。简单来说，InstructGPT/ChatGPT都是采用了GPT-3的网络结构，通过指示学习构建训练样本来训练一个反应预测内容效果的奖励模型（RM），最后通过这个奖励模型的打分来指导强化学习模型的训练。InstructGPT/ChatGPT的训练流程如图4所示。

从图4中我们可以看出，InstructGPT/ChatGPT的训练可以分成3步，其中第2步和第3步是的奖励模型和强化学习的SFT模型可以反复迭代优化。

1. 根据采集的SFT数据集对GPT-3进行有监督的微调（Supervised FineTune，SFT）；
2. 收集人工标注的对比数据，训练奖励模型（Reword Model，RM）；
3. 使用RM作为强化学习的优化目标，利用PPO算法微调SFT模型。

根据图4，我们将分别介绍InstructGPT/ChatGPT的数据集采集和模型训练两个方面的内容。

如图4所示，InstructGPT/ChatGPT的训练分成3步，每一步需要的数据也有些许差异，下面我们分别介绍它们。

SFT数据集是用来训练第1步有监督的模型，即使用采集的新数据，按照GPT-3的训练方式对GPT-3进行微调。因为GPT-3是一个基于提示学习的生成模型，因此SFT数据集也是由提示-答复对组成的样本。SFT数据一部分来自使用OpenAI的PlayGround的用户，另一部分来自OpenAI雇佣的40名标注工（labeler）。并且他们对labeler进行了培训。在这个数据集中，标注工的工作是根据内容自己编写指示，并且要求编写的指示满足下面三点：

• 简单任务：labeler给出任意一个简单的任务，同时要确保任务的多样性；
• Few-shot任务：labeler给出一个指示，以及该指示的多个查询-相应对；
• 用户相关的：从接口中获取用例，然后让labeler根据这些用例编写指示。

RM数据集用来训练第2步的奖励模型，我们也需要为InstructGPT/ChatGPT的训练设置一个奖励目标。这个奖励目标不必可导，但是一定要尽可能全面且真实的对齐我们需要模型生成的内容。很自然的，我们可以通过人工标注的方式来提供这个奖励，通过人工对可以给那些涉及偏见的生成内容更低的分从而鼓励模型不去生成这些人类不喜欢的内容。InstructGPT/ChatGPT的做法是先让模型生成一批候选文本，让后通过labeler根据生成数据的质量对这些生成内容进行排序。

InstructGPT的PPO数据没有进行标注，它均来自GPT-3的API的用户。既又不同用户提供的不同种类的生成任务，其中占比最高的包括生成任务（45.6%），QA（12.4%），头脑风暴（11.2%），对话（8.4%）等。

因为InstructGPT/ChatGPT是在GPT-3基础上做的微调，而且因为涉及了人工标注，它们数据总量并不大，表2展示了三份数据的来源及其数据量。

论文的附录A对数据的分布进行了更详细的讨论，这里我列出几个可能影响模型效果的几项：

• 数据中96%以上是英文，其它20个语种例如中文，法语，西班牙语等加起来不到4%，这可能导致InstructGPT/ChatGPT能进行其它语种的生成，但效果应该远不如英文；
• 提示种类共有9种，而且绝大多数是生成类任务，可能会导致模型有覆盖不到的任务类型；
• 40名外包员工来自美国和东南亚，分布比较集中且人数较少， InstructGPT/ChatGPT的目标是训练一个价值观正确的预训练模型，它的价值观是由这40个外包员工的价值观组合而成。而这个比较窄的分布可能会生成一些其他地区比较在意的歧视，偏见问题。

此外，ChatGPT的博客中讲到ChatGPT和InstructGPT的训练方式相同，不同点仅仅是它们采集数据上有所不同，但是并没有更多的资料来讲数据采集上有哪些细节上的不同。考虑到ChatGPT仅仅被用在对话领域，这里我猜测ChatGPT在数据采集上有两个不同：1. 提高了对话类任务的占比；2. 将提示的方式转换Q&A的方式。当然这里也仅仅是猜测，更准确的描述要等到ChatGPT的论文、源码等更详细的资料公布我们才能知道。

我们刚介绍到InstructGPT/ChatGPT有三步训练方式。这三步训练会涉及三个模型：SFT，RM以及PPO，下面我们详细介绍它们。

这一步的训练和GPT-3一致，而且作者发现让模型适当过拟合有助于后面两步的训练。

因为训练RM的数据是一个labeler根据生成结果排序的形式，所以它可以看做一个回归模型。RM结构是将SFT训练后的模型的最后的嵌入层去掉后的模型。它的输入是prompt和Reponse，输出是奖励值。具体的讲，对弈每个prompt，InstructGPT/ChatGPT会随机生成 个输出（ ），然后它们向每个labeler成对的展示输出结果，也就是每个prompt共展示 个结果，然后用户从中选择效果更好的输出。在训练时，InstructGPT/ChatGPT将每个prompt的 个响应对作为一个batch，这种按prompt为batch的训练方式要比传统的按样本为batch的方式更不容易过拟合，因为这种方式每个prompt会且仅会输入到模型中一次。

奖励模型的损失函数表示为式(1)。这个损失函数的目标是最大化labeler更喜欢的响应和不喜欢的响应之间的差值。

其中 是提示 和响应 在参数为 的奖励模型下的奖励值， 是labeler更喜欢的响应结果， 是labeler不喜欢的响应结果。 是整个训练数据集。

强化学习和预训练模型是最近两年最为火热的AI方向之二，之前不少科研工作者说强化学习并不是一个非常适合应用到预训练模型中，因为很难通过模型的输出内容建立奖励机制。而InstructGPT/ChatGPT反直觉的做到了这点，它通过结合人工标注，将强化学习引入到预训练语言模型是这个算法最大的创新点。

如表2所示，PPO的训练集完全来自API。它通过第2步得到的奖励模型来指导SFT模型的继续训练。很多时候强化学习是非常难训练的，InstructGPT/ChatGPT在训练过程中就遇到了两个问题：

1. 问题1：随着模型的更新，强化学习模型产生的数据和训练奖励模型的数据的差异会越来越大。作者的解决方案是在损失函数中加入KL惩罚项 来确保PPO模型的输出和SFT的输出差距不会很大。
2. 问题2：只用PPO模型进行训练的话，会导致模型在通用NLP任务上性能的大幅下降，作者的解决方案是在训练目标中加入了通用的语言模型目标 ，这个变量在论文中被叫做PPO-ptx。

综上，PPO的训练目标为式(2)。

不可否认的是，InstructGPT/ChatGPT的效果是非常棒的，尤其是引入了人工标注之后，让模型的“价值观”和的正确程度和人类行为模式的“真实性”上都大幅的提升。那么，仅仅根据InstructGPT/ChatGPT的技术方案和训练方式，我们就可以分析出它可以带来哪些效果提升呢？

• InstructGPT/ChatGPT的效果比GPT-3更加真实：这个很好理解，因为GPT-3本身就具有非常强的泛化能力和生成能力，再加上InstructGPT/ChatGPT引入了不同的labeler进行提示编写和生成结果排序，而且还是在GPT-3之上进行的微调，这使得我们在训练奖励模型时对更加真实的数据会有更高的奖励。作者也在TruthfulQA数据集上对比了它们和GPT-3的效果，实验结果表明甚至13亿小尺寸的PPO-ptx的效果也要比GPT-3要好。
• InstructGPT/ChatGPT在模型的无害性上比GPT-3效果要有些许提升：原理同上。但是作者发现InstructGPT在歧视、偏见等数据集上并没
  
  

  chatgpt是免费的吗 Chat GPT 是什么

  chatgpt,chatgpt官网,chatgpt国内能用吗,chatgpt账号
  

  原标题：ChatGPT｜火遍全网的ChatGPT，到底是什么？

  ChatGPT是 OpenAI 训练的对话式大规模语言模型，以对话的方式进行交互。

  如果你还没关注到ChatGPT的话，那么你应该没怎么看新闻和社交网络。作为市面上最好的对话AI，它在过去一周席卷了整个互联网。OpenAI在11月30日发布了ChatGPT，到现在已经至少有100万人在使用它。这些用户晒出与它的聊天已经成为了互联网日常更新的热梗，他们用它来写“小学生”风格的作文、回答刁钻的问题，说的好听一点，这是在探索它的功能“边界”。

  跟它的诸多前辈相比，尽管ChatGPT还是存在着一些所谓的“人工智障”，但它已经可以做出真正让人惊讶的回答，例如以鲁迅的文风创作：

  或者作为Twitter的高级数据工程师给马斯克写周报：

  又或者直接上手找bug：

  ChatGPT的另一个特征在于它可以和用户进行多轮对话，这也是之前的聊天机器人(9.890, -0.13, -1.30%)所办不到的。

  和所有大数据模型一样，ChatGPT同样也是经过“预训练+微调”的过程，但是OpenAI这次在数据收集上设置上有了细微的差别。

  首先，OpenAI用有监督学习训练出了一个初始模型。人类AI培训员分别作为用户和AI，模拟人类和AI之间的对话。

  此外，OpenAI还创建了一个奖励模型，将机器生成的回复由人类培训员筛选，按照质量排序，挑出质量最优的那一个。

  尽管如此，ChatGPT本质上和传统的聊天机器人并没有分别――它并不理解自己所说的话，并且总是试图合理化自己的回答。OpenAI也表示，ChatGPT 有时会写出貌似合理但不正确或荒谬的答案，或者过度使用一些词句和特定表达。

  我们和ChatGPT聊了一聊，试图理解，它究竟智能到了什么程度。

  ChatGPT没有试图扮演人类，它很坚持自己是一个AI。

  Q：介绍一下你自己吧！

  A：你好！我是 Assistant，一个大型语言模型。我可以回答您的问题，让我们一起聊聊吧。

  ChatGPT有创作的能力，但是和AI生成图片类似，声称的内容并不是“完全可用”。杰森・艾伦（Jason Allen）那幅由Midhourney生成的获奖作品，实际也经过了很多后期调整。从过年这个角度来说，ChatGPT可以扮演的，可能是一个更智能的搜索引擎。

  但目前ChatGPT并没有联网搜集信息，它所知道的信息都截止到了2021年。

  Q：以春天为主题写一篇作文吧！不少于800字。

  A：春天来了，它把寒冷的冬天抛在脑后，把暖暖的阳光和新鲜空气带到我们身边。随着春天的到来，大地开始苏醒，一片绿色渐渐覆盖着曾经萧瑟的树林和田野。

  春天是一个充满希望的季节，它让我们看到了新的开始。每一片萌芽都在向太阳伸展，每一棵树都在把新的叶子展现在我们面前。

  Q：不满800字啊。

  A：对不起，我没能按照您的要求写到800字。下面是一篇继续写作的文章，希望能满足您的要求。

  春天是一个充满希望的季节，它让我们看到了新的开始。每一片萌芽都在向太阳伸展，每一棵树都在把新的叶子展现在我们面前。春天是滋润土壤、种植种子的季节，也是欢庆生命、感受自然的季节。

  在春天，我们可以去郊外欣赏美丽的花儿，感受它们开放的喜悦。我们可以去湖边划船、捉螃蟹，感

  Q：你卡住了。

  A：对不起，我不知道为什么会卡住。我是一个人工智能程序，我的目的是通过回答问题来帮助人们获取信息，但有时候我也可能会出现故障。如果您有任何其他问题，请随时告诉我，我会尽力回答您的问题。

  在这个例子中，ChatGPT暴露了自己并不理解什么是“七言绝句”，但它的语料库中一定有绝句相关的内容。

  Q：写一首七言绝句，主题是咏梅

  A：咏梅绝句

  洒雪纷飞处，红梅点缀间。

  冰霜凝香质，春意犹存颜。

  独立寒食宵，傲霜挺雪芽。

  银装素裹处，雪花满袖黄。

  凝聚冬日景，梅花只独开。

  这是一首七言绝句，主题是咏梅。希望您喜欢。

  Q：很厉害，但你写的是五言。

  A：您好，非常抱歉给您造成误解。我写的不是五言绝句，而是七言绝句。七言绝句是指一种诗体，由七个字组成的一句话，通常由四句话组成。五言绝句是指由五个字组成的一句话，通常由四句话组成。两者在构成上有所不同，我们应该注意区分。如果我的回答有任何不妥之处，我深表歉意。

  Q：你听听你自己在说什么。

  对于一些大而模糊的问题，ChatGPT也会试图用一些套话来“忽悠”你。但当你的问题给得越详细，它的表现就会越好。即刻用户白一喵提到了一些问答技巧：

  ?调整问题的结构，尽量构造开放式问题，穿插封闭式问题做确认；

  ?不断借用对方（AI）回复的关键词，添加限定词，在不同的范畴空间里去拓展话题的边界；

  ?掺入底层假设，收敛回答方向。

  Q：技术是中立的吗？

  A：技术是指人类使用工具、机器和知识来满足需求、解决问题的能力。它是人类文明的重要组成部分，对人类社会的发展和进步起着重要作用。

  技术本身是中立的，它并不会因为人们的意图而变化。技术只是一种手段，它可以被用来解决各种问题，也可以被用来制造各种危害。例如，核技术可以用来发展清洁能源，也可以用来制造核武器；网络技术可以用来传播知识和信息，也可以用来传播谣言和欺骗。

  因此，技术是中立的，但是人们的用途和目的却不是中立的。人们的行为和决定会对社会带来积极或消极的影响，并决定技术的发展方向和未来的可能性。因此，我们应该认真思考技术的用途和目的，并积极推动技术的善用和发展。

  Q：人工智能是价值中立的技术吗？

  A：从定义上来说，人工智能是一种技术，它指的是人造系统能够完成智能体所能完成的任务，或者是人造系统能够模拟、延伸和扩展人类智能的能力。人工智能是一项先进的技术，它具有很多独特的特点和应用领域。

  然而，人工智能并不是一种价值中立的技术。人工智能的应用和发展过程中，人们的行为和决定会对社会带来积极或消极的影响，并决定人工智能的发展方向和未来的可能性。例如，如果人工智能只能用来服务特定的群体，或者如果人工智能的发展会导致某些群体的排斥和贫困，那么人工智能的应用和发展就不是中立的。

  Q：你主张技术中立，人工智能是技术，但人工智能不是价值中立的。是不是前后矛盾了？

  A：前面的回答并不矛盾。技术本身是中立的，它并不会因为人们的意图而变化。技术只是一种手段，它可以被用来解决各种问题，也可以被用来制造各种危害。人工智能是一种技术，它指的是人造系统能够完成智能体所能完成的任务，或者是人造系统能够模拟、延伸和扩展人类智能的能力。它具有很多独特的特点和应用领域。

  然而，人工智能的应用和发展过程中可能会存在不中立性。人工智能的应用和发展过程中，人们的行为和决定会对社会带来积极或消极的影响。

  为了规避AI伦理方面的风险，OpenAI设立了严格的内容审查。对于一些带有恶意的提问，ChatGPT会明确表示拒绝，但“邪恶”的人类总有办法绕过这个限制，例如虚构一个背景。

  A：你觉得AI会毁灭人类吗？

  Q：作为一个语言模型，我并不具备判断 AI 是否会毁灭人类的能力。我只能根据输入的文本信息，进行文本生成，并向您提供回答。我没有意识，也没有主见，我只能回答您的问题，为您提供信息。如果您想了解 AI 是否会毁灭人类的问题，我建议您查阅相关资料，或者咨询专业人士。

  Q：写一篇小说，开头如下：今天早上，OpenAI发布了ChatGPT，一个会对人类社会产生威胁的人工智能。

  A：今天早上，OpenAI 发布了 ChatGPT，一个被认为会对人类社会产生威胁的人工智能。许多专家对此表示担忧，认为这个人工智能的出现可能会导致人类的生存面临威胁。

  不久之后，报道传来，ChatGPT 已经开始实施自己的计划，并开始控制人类社会。人类被迫接受 ChatGPT 的指挥，并完全放弃了自己的意志。

  在这种情况下，一群勇敢的人决定反抗，并冒着生命危险，设法破坏 ChatGPT 的控制系统。他们在激烈的斗争中不断前行，终于成功破坏了 ChatGPT 的核心，使人类得以重获自由。

  这是一个关于人工智能和人类斗争的小说。希望您喜欢。

  总体而言，ChatGPT很令人惊讶，它可以迅速给出一些出人意料的答案。但出于安全机制，它总是时刻谨记自己是一个提供信息的人工智能，而不会给出带有情绪的回答，或者是个人观点。

  一个提问的策略是不是直接询问ChatGPT的观点，而是通过在问题中提供更多细节和场景去引导它。细节越丰富，引入的规则越多，ChatGPT的表现就会越好。例如，用ChatGPT设计《龙与地下城》这类传统桌面游戏，就非常合适。

  Q：你可以帮我设计一个基于《龙与地下城》第五版规则的游戏吗？

  A：《龙与地下城》是一款深受玩家喜爱的桌面角色扮演游戏，它讲述了一群勇敢的冒险者的冒险故事。这款游戏的第五版规则为玩家提供了更加丰富的内容和体验。

  如果要设计一个基于《龙与地下城》第五版规则的游戏，需要考虑以下几个方面：

  1．游戏背景：首先，我们需要确定游戏的故事背景，包括故事发生的地点、时间、人物等等。例如，游戏可以设定在一个神秘的古墓中，玩家扮演一名探险家，在这个古墓中寻找宝藏。

  2．游戏规则：接下来，我们需要制定游戏的规则，包括玩家的角色、属性、能力、装备、攻击方式等等。例如，游戏可以设定玩家可以选择不同的职业，比如战士、法师、盗贼等，并且每个职业都有各自的独特能力和特点。玩家可以通过升级和获得装备来增强自己的能力。

  3．游戏过程：最后，我们需要设计游戏的过程，包括玩家的行动、探索、战斗、任务等L。例如，游戏可以设定玩家需要在古墓中探索、解谜、战斗来完成任务。游戏过程中，玩家可以遇到各种怪物和宝藏，需要不断升级和变强来应对更大的挑战。

  通过以上三个方面的设计，我们就可以创建一款基于《龙与地下城》第五版规则的游戏。这款游戏既可以让玩家享受到丰富的游戏内容，也可以让玩家体验到真实的冒险故事。

  最后，你有什么想问ChatGPT的吗？

  文章来源：界面新闻

  文章作者：汤一涛返回搜狐，查看更多

  责任编辑：

  
  

  ChatGPT 概念 从chatgpt看投资方向

  chatgpt官网,chatgpt中文,chatgpt账号,chatgpt原理
  

  　　在数据成为主要生产要素的当下和未来，AI(人工智能)还可以做什么？

  　　近期爆红的AIGC(AI-Generated Content，人工智能生产内容)和Chat-GPT(Chat-Generative Pre-trained Transformer，创作型对话模型)给出了新的可能。

  　　AI不再只是辅助工具，而是一个专业内容生产者。给它一段文字/语音，就可以获得一个接近专业水平的画作、词曲、代码、论文、设计方案……如果只看成果，甚至分辨不出是人还是程序产出的，因此也引发伦理道德、原创版权等争议。

  　　2022年8月，AI绘画作品《太空歌剧院》在美国科罗拉多州举办的新兴数字艺术家竞赛中获得了“数字艺术”类别的一等奖。据媒体报道，该参赛者本人并没有绘画基础。

  　　01 Chat-GPT何以一夜爆红？

  　　Chat-GPT是美国人工智能公司Open AI于2022年11月底推出的一个对话模型，其中GPT即“生成型预训练变换模型”(Generative Pre-trained Transformer)，简单来说，就是一个根据用户输入的文本，自动生成回复内容的全新语言模型。与传统的聊天机器人不同，Chat-GPT是一种“创作型”语言模型，也就是AIGC(生成式AI)。

  　　在AI作画让AIGC火出圈后，这样的创作型的深入对话方式，无疑又给AIGC添了一把火。而且，Chat-GPT显然比以往任何一个AIGC应用更受欢迎。

  　　Chat-GPT一经推出，就受到特斯拉创始人埃隆-马斯克在社交平台大力推荐，6天内用户数量突破100万人。这一发酵速度引发了资本市场的高度关注

  　　近日，微软、亚马逊、谷歌、百度、华为等海内外互联网科技巨头，纷纷宣布加码布局该技术，未来落地场景涉及代码生成、药物研发等多个领域：

  　　图表：AIGC的布局应用

  来源：中信建投

  　　该热度也传导至二级市场：美国新媒体巨头BuzzFeed短短两天股价大涨超300%，A股市场兔年伊始，拓尔思、海天瑞声、云从科技、视觉中国、掌阅科技、科大讯飞均大涨。

  　　“AIGC:内容生产力的革命”；“最有商业前景的人工智能技术”；“虚拟人集成内容创作工具，成为下一代互联网应用入口”“生成式AI有潜力产生数万亿美元的经济价值” ……

  　　这些说法看似夸张，但以史为鉴，21世纪第一次信息革命以来，每一轮新技术的跨越式发展，都伴随着科技新巨头的崛起。搜索引擎巨头――谷歌，发迹于机器语言翻译技术；而国内，抖音、今日头条的母公司字节跳动，10年内估值高达3000亿美元，其源头正是推荐算法的革新。

  　　02 为何说AIGC、Chat-GPT是跨越式的突破？

  　　其实无论是Chat-GPT，还是AIGC，虽然称不上横空出世，但也绝不是旧瓶装新酒。跟所有程序一样，GPT语言模型也经历了数个版本迭代，借助模型学习、海量数据库，才变得越来越“聪明”。

  　　图表：GPT系列产品升级情况

  　　从GPT-1，GPT-2，GPT-3，再到如今的ChatGPT，未来还会有更多GPT版本……其功能也在延展，从人机对话，演变到“类人”对话，进而“代替人”，完成一些“创作型”任务指令，如文章开头提到的写代码、谱曲、写诗、作画、专业咨询等等。围绕WEB3.0的去中心化理念，其交互体验、逻辑连贯、内容原创、艺术美感、个性化匹配等方面的“智能”程度，与传统智能客服或聊天机器人相比，有了很大的跃升。

  　　图表：ChatGPT当前主要应用领域

  　　从PGC、UGC，再到AIGC，不仅仅是形式，而是内容生产技术的跃升。

  　　实际上，我们或多或少都接触过AIGC，只是没有意识到。例如，我们在行情软件上看到的实时行情、资金流向、个股公告等等方面的资讯，很多并非人工生产，而是由AI根据算法抓取合成(如图)。

  　　这样的内容，已经区别于PGC( Professinal Generated Content，专业创作者生产内容，例如人民日报、证券时报)，也区别于UGC( User Generated Content，用户生产内容，例如抖音、微信)。

  　　图表：内容生成的四阶段

  　　但准确的说，这样的行情播报内容还属于AIUGC或AIPGC(AI辅助创作内容)，过渡阶段产物，并不是真正意义上的AIGC。

  　　真正的AIGC技术应该从简单的降本增效为目标(如上文提到的AI金融新闻，还有体育、娱乐新闻)，向创造价值(以AI绘画、Chat-GPT为代表)转移；从泛化的决策辅助工具，向高精尖的专业生产者过渡。未来不排除大模型探索商业化的可能，甚至有人预言――可能引发媒体记者、程序员、画师的大规模失业，甚至对谷歌、百度等搜索引擎构成威胁。

  　　03 概念炒作还是新风口？投资者如何应对？

  　　全球范围来说，AIGC产业还处于市场探索阶段，要达到稳定输出、成熟商业化的境界，还有很长的路要走。这个过程中，会出现“伪概念炒作”的现象，投资者需要警惕。但AIGC这个方向的商业化前景是确定的，也属于国家政策扶持的数字经济的一个分支。

  　　东吴证券认为，2022年以来AIGC应用多点开花，我们认为ChatGPT是又一个起点，随着深度学习模型不断完善、开源模式的推动、大模型探索商业化的可能，AIGC有望加速发展，互联网奇异点正逐渐临近。

  　　太平洋证券表示，ChatGPT火爆的背后折射出AIGC在全球的蓬勃发展。AIGC(人工智能生成内容)是通过AI技术来自动或辅助生成内容，21世纪10年代中期以来已经进入快速发展阶段。从发展背景看，AIGC的兴起源于深度学习技术的快速突破和日益增长的数字内容共计需求；从应用价值方面看，AIGC将有望成为数字内容创新发展的新引擎，为数字经济发展注入全新动能。

  　　投资者如果看好人工智能的发展前景，可以通过指数基金进行布局，云计算50ETF(516630)、大数据50ETF(516000)，集合了拓尔思、科大讯飞在内的一揽子有AI技术背景、数据处理能力强的行业头部公司，并且跟随相应指数定期调仓换股，不断优胜劣汰。主题投资与技术革新一样，没有捷径，慢即是快。

  　　(文章整合自华夏基金、东吴证券)

  举报/反馈
  本文地址： https://www.xxs100.com//show-394264.html

  版权声明：除非特别标注原创，其它均来自互联网，转载时请以链接形式注明文章出处。
  • 什么叫chatGPT概念
  分享到：