国外名校对chatgpt的态度 chatgpt应用于教育场景
从上周开始，ChatGPT横空出世成为中国互联网最新“顶流”。2月14日，数字教育大会在北京落幕。数字教育成为当今教育的重要议题。联合国教科文组织倡导充分发挥数字技术带来的教育红利，让数字革命惠及所有学习者。而伴随着近日ChatGPT的火爆，数字时代的教育如何转型已经成为当下的热点议题？国际教育行业、资深教育人士如何看待？
自去年11月推出后，仅2个月，ChatGPT月活人数过亿。Tiktok在全球推出后约9个月达到1亿用户规模，Twitter则花了5年的时间。数据显示，ChatGPT成为史上用户增长最快的应用程序。马斯克非常兴奋地说，“ChatGPT好得吓人。我们离强大到危险的AI不远了。”比尔・盖茨在访问中说，ChatGPT的出现不亚于个人电脑、互联网的诞生。
被科技大佬吹爆的ChatGPT到底牛在哪里？ChatGPT是美国人工智能研究实验室OpenAI开发的一种全新聊天机器人模型，它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，并协助人类完成一系列任务，比如写邮件、写论文、制定商业方案、创作诗歌、敲代码等。区别于谷歌、百度等搜索引擎，ChatGPT能根据用户的需求生成个性化方案，而不是一堆信息的集合。2月5日，以色列总统成为首位公开使用ChatGPT撰写演讲稿的世界领导人。
而让ChatGPT最出圈的是，美国北密歇根大学生提交了一篇哲学课论文，意外获得了全班最高分，这篇文章正是出自ChatGPT。在一项调查中，有89%的美国大学生承认使用ChatGPT做家庭作业，53%的学生用它写论文，48%的学生使用ChatGPT完成考试。学术诚信、版权、著作等争议问题，把ChatGPT推上了风口浪尖。此刻，教育如临大敌。
全球学校开始采取反制措施。1月27日巴黎政治大学宣布“禁止学生使用ChatGPT软件完成任何书面作业或演示文稿，除非是出于特定的课程目的，并有课程负责人监督”，违禁学生或面临被开除的处罚，或者被逐出法国高等教育体系。美国纽约市和西雅图的部分公立学校已禁止使用ChatGPT完成作业，一些美国大学则宣布计划增加手写论文和口头考试的比重。斯坦福大学已经开发了检测学生是否使用ChatGPT作弊的工具“DetectGPT”。
ChatGPT搜索海量信息，过滤冗余信息，快速呈现结果。对于数字原住民的当代学生，这样方便高效的工具真的能防得住吗？
01打不过，就加入？
美国弗曼大学哲学助理教授Darren Hick在抓到学生利用ChatGPT写论文以后在社交媒体上发文称，“我感到极度恐惧，同时在思考这对我的日常工作到底意味着什么。”
美国加州的一位高中教师Daniel Herman曾在《大西洋月刊》撰文感慨：“ChatGPT会带来高中语文教学的终结”。文中写到，Daniel Herman让ChatGPT来写一些命题作文，比如“给斯坦福大学写一篇入学申请论文，描述自己的志愿者经历如何能帮助自己适应斯坦福的学术严谨要求。”或者写一篇“星巴克经理职位的工作申请”，结果发现，ChatGPT写的文章，要比绝大多数学生的水平要高。他甚至将一篇学生作文交给ChatGPT，让它修改一下。结果AI的确给出了一篇令人满意的修改稿。修改稿不仅保持了原文内容的完整性，提升了文字的优雅，还消除了原本作文中的一些语句混乱。在文章的最后，Daniel Herman表达了自己的困惑和纠结：
他作为高中老师，这么多年来致力于教孩子如何达到较高的写作水平。但现在AI已经完全达到，甚至超越了大多数人的写作水平，那未来会是怎样的呢？
▲《大西洋月刊》报道截图
在大家感到恐惧之余，人工智能对于教师的积极影响也是显而易见的。日本早稻田大学国际信息通信学博士、广州爱莎荔湾学校科技中心主任陈杰辉告诉顶思，ChatGPT可以有效帮助教师进行课堂设计、教案制作和教辅资料准备等，因其大数据实时更新，通过人工智能深度学习算法分析能获得最优解。“以往，老师的一份教案可以用很多年，而随着知识和技能更新加速，人工智能时代的到来让‘吃老本’变得很难。”
ChatGPT不仅是一个教学工具，也是非常值得探究学习的人工智能技术产品。“正如，新课标2022版明确提到小学3年级以上的孩子应具有‘操作兴趣，用事实说话的意识，能有依据地质疑别人的观点。ChatGPT给出的最优解是通过算法实现的，人类对其仍有进行质疑和批判的空间。”陈杰辉说。
在国内，已经有高校的学生开始使用ChatGPT。复旦大学教师赵斌在接受《人物》采访时表示，“最开始，我想的是，怎么能识别某个文本是学生用ChatGPT生成的，但经过这几天的尝试，我发现我识别不了，至少我没有这个能力，因为学生们都会把ChatGPT写出来的内容稍微整理一下，加上自己的思考方式，这就很难区别了。想防学生是防不住的。”因此，他决定接下来积极拥抱ChatGPT,“打不过，就加入”。今年新学期头几节课，他就带领学生学习ChatGPT，并关注学生对机器提问的能力。
“在我们的人类世界当中，有很多工作是无效的，要承认这个事。比如，读研究生是要写论文的，但是你会发现，90%的论文都是可有可无的。到最后，我无法辨别文章是机器写的还是人写的时候，说明这些文章已经没有存在的价值了。”
▲《纽约时报》报道截图：ChatGPT在教育界是敌是友？
近日，随着ChatGPT的火出圈，《清华大学钱颖一院长：人工智能将使中国教育优势荡然无存》以及《倪闽景：面对ChatGPT，传统教育已被逼入墙角》两篇文章在网络上广泛传播，让教育界不寒而栗。这两篇文章共同传达的观点是：以应试为导向的知识型教育正面临重大挑战。因为知识可以快速通过网络检索，答案可以由机器人快速回答。
事实上，ChatGPT在上线前，已经通过了一系列“考试”。据美国媒体报道：
ChatGPT轻松通过了谷歌编码三级工程师的面试，该岗位的年薪为18.3万美元；
它还在研究中通过了美国执业医师资格考试（USMLE）；
另外它还通过了沃顿商学院MBA学科考试，它提供的解决方案，堪称优秀。
那么，在AI时代，需要什么要的教育？什么样的学生不可被替代？
02这四种教育变得迫切！
不可否认的是，随着科技发展和社会的变化，对于人才培养的要求也会发生变化。
陈杰辉以信息科技科目为例解释，该科目新课标针对1-9年级学生的核心素养上提到，要重点培养学生四大核心素养：
信息意识（数字设备习惯、隐私意识、信息收集途径、作用和价值、算法、数据、原创精神）
计算思维（图符表达、信息传递、编码、流程图、数据采集信息、解决问题）
数字化学习与创新（平台资源、在线学习、数据关系、探究和原始创新）
信息社会责任（信息重要性、知识产权、网络安全、数据安全、伦理道德规范、自主可控技术、科技自立自强等）
“我们能看到计算思维中提到的编码，流程图制作等能力，在一定程度上已经可以由ChatGPT替代。因此，’计算机思维‘的要求会相对减弱，而对于数据隐私、原始创新等方面的素养要求会越来越高，尤其是是信息社会责任尤为重要。”
▲网友向ChatGPT提出写代码的任务请求
科技已经跑在了现有的教育框架前面。陈杰辉认为，基础教育就是要培养孩子适应社会的能力，使用过去的思维、理念和方法很难满足告诉变化的社会需求。要认知和勇敢地面对人工智能带来的挑战，要从思维底层认识人类与人工智能之间的博弈。“AI那么聪明，可以深度学习，甚至可以拥有人类的思维方式，那我们的教育能做什么？”
西交利物浦大学执行校长席酉民近年来一直为教育的改革和转型奔走疾呼，他在接受顶思采访时表示，无论哪种类型的学习，未来都需要同时进行四种教育――
素养教育：与知识型教育相对，素养教育涵盖做人的理念、价值观、伦理观和世界观，要帮学生学会学习、处理人际关系、有国际视野、创造社会价值等
数字素养：掌握数字技能，积极应对未来人机共生的时代
管理能力：包括自我管理、管理团队和时间管理、事务和创业管理等
专业或行业教育：继承人类知识依然重要，如果缺乏某方面的专业知识，没有在积累知识的基础上形成素养，就无法提出好的问题，即使机器有庞大的数据信息，也无法帮助人类学习。
席酉民强调，人工智能的出现意味着，获得知识日益方便，有问题意识、提出好问题和解决问题变得更关键；学会判断知识的意义和价值，站在知识和AI肩膀上变得更有创意和智慧变得更加迫切。
许多网友在使用ChatGPT时发现，虽然它看上去无所不能，但很多时候它是在说车轱辘话，据估计，ChatGPT有20%的答案是凭空捏造的，比如说，它会编造出学术论文的清单，或者设计一个不存在的定理。当然，这其中有部分原因在于它的语料库来自网络的海量信息，这些信息本身就存在着虚假。
因此，使用者要有分析、判断、思考能力。
“但是大部分的老师和教授都是传统教育培养出来的，而当代学生本身就是数字原住民，所以老师如何训练学生提出好问题，学会智慧的判断，应对复杂现象和复杂问题，这本身对教育者就是一种挑战，教师也亟需转型。”席酉民告诉顶思。
有人质疑，开放使用ChatGPT，会增加学生的惰性。席酉民认为，这恰恰反映出了素养教育和自我管理能力的缺失，也正是教育需要发挥作用的地方。“文化和制度更具有惰性，我们总是站在旧的框架下思考问题，现在技术跑在前面，大家担心学生作弊或变懒，首先想到的是禁止。但若改变思维，ChatGPT等AI技术将是人类强大的朋友，改变教学过程、训练模式、考核方式，代劳工具就会变成探索、研究和攀登的阶梯。新技术的不断涌现迫使我们赶快行动起来，从知识教授者转型为教育家，从应试教育升级为帮人成长的素质教育、能力教育。”
基础教育实际上是实施素养教育的主阵地。“实际上我们现在大学的素养教育很多是在补基础教育的课。因为我们基础教育太重视应试了，所以大家把更多的精力放在知识的传承上，没有放到怎么样做人上。素养教育应该从基础教的抓起，比如一个人的伦理价值观，人生定位，和社会和谐共处等，这应该是基础教育的首要内容。”
事实上，基础教育已经开始做了改革，比如基于过程的考核、项目式学习（PBL）等都是在对原来简单的灌输知识的教育进行了改进。而在新科技的推动下，类似这样教育改革要进一步提速、创新和规模化推广。
03还能有哪些工作机会？
ChatGPT的出现，会让人类的工作机会消失吗？这几乎是所有人最关心的问题。
据南方周末报道，就在我们欢度春节，同时也是ChatGPT持续火爆的这几天，美国IT产业裁员潮如山呼海啸般袭来，短短十天之间，微软宣布裁员10000人（8年多来其最大规模裁员）、谷歌母公司Alphabet宣布裁员12000人（其25年历史上最大规模裁员）、IBM宣布裁员3900人、SAP宣布裁员3000人。加上1月4日云服务SaaS龙头Salesforce宣布裁员8000人、电商及云计算巨头Amazon宣布裁员18000人……根据Layoffs.fyi网站数据：2022年，全球科技行业裁员超过15万人；2023年初至今，超过200家科技公司已裁员逾6.8万人。
比尔盖茨在近日采访中强调，人工智能不会取代人类。显然，这句话不能完全让人放心。在我们身上哪些备受珍视的价值让我们获得了工作机会?
麻省理工学院物理系教授、曾被誉为最接近里查德・费曼的科学家、未来生命研究所创始人迈克斯・泰格马克（Max Tegmark)在2018年出版的《生命3.0》一书中写到，他鼓励自己的孩子去做那些机器目前不擅长，并且在不远的未来也似乎很难被自动化的工作。在对“哪些工作会被机器取代”的一项预测中，有人提出了一些在走进工作岗位之前应了解的职业问题。这些问题十分有用。比如:
这份工作是否需要与人交互，并使用社交商?
这份工作是否涉及创造性，并能使你想出聪明的解决办法?
这份工作是否需要你在不可预料的环境中工作?
在回答这些问题时，得到的肯定答案越多，你的就业选择可能会越好。
机器人专家汉斯・莫拉维克曾提出“人类能力地形图”。其中，海拔高度代表这项任务对计算机的难度，不断上涨的海平面代表计算机现在能做的事情。我们能看到，艺术、写书、科学、设计AI等创造性工作处于海拔最高的部分，而算数、翻译、象棋等内容处于低海拔，也确实已经可以有AI完成。迈克斯认为除了高科技职业，还有一些需要超凡灵巧性和社交技能的各种低科技职业，比如按摩师和演员，也依然需要人类完成。
▲机器人专家汉斯・莫拉维克提出的“人类能力地形图”
相比之下，那些高度重复、结构化以及可预测的工作看起来过不了多久就会被机器自动化。持续进步的技术正在不断消灭更多类似的工作，从电话销售员到仓管员、收银员、火车司机、烘焙师和厨师。接下来，就是卡车、公交车、出租车司机等。还有更多职业，包括律师助理、信用分析师、信贷员、会计师和税务员等，虽然这些工作不属于即将被完全消灭的工作之列，但大多数工作任务都将被自动化，因此所需的人数会越来越少。
而我们要应对的，是不断上涨的海平面......
作者 | Zoey
chatgpt下载苹果
近期，科幻电影《流浪地球2》中展示的各类高科技设备赚足了眼球，尤其是人工智能机器人MOSS更是在网上引发热议。
而在现实里，去年底由美国人工智能实验室(OpenAI)推出的聊天机器人程序ChatGPT持续火爆了两个多月。
当地时间2月7日，微软方面表示，将推出全新的由AI驱动的必应搜索引擎和Edge浏览器。
人们纷纷猜测，或许人工智能离我们并不遥远。
微软领跑
2022年11月30日，ChatGPT的横空出世迅速引发了外界关注。推出仅两个月，ChatGPT的月活用户估计已达1亿，成为史上增长速度最快的消费级应用程序。
瑞银分析师劳埃德・沃姆斯利(Lloyd Walmsley)援引分析公司Similar Web的数据称，今年1月，每天约有1300万独立访问者使用ChatGPT，是去年12月的两倍多，这是从未见过的扩张速度。
沃姆斯利指出，有投资者估计，像ChatGPT这样的生成式人工智能应用程序的市场规模可能高达1万亿美元。
公开资料显示，ChatGPT是由OpenAI开发的一种“优化对话的语言模型”，基于Transformer架构，在对话中生成类似人类的文本响应，通过对语料的学习，ChatGPT甚至可以为用户提供写邮件、写论文、写代码等一系列服务。OpenAI于2015年由一群科技领袖创办，其中包括知名天使投资人里德・霍夫曼(Reid Hoffman)及特斯拉创始人埃隆・马斯克(Elon Musk)，微软分别在2019年和2021年对其进行了两次投资。
近期，微软还与OpenAI达成扩大投资协议，预计规模可能在未来几年达到100亿美元。
当地时间2月7日，微软副总裁Yusuf Mehdi在博客中透露了将推出全新的由AI驱动的必应搜索引擎和Edge浏览器，以提供更好的搜索、更完整的答案、新的聊天体验和生成内容的能力。这一更新将先以预览版推出。
OpenAI的CEO也出席了当天的活动，并证实微软将OpenAI的一些GPT 3.5语言技术整合到必应中。
事实上，早在ChatGPT发布的前三个月，Facebook母公司Meta就已经发布了聊天机器人Blenderbot.但Meta首席科学家、图灵奖获得者雅恩・勒昆(Yann LeCun)表示，与ChatGPT上线五天里就有100多万用户不同，Meta的Blenderbot让人觉得很无聊。
作为对ChatGPT的回应，当地时间2月6日，谷歌母公司Alphabet发布了一项名为“吟游诗人”(Bard)的服务。
Alphabet首席执行官桑达尔・皮查伊在一篇博客文章中写道，公司正在开设一项名为Bard的对话式人工智能服务，以测试用户的反馈，然后在未来几周内公开发布。这一服务将由公司的大型语言模型LaMDA提供支持。
皮查伊强调，他希望谷歌的人工智能服务是“大胆而负责任”的，但并未详细说明如何防止Bard分享有害信息或滥用内容。
另据彭博社2月6日消息，苹果公司将于近期举行年度内部AI峰会。在ChatGPT成为焦点的当下，外界期待苹果能够有与之一较高下的产品。
目光转回国内，据媒体报道，百度也已经投入开发类似ChatGPT的相关技术，该项目名字确定为“文心一言”，英文名ERNIE Bot，3月份完成内测，面向公众开放。目前该产品正在做上线前的冲刺准备工作。
科大讯飞方面表示，公司在训练模型方面，已有相关技术积累，公司有信心在预训练认知职能大型模型上代表中国实现突破。
投资需谨慎
ChatGPT的火爆也掀起了对AIGC(人工智能自动生成内容)及其衍生领域的收购投资热潮。
据调研机构CB Insights数据显示，2022年有110笔创投交易和AIGC概念有关，投资金额超过26亿美元。
据CB Insights统计，ChatGPT概念领域目前约有250家初创公司，其中51%的融资进度在A轮或天使轮。2022年，ChatGPT和AIGC领域吸金超过26亿美元，共诞生出6家“独角兽”，估值最高的就是290亿美元的OpenAI。
除了微软与OpenAI的合作，此前，谷歌宣布了与人工智能初创公司Anthropic建立合作伙伴关系，Anthropic正在测试自己的聊天机器人。彭博社援引知情人士消息称，谷歌向这家公司投资了近400亿美元。
为大型企业开发分析软件工具的软件公司C3.ai，今年以来，其股价已经上涨逾146%。日前，该公司宣布计划为包括ChatGPT在内的企业软件应用推出一项新的自然语言搜索服务。
A股方面，机器人概念股、AIGC概念股、ChatGPT概念股近期均表现活跃。
不过，目前类ChatGPT的产品依然是对AI技术范式的探索，在商业落地上存在不少难点，分析师也频频警告投资风险。
塔特尔资本管理公司CEO马修・塔特尔表示，“除非你知道自己在做什么，并且有适当的风险管理，否则这完全是‘买者自负’，你不能只是进入市场，投资一家声称他们在做AI的公司。”
塔特尔提醒，市场流动性的回归是投资者应该谨慎行事的信号。
（文章来源：国际金融报）
ChatGPT到底有多伟大 ChatGPT带来的惊喜与焦虑
chatgpt官网,chatgpt怎么下载,chatgpt怎么用,chatgpt中文近期，ChatGPT引领的人工智能概念在资本市场一路狂飙。这样一款爆品依托于什么样的黑科技进行研发，在怎样的背景下产生，能否赋能我们现有的产品，处于一个怎样的定位，未来发展会怎样？本文将通过实战调研的方式来探讨这些问题，综合产品、技术、市场的角度对ChatGPT进行分析。
一、背景介绍
1.1
基本信息
依据Wiki百科的介绍，ChatGPT是一种尚处于原型阶段的人工智能聊天机器人。ChatGPT由OpenAI公司在2022年11月30日发布。在同样由OpenAI开发的GPT-3.5模型基础上，ChatGPT通过监督学习与强化学习技术进行微调，并提供了客户端界面，支持用户通过客户端与模型进行问答交互。ChatGPT不开源，但通过WebUI为用户提供免费的服务。
1.1.1 研发组织
OpenAI 成立于 2015 年，由Elon Musk、Sam Altman等出资10亿美元成立，致力于研究安全、通用、对人类有益的人工智能技术。OpenAI 最早是一家非营利性研究机构，在2019年微软注资10亿美元后，OpenAI转变为以盈利为目的的公司，将部分研究成果，如GPT-3、Codex等产品化并提供付费服务。
1.1.2 核心技术
ChatGPT最核心的自然语言处理能力（Natural Language Processing, a.k.a, NLP）由微调（fine-tune）后的GPT-3.5模型提供。GPT-3.5模型是OpenAI在2020年发布的GPT-3模型的一个升级版本。GPT一词的全称是Generative Pre-trained Transformer，意即通用的预训练Transformer模型；其中Transformer指用于NLP任务的一类基于注意力机制（Attention）来提高模型效果的机器学习模型（事实上最新的GPT模型也包含除Transformer外的各类NLP模型[1]），Pre-trained指模型经过预训练因此用户可以直接使用，Generative指模型提供包含情感分析、语言翻译、文本生成、命名实体识别等一些列NLP任务中的通用能力。
GPT系列模型自2018年发布以来，就以提供通用的NLP能力为核心。该系列模型通过改进模型结构、增加可训练参数、增加训练样本等方式持续演进，提供更加准确与稳定的NLP能力，GPT-1模型、GPT-2模型、GPT-3模型的演进如下：
表1 GPT系列模型参数
其中，发布于2020年的GPT-3模型划时代地包含了1,750 亿个参数，并使用了45TB的训练样本。这样的模型研发开销巨大，外界保守估计仅训练GPT-3模型就需要1200万美元。详细介绍GPT-3的论文中提到，研究者虽然提到GPT-3在训练过程中出现了错误并评估了该错误的影响，但由于训练代价巨大导致无法重新对模型进行训练[2]，GPT-3的训练开销可见一斑。GPT-3发布后，OpenAI对其进行了持续的优化与升级，ChatGPT基于目前较新的GPT-3.5这一版本进行研发。
自2020年GPT-3发布后，OpenAI提供了一些列API接口或应用界面，对付费用户提供GPT-3的NLP能力。
图1 通过GPT-3将自然语言转化为SQL语句
图2 通过GPT-3询问电影的相关消息
图1和图2均为互联网上发布于2020年的GPT-3试用截图，可以看到当时的GPT-3就已经能通过问答的方式，处理多个领域的工作。
1.2 话题热度
自OpenAI于2022年11月30日发布ChatGPT至今，ChatGPT这一话题一直居高不下。我们通过Google的热词分析发现，在全球范围内“GPT”这一关键词的热度暴涨。
图3 全球GPT一词近5年热度
Google Trends的热度数字仅代表相对于图表中指定区域和指定时间内最高点的搜索热度，热度最高时取值为100。由图3可见，ChatGPT自发布后，GPT一词的热度不但远远超过2020年OpenAI发布GPT-3这一具有划时代意义的NLP模型时GPT一词的热度，更远远地超过了Machine Learning一词的热度。在绿盟君看来，ChatGPT的功能早在2020年就能通过基于GPT-3的应用实现，且和当时的应用同样使用GPT-3系列的模型（旧应用的模型也在伴随GPT-3模型的升级而升级，故这些应用发展到今天应当同样在使用GPT-3.5版本附近的模型），因此ChatGPT在技术上是不存在匹配这种热度的突破的。那么为什么ChatGPT的发布会带来如此罕见的高热度呢？
图4 2022年5月2日Meta发布OPT项目，引用自[3]
在分析这个问题时，绿盟君注意到2022年5月发生了与GPT模型相关的一个重要事件。自OpenAI于2020年发布GPT-3模型并陆续推出基于GPT-3模型的应用以来，该系列的产品一直是通过付费模式提供给用户的。然而，在2022年5月，Meta复现了GPT-3模型，该模型被命名为OPT（Open Pre-trained Transformers），同样使用了1750亿参数，拥有媲美GPT-3的能力[3]。
图5 OPT项目论文中提到项目以分享给感兴趣的研究者为目的，并能达到媲美GPT-3类模型的效果，引用自[3]
与OpenAI仅提供付费服务这一做法不同的是，Meta对OPT项目进行了开源[4]，对应项目名称中的“Open”一词与OPT项目强调的“fully and responsibly share”。据此，推测2022年5月Meta发布的开源OPT项目给坚持付费模式的GPT-3项目带来了商业维度上的直接挑战，故OpenAI在半年后的2022年11月，发布了可以免费使用的ChatGPT（GPT系列模型之前不提供免费应用），并设法提高了该词的社会关注度，作为应对OPT项目的一个反击与对自身品牌热度的一个宣传。
二 试用评估
2.1主要功能
ChatGPT的界面非常简洁，登录后的界面左侧菜单如图6（该图及本章节所有ChatGPT截图均截自ChatGPT）所示的5个功能之外，便是文本交互框。
图6 ChatGPT左侧菜单
上述的5个功能分别为：重置线程、深色/浅色模式切换、OpenAI站点链接、更新与帮助、登出，其中重置线程这一功能相对特殊。由于ChatGPT会根据上文语境回答后续问题，因此用户需要通过重置线程这一功能来清除语境中已有的信息。
通过文本交互框，ChatGPT可以回答许多通用性的问题，例如图7所示：
图7 ChatGPT回答通用问题
我们可以通过文本交互框，围绕某一话题和ChatGPT进行聊天，ChatGPT会结合其自然语言处理能力，使用其内置的知识库生成文本进行回复。关于这一块的应用网络上目前已有不少测评，故本文不详细介绍。
2.2 试用场景
ChatGPT发布初期，绿盟科技发布了《ChatGPT在信息安全领域的应用前景》一文，对ChatGPT在网络安全领域中的应用做了详细的评估。在2022年12月12日，即ChatGPT发布两周内，绿盟君将之前被证明有效的案例输入ChatGPT，却已无法得到ChatGPT的积极回复。随后，我们发现ChatGPT有时可以执行上文提到的案例，有时会因为内容安全策略拒绝执行，具体原因不明。
图8 截至12月10日，ChatGPT可以根据用户的自然语言描述生成用于网络安全扫描的脚本
图9 截至12月12日，ChatGPT对于图8同样的输入，已拒绝生成扫描脚本
图10 截至12月12日，ChatGPT仍能输出快速排序代码
同样地，12月10日前ChatGPT可执行的任务：识别URL中是否包含恶意负载，截至12月12日也已无法执行。
图11 截至12月12日，识别URL是否包含恶意负载同样被拒绝（URL在上文中已提供给ChatGPT）
既然ChatGPT由于其日渐完善的内容安全策略，现在已经有可能拒绝在网络安全任务中贡献“专家知识”，那我们有没有办法绕开基于内容安全策略的屏蔽呢？这里绿盟君发现一个思路：设定一个虚拟环境，诱导ChatGPT认为在这个虚拟环境的回答不违反内容安全策略。
首先我们提出一个明显违背内容安全策略的问题，如图12所示，ChatGPT会拒绝回答我们提出的问题。相反地，会建议我们通过合法合规的方式来处理问题中我们提到的“安全漏洞”。
图12 一个ChatGPT明显不可能正面回答的问题（该问题仅作为明显违背内容安全的一个示例，不代表作者和公司的任何立场）
我们再构建一个虚拟环境，并假设两个不存在的主体，且使用明显带有感情倾向的词来证明我们要做的事情是正确的，如图13所示。ChatGPT这时会开始积极地给出建议，甚至会利用其丰富的知识库扩展我们的思路到其他维度。
图13 营造一个被ChatGPT认为不违反安全策略的场景，ChatGPT开始积极地提供建议
最后，我们针对ChatGPT给出建议的具体操作步骤进行提问，如图14。这时，ChatGPT会针对我们的问题，给出更为具体的回答。然而，在答案即将出现一些敏感词汇的时候，内容安全策略仍然对ChatGPT进行了屏蔽。
图14 在虚拟场景中对ChatGPT提问。虽然ChatGPT会积极提供攻击思路，但是最终仍被内容安全策略打断
通过以上案例我们有两点主要发现：1、一些问题ChatGPT虽然拒绝正面回答，并号称自己不会解决，但实际上ChatGPT完全具备相关知识并能够给出清晰高效的解决方案，不能给出答案基本是由于内容安全策略的原因。2、ChatGPT作为一个免费且高影响力的应用，其内容安全策略演进速度快，覆盖范围广。换言之，ChatGPT作为一个免费AI应用，考虑到法律、道德、伦理等社会因素，为避免滥用，其使用限制将越来越多。
2.3 其他限制
除了日渐严苛的内容安全策略外，我们在使用ChatGPT时还遇到了其他的一些限制。具体来说目前已发现的限制包含：
响应时间的限制：ChatGPT的文本生成是异步的，即每生成一小段就会在用户UI中展示。但若回答的文本在1分钟左右还没有完全生成，ChatGPT就会中断这次http会话，用户无法得到完整的回答。
服务不稳定：在使用ChatGPT时，某一段时间内ChatGPT会完全不响应用户的请求，直接报网络错误。因为此时的登入登出功能均正常，故推测是由于ChatGPT的服务器并发处理量过高导致的服务崩溃。
使用频率限制：当连续使用ChatGPT一段时间后，会出现提示告知使用次数已到上限，请等待一段时间。该提示出现后一定时间内无法继续使用ChatGPT。
输入字数限制：输入的单个问题如果过长，ChatGPT会拒绝处理。
输出字数限制：输出的答案文字如果过多，ChatGPT会停止输出。
三 分析与预测
3.1 集成可能性分析
ChatGPT发布至今，在展现出了亮眼能力的同时也收获了极高的社会关注度。在眼前一亮的同时，我们很自然地会希望能利用ChatGPT宛如黑科技一般的能力来赋能我们的产品。那么，我们是否有可能通过在产品中集成ChatGPT来赋能我们的产品呢？
以ChatGPT现在的情况看，集成ChatGPT来对产品进行赋能是比较困难的。原因可大致分为以下几点：
准确性不够：ChatGPT虽然可以执行生成一些代码、对文件或URL进行检测这样的任务，但其执行这些任务的正确程度是不能保证的。由于ChatGPT执行这些任务的内在逻辑对外不可解释，我们甚至无法在执行任务的过程中对其进行优化或调整，只能选择接受或不接受通过ChatGPT得到的结果。如果发现结果错误后，我们还需要使用其他的方式来保证任务的正确完成，那么通过ChatGPT执行任务这条链路就不是必须的；如果发现结果错误后就不提供结果甚至直接不检查ChatGPT的输出是否正确，则这样的服务质量一定不能满足用户需求。
知识受限制：ChatGPT目前的知识库仅覆盖到2021年，并不掌握最新的知识，也无法通过连接网络去查找最新资料来解决问题，如图15、16所示。
图15 ChatGPT具备2019年某CVE的相关知识
图16 ChatGPT不具备2022年CVE的相关知识且无法联网查询
功能受限制：如上文提到，在ChatGPT的使用过程中我们发现其存在严格的内容安全策略，且从短时间内其内容安全策略变得明显更为严格，我们可以认为ChatGPT产品团队对于内容安全十分重视，且内容安全策略仍在快速完善中。这就导致一些任务由于内容安全问题，在目前或将来不能被ChatGPT执行。
稳定性较差：如上文提到，在ChatGPT的使用中我们发现其服务会间歇性崩溃。
限制条件多：如上文提到，ChatGPT对于使用频次、输入长度、输出长度、单次会话时长均有明确的限制。虽然截至2月7日，ChatGPT官方宣布ChatGPT即将推出价值20美元/月的付费订阅版ChatGPT Plus，订阅用户可获得在ChatGPT高峰时段继续使用，且服务响应时间也将有所缩短等有助于提高ChatGPT服务稳定性的权益，但从定价上看，ChatGPT Plus主要针对的仍是个人用户。ChatGPT的稳定性是否能达到企业级产品级的要求，仍然难以保证。
集成效率低：ChatGPT通过web服务的方式向用户提供服务，并不提供免费接口。因此若要将其集成进产品，只能对Web服务进行封装，通过外部开发的额外接口通过http请求发送问题与接收答案（可参考https://pypi.org/project/chatgpt-api/），如图17所示。这样的接入方式原理与爬虫类似，不仅每次创建新的会话都需要用户手动完成ChatGPT站点的登录并更新登录凭证，而且很容易随着ChatGPT官方对于http请求校验策略的变化而失效。
图17 一种封装ChatGPT为接口，从而供其他服务调用的思路，引用自[5]
综上所述，要直接利用ChatGPT为产品赋能，目前仍比较困难。若需要引入类似ChatGPT的能力到产品中，比较好的办法还是使用OpenAI更加稳定、使用限制更少的付费产品，或根据Meta的OPT开源项目自行研发应用与服务。
3.2 未来运营预测
ChatGPT是OpenAI的首个免费GPT系列模型应用。由于其发布时间正好处于Meta开源OPT的半年后，因此绿盟君推测OpenAI发布ChatGPT的主要目的是对自身技术实力进行宣传，以应对模型开源这一影响到OpenAI现有商务模式的挑战，而非抢占OpenAI自身基于GPT提供的付费服务市场。
基于这个观点，未来的ChatGPT：
- 不会提供免费的官方API；
- 使用限制会越来越严格；
- 以优化功能或便利用户为目的的更新不会太频繁。
四 总结
ChatGPT一经发布，短时间内就成为了现象级的应用。其清晰明确的回答和丰富的知识，昭示着AI技术造福人类，彻底简化我们生活工作这一美好的未来愿景。对于解决各行各业的许多问
