教育是不可能靠屏蔽ChatGPT维持下去的。

文 / 巴九灵（微信公众号：吴晓波频道）

当ChatGPT引爆讨论时，人们发现世界已经变了，欢乐和恐惧并存。

ChatGPT将改变和颠覆许多行业，其中教育行业首当其冲。

最直接的是，学生开始用ChatGPT完成作业。北美的一项调查显示，美国学生有超过一半用过ChatGPT完成作业，而且ChatGPT做作业和考试的能力还不差。

2月9日，美国医疗保健初创企业安西布尔健康公司的研究人员发表的论文称，在回答美国执业医师资格考试的考题时，ChatGPT的得分率在52.4%至75%之间（60分即为通过考试）。此前，ChatGPT还通过了美国的司法考试以及商学院考试。

为此，美国一些地区的学校不得不全面禁止了ChatGPT，还有人开发了专门的软件来查验学生递交的文本作业是否是由AI完成的。

ChatGPT运用得当就是一个工具，但运用不得当，很容易被作为“代替思考”“抄作业”的工具，以至于教育本身的目的无法达成。

那么，中国教育界是如何看待ChatGPT这样的工具的？目前已经掀起了一轮热议，甚至有教育专家指出，面对以ChatGPT为代表的人工智能的到来，以知识传递为核心的教育模式更是被逼入墙角。

ChatGPT冲击传统教育

2019年12月，OECD公布的2018年国际学生评估项目（PISA2018）测试结果显示，在来自79个国家和地区约60万学生参与的测试中，中国四省市（北京、上海、江苏、浙江）作为一个整体，取得全部3项科目（阅读、数学、科学）No.1的好成绩。

换言之，中国学生是全世界公认的最会考试的学生。这也是学生、老师、家长三方用绝对时间的投入所换来的。

中国学生掌握的知识量大、面广，基础知识扎实，这在过去算得上是优势，但在今天，似乎正面临着尴尬的境地。

早在2017年，国务院参事、清华大学经济管理学院院长钱颖一就指出：中国教育的最大问题，是我们对教育从认知到实践都存在一种系统性的偏差，即我们把教育等同于知识，并局限在知识上。……知识就几乎成了教育的全部内容。

他提出了担忧：“一个很可能发生的情况是：未来的人工智能会让我们的教育制度下培养学生的优势荡然无存。”

关于这一点，在以ChatGPT为代表的AI冲击教育行业的今天，几乎达成共识。

比如，近日，上海市教育委员会副主任倪闽景撰文指出：“人工智能、元宇宙、ChatGPT等都是云计算、大数据、5G、区块链等新技术的应用，不久的将来还会有匪夷所思的技术被发明出来，人类进入了物质世界、精神世界、数字世界协同进化的新世界。就教育行为本身而言，以知识传递为核心的教育模式更是被逼入墙角。”

说到底，过去我们的教育以分数为标准衡量，依靠的是学生投入到刷题、背诵的时间，考验的是他们的运算能力和大脑肌肉记忆。

而今天，这些能力将轻松被ChatGPT替代，ChatGPT不仅会写作文，做算术题，回答论述题，更可怕的是，它是一个快速进化中的数字大脑。

对此，投资人、艺圆艺术CEO袁希也表达了担忧――我们的教育已经脱离实际很久了，而ChatGPT到来，意味着我们的教育面临着史无前例的一次从供给侧出现重大变革需求。

“无论是背诵、记忆、运算速度，最终都可能完全被AI所取代，而且在ChatGPT这类应用的底层技术中，这些是最微不足道的能力，当ChatGPT已经在用海量的信息去筛选、分析、总结了，而我们还在最底层的地方徘徊，那么我们培养出来的人才未来如何去应对跟 AI 的竞争？”

重新思考：

什么样的教育才是当下迫切需要的？

面对ChatGPT的冲击，如何让教育超越知识层面，培养出能驾驭AI，与AI协作的人才？

综合多位教育领域的专家学者、从业者的观点，小巴简单总结为以下三个方面：

1. 培养孩子的创造性思维

创造性思维的重要性不必再强调，不过值得探讨的是：当知识变得唾手可得，是否意味着背诵和掌握知识变得无足轻重？

恐怕也不是。

上海市宝山区教育局局长张治撰文指出：知识的记忆虽然艰苦而枯燥，一旦形成，可以大幅度提升大脑机械反应的速度，而不是什么都依赖检索临时建构，从而提升脑的智慧。

简而言之，知识积累是打地基，过去的教育将学知识视作目的和全部，未来学知识将成为一个过程，目的在于后续的创造性思维。

对此，钱颖一则是这样分析的：“我在教学实践中强烈地感受到，创造性思维的来源之一是好奇心和想象力。”他还得出了一个公式：创造性思维=知识+好奇心和想象力。

钱颖一表示，知识未必越多越好，而且存在这样一个悖论：更多教育一方面有助于增加知识而提高创造性，另一方面又因压抑好奇心和想象力而减少创造性。

知识是基石，关键是哪些知识才是最根本的，需要被重新筛选和定义。

该怎么办呢？

袁希结合他的思考提出了两个视角：第一，从过去的背诵公式，转向未来的探究原理。

当下的教育是把原理总结为一个简单的公式，学生背诵即可，剩余时间全部用来应用公式，提升运算的速度和准确性，而这恰恰是AI可以秒完成的事。

“过去这些原理是如何推导出来的，推导原理的人用了什么方法，是在何种条件下创造了重大发明？要把这些东西传递给孩子，孩子未来才有机会推导出更多新原理、新规律，继而创造出更多的新技术、新行业、新产业，来提供就业机会、造福人类。”

第二，让学生学习更多的跨学科知识。因为涉猎面越广，知识之间的交融程度越高，学生的创新能力就越强。

2. 学科设置更人性化、灵活

21世纪教育研究院院长熊丙奇分析，当前中国的教育体系是在用一个标准培养学生。

以数学为例，在中国的中考和高考中都属于非常核心的科目。而在美国并非如此，高中阶段实行学分制教学，申请大学，选择人文社会科学专业的学生，就无须学习难度较高的数学。

虽然整体看来，美国学生的平均数学水平稍低，但差异在于，美国那些有数学特长的学生，是对数学真有兴趣，往往在进入大学之后将继续把数学作为研究方向。而在中国，数学学得好的学生，基本以竞赛、升学为目标，考入大学后便不再继续研究数学。

“OpenAI，请开源你的模型！AI编的故事，离骗人还远着呢。” ｜ 严肃的催更文

栗子 编译整理量子位 出品 | 公众号 QbitAI

催更，他是认真的。

眼看着GPT-2编故事的技能就要冲出天际，OpenAI直说着不敢开源完整模型。

对此，多数小伙伴选取了嘲讽的语调，激励团队早日开源：不如改名ClosedAI算了。

不过，来自斯坦福的Hugh Zhang，使出了完全不同的催更技巧。

对于“这么危险，不能开源”的说法，这位NLP研究人员，提出了理由丰满的反对。

首先，他觉得危险的技术分两种：一种是破坏性的，一种是欺骗性的。应该分开讨论。

第一种，如果是子弹，不会因为你明白它的威力，就躲着你走。第二种，如果是假消息，你只要知道PS，就不会相信普京骑熊。

网上观摩一下，普京骑什么的都有。

Hugh还认为，GPT-2远远谈不上危险，且开源比不开源更安全。他事无巨细的论述，为GPT-2引来了又一波热烈的讨论。

我们就来观察一下，Hugh为什么会这样讲：

1825年，相机诞生，大家都认为这是记录历史的一种公正的方式。

不过，人类很快就发现照片可以修改。

1988年，Photoshop发布，那时照片修改早已不算罕见，但大众还是天然地担心：人人都能轻易编辑图像的话，技术很可能被滥用。

如今30年过去，Photoshop变成了顺理成章的存在，社会也并没有因此受到什么严重的伤害。

为什么会这样？

因为，大家都知道Photoshop是什么。

诚然，近年来语音、文本和图像生成技术的高歌猛进，可能引发某种恐惧，让一部分人感觉一场大难就要降临了。

但更有可能的是，这些技术的发展也像Photoshop走过的路那样：社会大众会去学习，然后变得更有警惕性，更懂得怀疑。

那么，具体到GPT-2身上，又是怎样的情况？

GPT-2是个文本生成模型，OpenAI就用它生成的几个故事，向公众说明这AI是个危险的存在。

最著名的作品可能就是发现独角兽的故事了。

人类给AI的两句开头长这样：

科学家们有个令人震惊的发现，在安第斯山脉一个偏远且没被开发过的山谷里，生活着一群独角兽。更加让人讶异的是，这些独角兽说着完美的英文。

AI续写的第一段长这样：

这些生物有着独特的角，科学家们就以此为它们命名，叫Ovid’s Unicorn。长着四只角的银白色生物，在这之前并不为科学界所知。

(故事全文，请点这里)

在独角兽的故事里，需要注意两件事：

第一，我们看到的故事，是AI写了10次之后，人类选出的最好的一次结果。第二，人类给的开头，其实也是精挑细选的。

具体讲讲第二点，为什么选了“说英语的独角兽”这样的设定？

因为，奇怪的设定可以掩饰AI的瑕疵。如此设定之下，就算AI写的句子再不切实际，读者都会觉得很合适。

以及，就算不考虑这一点，独角兽的故事还是有不少缺陷：

首先，第一句的角 (Horn) 用的是单数，表示这种生物只有一只角，也吻合了独角兽 (Unicorn) 名字的含义；可第二句却改口说有四只角。

许多同学都发现了这个bug。

还有，人类写的开头提到，独角兽的发现是近期的新闻；而AI写的第三句话，却说这次大发现，是两个世纪以前的事。

你可能问，我们这样挑错，是不是太苛刻了？

并不，这其实反映出深度学习模型一个很重要的问题：

AI没有理解，它生成的文本到底是什么意思。

其实，要生成“乍一看没问题”的句子，并不是很难。

比如，后现代主义论文生成器 (Postmodernist Essay Generator) ，以及数学论文生成器 (Mathgen) ，都能写出语法没错的句子，但语义上可能不起任何作用。

反正，给不懂数学的人看，这两个公式都像天书：

生成句子容易，上下文保持连贯就难了。

客观地说，GPT-2生成的作品，还是比之前所有的模型要好一大截；不过，和人类逻辑的一致性相比，它还差得很远。

GPT-2写出的那些故事，没有哪篇是能直接用来骗人的。

另外，也没有证据表明，15亿参数的GPT-2，比现在开源的缩小版更优秀。到目前为止，OpenAI官方并没有发布过GPT-2与任何现有模型的性能对比。所以，开源小模型，不开源完整模型，理由并不充分。

以及，OpenAI没有微调，所以也没办法在任何下游任务 (如概括、如翻译) 上，直接对比GPT-2和其他模型的表现。

有些人会认为，没必要开源完整版，现在这个1.17亿参数的缩小版就够了。其实这是有问题的。

AI研究的爆发，一部分归功于开源：研究人员直接在现有模型基础上迭代，省去了重造轮子的时间。

作为现今最有影响力的AI研究机构之一，OpenAI拥有强大的开源传统，这也鼓励了其他研究团队开源自己的成果。

如果OpenAI的新政策反其道而行，许多其他研究人员也可能效仿。AI领域的开源文化，可能就会受到冲击，每个人都会有损失。

另外，开源也有利于把技术发展的消息，向领域之外的公众进行传播。

举个近期的例子。

英伟达开源了StyleGAN之后，用这个算法生成假脸的网站thispersondoesnotexist.com，速速成为了大众讨论的主角：

刷新一次，生成一张脸。要让普通人感受到AI技术的发展，可能没有比这更简单的体验了。

再举个例子。

世界上第一幅参加艺术品拍卖的AI画作，也是用开源算法生成的。

这幅名叫Edmond de Belamy的作品，在佳士得拍出约合300万人民币的价格，还引起了不小的争论。

就像前文说的，普通人越了解技术发展的程度，也就越有能力辨别AI生成物，越能避免被虚假消息淹没的灾难。

而如果OpenAI真的认为，这是一项非常危险的欺骗性技术，可以在发布论文之后，多等一段时日再开源。

这样，公众便有时间去了解它的生成效果有多逼真，做好准备。

不过，在Hugh的催更文发酵的同时，OpenAI也宣布了一项斩钉截铁的举措：

为了部落AI技术的安全，我们需要社会科学领域的贤才，现在已经开始招人啦！

这是一则认真的招聘启事，申请入口已开放，还附以OpenAI的一篇论文和一篇博客，以示决心。

核心观点就是：AI安全，需要社会科学家。

如果方针是安全为上，OpenAI谨慎的开源操作，大概也不会止于这一次了。

Hugh Zhang催更原文：

社会科学家投简历请至：

探讨AI安全的论文：

GPT-2编的更多故事：

― 完 ―

量子位 ・ QbitAI

?'?' ? 追踪AI技术和产品新动态

戳右上角「+关注」获取最新资讯JJ

如果喜欢，请分享or点赞吧~比心?

azure open ai azure data studio

更}s的安全性案例需要 Azure 角色型存取控制 (Azure RBAC)。 本文件涵w如何使用 Azure Active Directory (Azure AD) 向 OpenAI Y源M行C。

在下列各中，您⑹褂 Azure CLI 碇概山巧，然後取得持有人嗾纫院艚 OpenAI Y源。 如果遇到困y，每一都提供BY，其中包含 Azure Cloud Shell/Azure CLI 中每命令的所有可用x。

• Azure 用 - 免M建立一用

• 在所需的 Azure 中授c Azure OpenAI 服盏拇嫒

  目前，只有用程式才能授c此服盏拇嫒唷 您可以在 完成表 https://aka.ms/oai/access ，以申 Azure OpenAI 服盏拇嫒唷 如有}，在此存放熘刑岢}砼c我Bj。

• Azure CLI - 安b指南

• 下列 Python 程式欤os、requests、json

若要登入 Azure CLI，绦邢铝忻令K完成登入。 如果您的工作A段f置太久，t可能需要再次绦写幼鳌

⒆约褐概山oJ知服帐褂谜呓巧，可您使用您的泶嫒√囟ǖ恼J知服召Y源

1. 取得您的使用者Y

2. ⒆约褐概山o「J知服帐褂谜摺菇巧。

   注意

   角色指派更需要最多 5 分才生效。 因此，我事先绦写瞬襟E。 如果您先前已完成此幼鳎略^此幼鳌

3. 取得 Azure AD 存取嗾取 存取嗾在一小r後^期。 在@之後，您⒈仨取得另一。

4. M行 API 呼叫以使用存取嗾龋以透^O定 祟^值硎 API 呼叫。

OpenAI 支援以 Azure Active Directory (Azure AD) C Azure Y源的受控Re。 m用於 Azure Y源的受控Re可以脑 Azure MC器 (VM)、函式用程式、MC器U展集及其他服罩绦械用程式中，使用 Azure AD JC硎φJ知服召Y源的存取唷 藉由使用m用於 Azure Y源的受控Re搭配 Azure AD C，您可以避免使用在端绦械用程式Υ嬲JC。

在您可以使用m用於 Azure Y源的受控Re授 VM 存取J知服召Y源之前，您必先在 VM 上⒂眠m用於 Azure Y源的受控Re。 若要了解如何⒂眠m用於 Azure Y源的受控Re，㈤：

• Azure 入口W站
• Azure PowerShell
• Azure CLI
• Azure Resource Manager 本
• Azure Resource Manager 用舳顺淌

如需有P受控Re的Y，㈤m用於 Azure Y源的受控Re。