ChatGPT 带来的安全问题 chatgpt将快速改变人类认知

双十一活动 2023-03-21 03:02:14 0

淘宝搜：【天降红包222】领超级红包，京东搜：【天降红包222】
淘宝互助，淘宝双11微信互助群关注公众号【淘姐妹】

chatgpt是什么意思,chatgpt官网,chatgpt中文,chatgpt使用

作为一款新兴的人工智能应用程序，ChatGPT自从问世以来就收到了广泛的追捧，并在高等院校掀起一阵风暴。根据CNN报道，自2022年11月推出以来，ChatGPT已被广泛应用于根据用户提示生成原创文章、故事和歌词等内容。

据称，它起草的研究论文摘要成功骗过了一些科学家。它甚至通过了明尼苏达大学四门课程的法律考试、宾夕法尼亚大学沃顿商学院的一场考试以及美国医学执照考试。

此类事件的频出，让ChatGPT在教育界掀起轩然大波，也让ChatGPT的使用在学术界引发巨大争议：很多教授认为ChatGPT严重破坏学术质量和诚信，并在课程要求中明令禁止。但也有部分教授认为它可以作为一种工具帮助学生受益，只要学生把它作为一种工具，而不是一种作弊的方式。

Figure 1: 教育工作者对ChatGPT使用的看法

Source: 【【网址】】

那么ChatGPT的使用究竟是否涉及违反学术诚信问题？如何更加合理地使用它以避免出现违反学术诚信的行为？本文将针对此类问题展开讨论。

ChatGPT到底是什么？

ChatGPT 是人工智能研究实验室OpenAI研发的新型聊天机器人模型，全称为Chat Generati【【微信】】rmer，即“聊天生成式预训练模型”。它可以通过学习和理解人类的语言进行对话以及根据聊天中的上下文进行互动，从而帮助人类完成各项任务。这一款模型可以胜任撰写论文、制定提案、完成编程代码、纠正错误等各项工作。

ChatGPT上线5天，用户就突破了100万！！要知道同样获得100万使用，推特用了2年，Facebook用了10个月，Spotify用了5个月。不到两个月，ChatGPT的活跃用户就已经突破了一亿，受欢迎程度可见一斑。

由于它的强大功能，Google、Facebook和Microsoft等科技“大厂”都“慌了”，纷纷研发和ChatGPT功能类似的应用以同其竞争。与此同时，在校学生们用它做作业、写论文、敲代码等行为也引发了对学术诚信问题的大讨论。

从目前的数据来看，学生对ChatGPT的使用率让人震惊，根据【【网址】】在2023年1月对1000名18岁以上大学生的调查显示：

- 超过89%的学生曾使用ChatGPT来帮助完成家庭作业

- 48%的学生承认使用ChatGPT进行家庭测试或测验

- 53%的学生使用它写论文

- 22%的学生使用它写论文提纲

ChatGPT会引发学术诚信问题吗？

日前，媒体Cornell Daily Sun发布了一篇报道，指出ChatGPT已经引起了对其是否影响学术诚信的争议。《斯坦福日报》进行的一项匿名民意调查显示，17%的受访者表示曾经在作业和考试中使用了ChatGPT。也有教授表示，虽然作弊总是很有可能发生，但ChatGPT使剽窃变得更容易了。还有一些教授表示，人工智能技术甚至会提供并传播错误信息，这对学术界的影响是极为不利的。

使用ChatGPT是否会构成抄袭或剽窃也引发了大讨论。所谓剽窃就是在没有适当注明原作者的情况下使用他人的（someone else’s）作品或思想（有趣的是，这是ChatGPT自己给出的定义）。然而ChatGPT属于“某物（something）”而非“某人（someone）”，这就引起了广泛争议。【【微信】】大学学术诚信处主席Alice Dailey表示这并不是一项争议，因为实施剽窃的学生通常也会从“某处”借用材料，比如一个没有明确作者署名的网站；而且在学术上滥用ChatGPT的行为和从维基百科上“复制粘贴”的行为并没有什么不同。不过，学生们对此却是另外一种看法。Brown大学学生Jacob Gelman表示ChatGPT只是一个方便的“研究助手”，仅此而已。使用它从互联网上获取可靠来源绝不应该被称为“作弊”。在他看来，人工智能机器人就是一个“在线百科全书”。

在种种争议下，许多高校开始重新定义作弊和剽窃。

Bryn Mawr学院学生荣誉委员会主席Carlee Warfield表示，使用人工智能平台的行为一律被视为剽窃。该工具的普及只是要求更加关注评估学生违规行为背后的意图。

香港大学副校长何立仁更是表示，学校已经禁止在课堂和作业等方面使用人工智能工具，未经许可使用AI平台恐会被当作抄袭或潜在抄袭处理。教师也可通过补充口试和课堂考试等措施检验学生完成作业的真实性和独立性。

如何正确看待和使用ChatGPT？

a. ChatGPT真的有这么“万能”吗？

诚然，ChatGPT功能极其强大，且它的问世为人类提供了极大便利。不过，它毕竟只是一个人工智能工具，还是无法比拟真正的人类。

首先，它的最大优势是生成更加合理结构化的语句以避免回复内容结构混乱。并且它具有自我学习能力，可以根据不断变化的上下文逐步完善自己的回复，以提高用户体验。但是由于ChatGPT高度依赖深度学习，它的计算是非常耗时的，并且因为计算资源的耗费，其性能也会降低。其次，由于ChatGPT和众多其他的人工智能工具一样，只是一个普通的机器人模型，并不具备人类所拥有的七情六欲，因此它往往对某些特殊的语境（例如讽刺和反语）不能作出正确反应，从而给用户带来不必要的麻烦。此外，ChatGPT本身没有自我意识，这就导致了它无法判断它“赖以生存”的机器学习内容和上下文关联是否真实且正确。ChatGPT 最大的缺点是它可能会提供错误的答案，因为它无法确定网络上的信息是正确的还是错误的。OpenAI 也承认这一点，并表示“ChatGPT 有时会写出看似合理但不正确或荒谬的答案。”在缺乏法律监管和道德约束的前提下，如果相关信息是不正确的，那么ChatGPT得出的虚假错误答案将极有可能被滥用。

从多年前的“AI围棋大师”AlphaGo开始，许多人就纷纷担忧――人工智能的广泛使用是否会造成更多岗位不再需要相关人才，从而引发大规模失业？其实不然，人工智能领域的蓬勃发展是科技进步的一种体现，它反而会创造出更加丰富的就业岗位，并吸引更优秀的人才进入此领域。换个角度看，即便它会威胁到一部分人的“饭碗”，它也向广大人类敲响了警钟，激励了人们不断学习和进步，并促使研发人员更具创新能力，不再“滥竽充数”。这是一种“良性竞争”。

b. 我们应该怎样合理地使用它？

ChatGPT不是神仙，只是一个AI工具。它不应该作为知识的唯一来源，只能是搜索引擎的辅助。在涉及到人类真情实感的领域，更不能够过分地信赖它。对于在校学生和教职工们而言，学术诚信无小事，他们更应该坚守学术道德规范，独立完成作业、考试、代码或论文等学术任务。如果滥用人工智能平台，他们将很有可能为违反学术诚信付出严重代价。ChatGPT本应是广大人类的好助手，而不应成为违背学术诚信的“帮凶”。

ChatGPT避坑指南：

- 若学校/教授明确禁止使用ChatGPT时，千万不要以身犯险

- 在涉及学术研究、作业、论文时，使用ChatGPT进行修改，而不是创作

- 不要用ChatGPT来搜索文献（据很多使用者反馈，ChatGPT会自己编写文献）

- 使用ChatGPT帮忙检查语法错误（输入指令: Check it for any grammar error）

- 使用帮忙润色文章（输入指令:Please proofread this paragraph）

- 使用ChatGPT提供文章改写建议（输入指令: Please suggest ways to impro【【微信】】/logic/structure of the paragraph）

- 使用AI检测网站如Open AI text classifier; GPT Zero等

ChatGPT导致的学术诚信问题会产生哪些后果？

学术诚信（Academic Integrity）这一概念并没有普遍的定义，不过它通常在学术行为中包括诚实、责任和开放性三大要素。以UC Berkeley为例，该高校对于学术不端的定义为“任何可能导致为自己创造不公平的学术优势或为学术界的任何其他成员创造不公平学术优势或劣势的行为或未遂行为”。简单地说，就是不能以不当手段为自己或他人谋利，有这样的动机也不可以。

美国、英国等高校对于学术诚信非常重视，这些高校在学生入学前就会在入学指导中向新生说明学术诚信相关守则，并且每一名教授都会在课程开始前的大纲上强调这些。即便如此，仍然有不少学生藐视学术诚信，最后酿成严重后果。考试作弊、论文抄袭、代写代考等都是典型学术不端行为，目前也有些学校已经明确将使用ChatGPT划为学术不端范畴，一般情况下，一经发现，将造成以下严重的后果：

学术后果：课程会被判定为不及格F（Fail）且会在成绩单上标明

行政后果：包括警告（Warning）、留校察看（Probation）、停学（Suspension）、开除（Dismissal）等。处罚的严重性是基于该学生违规行为的严重程度和影响程度，以及此前该学生是否存在学术不诚信行为的记录等。

警告：当学生初次违反学术诚信问题且情节较轻时，学校会通过口头或者书面的方式，告知学生其行为不符合大学的行为准则，学生可以就指控内容提出申诉。若接受警告处分，需要保证以后不再出现类似的行为，警告通常不会对学生的学业或未来产生重大影响，但是如果学生再次违反学校的规定，可能会导致更严重的处罚。

留校察看：学术诚信问题初犯但情节相对严重，例如期末考试作弊等，或学术问题再犯但情节依旧较轻时学校的处罚方式，留校察看意味着学生虽然不会被开除但是必须在一定时间内遵守学校的规定并且学校会对他们的学习和行为进行监督。但如再次出现触犯学校政策的行为，将会被停课或者开除。留校察看期间可能会限制学生选课，影响校园活动参与及奖学金评选。

停学：停学 (Suspension) 是学校对学生违反学术诚信原则或其他不当行为采取的一种严重处罚。再三触碰学校学术诚信条例或情节严重的学术诚信问题，学校将通过书面文件告知学生，因其触犯了学校的规定，将强制其离校一段时间，停学的时间视学生行为的严重程度而定，一般为1-2学期。

开除：反复挑战学校学术诚信条例且情节恶劣，如组织团队作弊等行为，学校将通过书面文件告知学生，冻结其在校学习的权利。除非进行readmission申请，学生将不能继续在学校学习。情节相当严重者将会被学校永久开除学籍（Expulsion），不得再返回学校继续学习。

总结

ChatGPT作为一款新型人工智能工具，它受到了世人们的热烈欢迎和追捧。不过在广泛引起的学术诚信争议下，许多学校都在采取措施以避免违反学术诚信的事情发生。学生和教职工们也应该以身作则，正确看待并合理使用ChatGPT及其他人工智能平台，绝对不能允许学术不端的行为发生。广大人类也应该理性看待人工智能，并逐步提升自我，不断进步，以应对AI的挑战。

如果因为ChatGPT违规使用导致停学或开除时，学生身份（I-20）将会在短时间内失效，学生也会被要求在7-15天内迅速离开美国。根据学校规章制度不同，开除之后学生身份时效也不同。大家都明白被美国大学开除会势必影响到学生后续的升学及就业，所以在第一次收到学校的学术不端指控时，一定要重视，谨慎对待。及时咨询专业人士，让专业的人来制定专业的计划，保证自己在这其中的损失最小，才是我们最愿意看到的成果。

如果你还是担心自己遇到一些棘手的问题，可以先扫码添加阡阡，在需要的时候，阡阡随时为你保驾护航！

References

[1]https://mp.weixin.qq.com/s/6【【微信】】Q

[2]https://teaching.berkeley.edu/resources/course-design-guide/design-effecti【【微信】】/academic-integrity

[3]https://www.forwardpathway.com/26278

[4]https://cornellsun.com/2023/01/30/chatgpt-generates-buzz-regarding-concerns-of-academic-integrity/

[5]https://www.wired.com/story/chatgpt-college-uni【【微信】】/

[6]https://export.shobserver.com/【【微信】】/html/584155.html

[7]https://news.west.cn/99338.html

[8]https://m.gmw.cn/baijia/2023-02/14/1303282608.html

[9]https://【【微信】】.baidu.com/s?id=1757799436661932006&wfr=【【微信】】&for=pc返回搜狐，查看更多

责任编辑：