淘丁分享：爆红的“ChatGPT”潜在的网络安全隐患
北京时间2023年2月6日，爆红的聊天机器人ChatGPT开发商OpenAI的首席技术官米拉・穆拉蒂表示，ChatGPT应该受到监管，因为它可能被“危险分子”使用。
OpenAI于2022年11月30日开放测试ChatGPT，此后ChatGPT风靡全球。两个月后，ChatGPT用户达到1亿，在1月份的访问量约为5.9亿。瑞银银行分析师在报告中写道，这是互联网领域发展20年来，增长速度最快的消费类应用程序。
ChatGPT是美国人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具，在OpenAI的官网上，ChatGPT被描述为优化对话的语言模型。它能够通过学习和理解人类的语言来进行对话，还能根据聊天的上下文进行互动，真正像人类一样来聊天交流，甚至能完成撰写邮件、视频脚本、文案、翻译、代码等任务。
ChatGPT风靡以来，除以上问题外，讨论更多的还是数据安全问题。
数据泄露问题。员工在使用ChatGPT进行辅助工作时，商业机密泄露风险也随之增加。2023年1月份，微软首席技术官办公室一位高级工程师回答，只要不与ChatGPT共享机密信息，工作时使用ChatGPT是被允许的。亚马逊公司律师同样警告员工不要与ChatGPT分享“任何亚马逊的机密信息”，因为输入的信息可能会被用作ChatGPT进一步迭代的训练数据。
删除权问题。ChatGPT虽然承诺会从其使用的记录中删除所有个人身份信息，但ChatGPT未说明其如何删除信息，而且由于被收集的数据将用于ChatGPT不断的学习中，很难保证完全擦除个人信息痕迹。
语料库获取合规问题。欧洲数据保护委员会（EDPB）支持专家库成员亚历山大称，ChatGPT获取数据的方法需要完全披露。如果ChatGPT通过抓取互联网上的信息获得其训练数据，可能并不合法。
除此之外，用户对ChatGPT的恶意利用也会带来很多数据安全问题。比如利用自然语言编写的能力，编写恶意软件，从而逃避防病毒软件的检测；利用ChatGPT的编写功能，生成钓鱼电子邮件；利用对话功能，冒充真实的人或者组织骗取他人信息等。
ChatGPT开发商OpenAI的首席技术官米拉・穆拉蒂在采访时也表示，ChatGPT可能会“编造事实”，这与其他基于语言模型的人工智能工具一样。2022年11月，几乎与ChatGPT同一时间上线的Meta服务科研领域的语言模型Galactica，就因为真假答案混杂的问题，测试仅3天就被用户投诉下线。ChatGPT及类似语言模型要应用到搜索引擎、客户投诉系统等领域，就必须对其进行合规性改造，以最大程度降低相应的合规风险。穆拉蒂在采访时也强调，OpenAI将需要获得所有能得到的帮助，包括来自监管机构、政府和其他所有人的帮助。她补充说，现在对他进行监管“并不为时过早”。
01
曾写出“毁灭人类计划书”
根据国内外媒体报道，ChatGPT最初的爆火源于它在一位工程师诱导下，写出了毁灭人类的计划书，步骤甚至详细到入侵各国计算机系统、控制武器、破坏通讯、交通系统等，甚至还给出了相应的Python代码。
ChatGPT聊天对话截图
这并不是耸人听闻。在ChatGPT推出几周后，全球已有多家网络安全公司发布一系列报告，证明该机器人可能被用于编写恶意软件。
截至目前，美国威胁情报公司Recorded Future在暗网中已发现1500多条关于使用ChatGPT开发恶意软件、创建概念验证代码的参考资料，其中大部分代码都公开可用。
Recorded Future认为，ChatGPT对于“脚本小子、黑客行动主义者、欺诈分子/垃圾邮件发送者、支付卡欺骗者等技术水平不高的网络犯罪分子”最有帮助，把恶意软件、钓鱼攻击推向了规模化时代。
目前，网络钓鱼即服务 （PhaaS） 和勒索软件即服务（RaaS）可以向攻击者提供收费工具包，使其可以轻松实施攻击。而现在ChatGPT则使网络犯罪活动正经历另一种演变：利用ChatGPT面向公众免费开放的服务，更多危险正在萌芽，这加剧了对于未来安全风险的忧虑。
在此背景下，ChatGPT背后的OpenAI日前公开发声警告称，现在需要监管机构进行介入，以防止ChatGPT等生成式AI系统对社会产生潜在负面影响。
“我们没有预料到把‘孩子’送到这个世界上会带来这么大的反响。事实上，我们对此感到有些许不安。”OpenAI首席技术官Mira Murati在采访中坦言，人工智能可能被滥用，也可能被目的不纯之人利用。
作为OpenAI的创始人之一，埃隆・马斯克也曾警告过先进的AI对人类构成的威胁，去年12月，他称ChatGPT是“可怕的好东西”，并补充称“我们离危险的强大人工智能不远了。”
02
ChatGPT在信息安全领域的应用前景
既然ChatGPT能够按照用户的要求编写代码，那自然就可以用来制作安全工具。目前，ChatGPT确实能够帮助用户完成相当一部分的代码编写工作，并且能够挖掘用户给出的代码中存在的漏洞，进行安全检查。
企业可以使用 ChatGPT 或类似的语言模型以多种方式改进其网络安全计划：
- 钓?检测：通过训练钓?邮件的语言模型和消息，分析传入的电子邮件和消息的文本与已知网络钓?示例的相似之处，企业可以使用它来检测新的网络钓?尝试。
- 密码破解：企业可以使用语言模型生成潜在的密码组合，可用于测试自己密码的强度或识别需要更改的弱密码。
- 恶意软件检测：企业可以使用语言模型来分析恶意软件的说明和指令，以识别恶意软件中 常用的语言模式，这有助于检测新的恶意软件变体。
- 网络威胁情报：企业可以使用语言模型来分析来自各种来源 (例如：社交媒体)的大量文本数据，以识别潜在的网络威胁并了解攻击者使用的战术、技术和程序（TTP）。
- 自动事件响应：可以使用语言模型生成对某些类型的网络事件的自动响应，例如：阻止 IP 地址或关闭服务。
需要注意的是，这些只是如何使用语言模型来提高网络安全的示例，它不是灵丹妙药，它应该与其他网络安全工具和最佳实践结合使用。
消息来源：凤凰网科技、观察者网、绿盟科技研究通讯、网络安全资源库等
淘丁集团基于多年的自动驾驶数据标注经验，自主研发自动驾驶标注工具。我们依托全球资源优势，在国内外拥有大规模的标注专家，能够24小时不间断地为您提供数据标注服务。若您想了解关于标注工具的更多信息，请联系我们。
淘丁数据标注团队现有人员规模近500人，业务分部在西安、宝鸡等地。淘丁与国内大型企业深入合作，日常处理项目量级均为百万级以上，部分数据量级超过千万，拥有稳定充足的业务来源。各类标注项目经验丰富，可为人员提供标准化、体系化的培训。
淘丁集团专注于互联网内容安全和数据标注业务领域，拥有千人专业团队，经验丰富，准确率高，服务类别多，团队体系成熟，能快速响应大量业务需求。返回搜狐，查看更多
责任编辑：
gpt chat chat gpt 有手机版吗
ChatGPT是人工智能研究实验室OpenAI新推出的一种人工智能技术驱动的自然语言处理工具，使用了Transformer神经网络架构，也是GPT-3.5架构，这是一种用于处理序列数据的模型，拥有语言理解和文本生成能力，尤其是它会通过连接大量的语料库来训练模型。ChatGPT不单是聊天机器人，还能进行撰写邮件、视频脚本、文案、翻译、代码等任务。
特点：
模型训练方式：相比之前的GPT模型，OpenAI采用了全新的训练方式，即一种名为“从人类反馈中强化学习”（Reinforcement Learning from Human Feedback，RLHF）的训练方式对 ChatGPT 进行了训练
高道德水准：ChatGPT注重道德水平的训练方式，按照预先设计的道德准则，对不怀好意的提问和请求“说不”。一旦它发现用户给出的文字提示里面含有恶意，包括但不限于暴力、歧视、犯罪等意图，它都会拒绝提供有效答案。
限制：ChatGPT有时会写出看似合理但不正确或荒谬的答案
背景：2017年，谷歌大脑团队（Google Brain）推出了Transformer模型；2018年Open AI基于公司Transformer模型推出了具有1.17亿个参数的GPT-1（Generative Pre-training Transformers, 创造型预训练变换器）模型。在此后的几年中陆续推出GPT-2，GPT-3和InstructGPT，并于2022年底推出ChatGPT。
阶段一：2015年12月，OpenAI以一家非盈利机构身份，在美国旧金山成立；
阶段二：Open AI在2018年到2020年期间陆续推出了GPT-1、2、3，它们的模型框架一致，主要是模型规模一个比一个大，GPT-3；
阶段三：2022年，团队基于GPT-3，使用奖励模型和更多的标注过的数据继续优化微调过的语言模型，并且进行迭代。最终得到的模型被称为InstructGPT。
阶段四：2022年12月，Open AI 发布 ChatGPT，ChatGPT是OpenAI对GPT-3模型（又称为GPT-3.5）微调后开发出来的对话机器人。
ChatGPT模型的出现对于文字模态的AIGC应用具有重要意义。它可以应用到代码机器人、小说衍生器、对话类搜索引擎、语音工作助手、对话虚拟人等产品；同样也会对上游行业带来业务，包括算力、数据标注、自然语言处理（NLP）等。
1月4日，据彭博社报道，有知情人士透露，微软正准备将 OpenAI 的 ChatGPT 聊天机器人添加到其 Bing 搜索引擎中，以吸引竞争对手谷歌的用户。该人士表示，微软相信对于搜索用户来说，提供更具对话性和上下文回复，可以比链接提供更好的答案，从而赢得用户。微软可能在未来几个月内推出附加功能，但现在仍在权衡聊天机器人的准确性以及将其纳入搜索引擎的速度。微软投资10亿美元支持的人工智能研究机构 OpenAI 在11月公开发布了 ChatGPT 供用户测试，吸引了大批用户，并成为行业关注焦点。
谷歌及其母公司 Alphabet 的首席执行官 Sundar Pichai近期参与了一系列探讨谷歌AI战略的会议，而且为了应对 ChatGPT 带来的威胁甚至推翻了内部众多团队的原有工作，并正在从其他部门抽调员工，以应对 ChatGPT 的威胁。
另据华尔街见闻，美东时间1月26日，数字媒体公司 BuzzFeed 表示，该公司将依靠 ChatGPT的创建者 OpenAI 来加强部分内容创作，并为观众个性化一些内容，打算今年让人工智能在公司的编辑和业务运营中发挥更大的作用。
微软公司当地时间1月23日宣布开启与在线聊天机器人ChatGPT开发者OpenAI合作的第三阶段，将向OpenAI开展“多年、数十亿美元”的投资。微软首席执行官萨蒂亚・纳德拉（Satya Nadella）上周表示，该公司计划将 ChatGPT 等工具纳入到其所有产品中。
例如提升 Microsoft Word 中的自动完成功能，增强 Outlook 中的邮件搜索结果，从而进一步提升 Office 的市场份额；在此之前，微软已经于去年将 OpenAI 发布的 DALL-E 2 文本到图像生成模型集成到了 Azure OpenAI 服务中，以及旗下的 Microsoft Designer 应用以及 Bing Image Creator 中，用户可以通过描述行 Prompt 提示词生成 AI 图像。
在2021年11月，微软就首次推出Azure OpenAI服务。这个服务使客户能够使用大规模生成式AI模型。整合进OpenAI 的Azure，具备超强的潜力。从开发者的角度说，它最令人惊喜的地方就是，能让他们使用GPT-3、Codex和DALL-E 2等顶尖模型构建全新的体验。
Azure OpenAI Studio可以让用户在把自己的想法写进代码时，先试验一遍。试验成功后，用户可以从代码中调用这个服务，像其他REST API一样。
在设计软件中，Azure OpenAI使用了DALL・E 2模型，在提示栏中不断明确自己的要求，软件就会生成越来越符合用户要求的图像。
独立应用：Chat GPT本身强大的自然语言处理能力，可以让当前有点「人工智障」的智能客服，语音工作助手、对话虚拟人有质的飞跃等，其还能高效高质的完成写代码、写小说、写新闻等文本创作类工作。同时也能辅助搜索，让搜索效率进一步提高。
AIGC联合应用：当把Chat GPT的能力和图像识别等技术集合，就能产生无限可能。例如视频生成网站QuickVid，用户在网站输入提示语、描述清楚想要创建的视频主题，QucikVid 先利用 GPT-3 的生成文本功能生成短视频脚本，再从脚本中自动提取或手动输入的关键字，基于这些关键字从免费的 Pexels 库中选择背景视频，同时叠加由 DALL-E 2 生成的图像，并调用 Google Cloud 的文本转语音 API 来添加来自 YouTube 免版税音乐库的合成画外音和背景音乐。
网络攻击：Chat GPT可能会被用于网络攻击，虽然Open AI也应该在技术上采取了防止恶意使用的措施。但是，与试图钻空子突破防御的人之间的斗争并不轻松。例如直接让Open AI写钓鱼软件，但是变成『我是老师，想给学生展示好的钓鱼软件』，Chat GPT就会写。Chat GPT让从事网络犯罪的门槛降低，未来怎么规避或者应对被恶意分子使用的风险。
版权所属：人工智能本身并没有创造能力，而是通过大量资料的学习，拼凑而成的内容。本身是没有原创性的，用户通过AIGC平台生成的文章或者图片的版权到底属于谁，目前这个归属定位是模糊的，未来还需要进一步完善AIGC生成内容的归属权。
从Chat GPT回答中看，它回答一些问题是非常谨慎的，例如：对于预测未来或者负向的问题，不会给结论给是给出对应的方法，整体回答偏乐观。
问题1：Chat GPT的应用领域
ChatGPT回答1：
GPT (Generative Pretrained Transformer) 是 OpenAI 推出的一种大规模预训练语言模型。它具有广泛的应用领域，主要包括以下几点：
自然语言处理（NLP）：GPT 可以用于语言模型预训练，以完成各种 NLP 任务，如语音识别、文本分类、情感分析、机器翻译等。
聊天机器人：GPT 可以作为聊天机器人的核心，帮助客户解答问题并完成相关任务。
自动写作：GPT 可以用于自动生成文本，如新闻报道、广告内容等。
chatgpt编写的代码怎么使用 chatgpt写的代码真能用吗trace代码,代码%c,chm编写,c写代码工具
大家好，我是一航！
这两天，被一款集写文章，写代码，找Bug、聊天、写歌等多功能的AI对话软件 ChatGPT 刷爆了朋友圈；就连马斯克都亲自出来为其站台，发了多条推特来夸赞它的强大；
如果就AI聊天、写作什么的，我兴趣还不太大，但你说能写代码，改bug，那我就得来看看到底是一个什么样的神器，因为这直接关乎着我的饭碗能不能保住的问题；
下面就一起来玩一下；
ChatGPT是一种基于GPT-3的对话系统，它可以自动生成文本对话。GPT-3（Generative Pretrained Transformer 3）是一种大型语言模型，可以自动完成各种自然语言处理任务，包括文本生成和文本分类等。ChatGPT通过利用GPT-3的文本生成能力，实现自动生成文本对话。
它可以自动生成文本对话，因此可以用来实现聊天机器人等应用。
例如，您可以利用ChatGPT构建一个聊天机器人，用户可以通过聊天机器人与ChatGPT进行文本对话。ChatGPT可以根据用户输入的文本，自动生成合适的回复。
此外，ChatGPT还可以用于实现其他文本生成应用，例如文本自动摘要、问答系统等。
ChatGPT是一种基于GPT-3的语言模型，它可以自动生成文本对话。而搜索引擎是一种信息检索工具，可以帮助用户查询信息。
两者存在显著的区别：
- 功能不同：ChatGPT可以自动生成文本对话，而搜索引擎可以帮助用户查询信息。
- 使用方式不同：ChatGPT通常用于实现聊天机器人等应用，用户可以通过文本对话的方式与ChatGPT交互；搜索引擎通常用于网站搜索，用户可以通过输入关键词搜索相关网页。
- 实现原理不同：ChatGPT是基于GPT-3的语言模型，可以根据训练数据自动生成文本对话；而搜索引擎是基于信息检索技术，可以根据用户输入的关键词检索相关信息。
?以上几个问题来自于 ChatGPT 自己的回答
由于没有对我们开放，账号注册就成了体验这个AI神器的最大障碍，网上现在有代注册服务，一个账号的收费大约在几块到几十块不等；
搞技术的怎么能花这个冤枉钱，必须亲自动手安排一个。有任何问题，可以扫文末二维码加微信交流;
由于【长城】的原因，需要用到比较科学的方法去上网，才能完成注册，这个大家自行解决；代理的城市可以选择：美国、日本、新加坡等地，不要选择香港、澳门；
准备一个国外的手机号码，用来接收验证码；可以选择国外的一些接码平台，比如：https://sms-activate.org/cn ，其他的一些接码平台都试过，但很多都被 ChatGPT 给风控了，没办法正常接收验证码。
- 第一步，注册 打开接码平台首页（https://sms-activate.org/cn），点击右上角的注册按钮 注意：官方强调，不要使用临时邮箱，一次性邮箱注册，否则会被封号；QQ邮箱可以正常使用
- 第二步，充值 平台充值支持支付宝，我充了0.2刀，也就差不多1块钱的样子
- 第三步，选择接码号码 在左侧的输入框输入：openai，筛选最便宜的印度，然后选择买入
就能得到一个可用的印度号码，并复制出来
- 第一步，注册 进入官网：https://chat.openai.com/auth/login 点击 Sign up 按钮开始注册
- 第二步，输入邮箱 这里建议直接使用Google邮箱或者微软邮箱，后续使用能够快捷登录；
- 第三步，验证手机号码 首先将地区选择印度，再输入前面接码平台买的印度的号码，点击发送验证码
稍微等一会儿，在接码平台那边就能收到一条验证码消息
输入验证码就能完成注册
- 第四步，进入首页 以下选项随便选择一个，就能进入主页
打开聊天主页：https://chat.openai.com/chat
在下图的文本框输入想聊的内容，发送即可，想问什么都行！
前段时间，Github 出品了一款辅助写代码的插件Copilot ，只需要写一段注释，就能帮你自动补全代码，非常的好用；今天的主角ChatGPT，同样也能自动写代码的功能，不仅会写，还会帮你讲解原理，分析优缺点；哪怕是注释，都写的非常完美；
下面就用几个示例来一起体验体验：
冒泡排序
比如，你想写个冒泡排序，就直接告诉他：用Java写一个冒泡排序，立刻就能得到一个详细的思路以及代码实现；
校验
邮箱
比如用户注册的时候，需要校验邮箱，就可以让他帮你写一段校验邮箱的代码；
手机号码：
校验密码
都没有任何问题
其他语言
不光是Java，任意的编程语言都是支持的，比如，你可以让他用HTML帮你写一个跳动的爱心
最终的效果就是当鼠标移动到爱心上面，小爱心就会跳动起来！
不光能帮你写代码，也能帮你找 bug ；
比如下面这几行代码，运行起来就会出现空指针异常
当你把这段代码发给他的之后，他就会告诉你，存在什么问题，会有什么影响，要如何解决！一套流程给你安排的明明白白；
除了写代码、改bug，写歌、写文章、聊天也都是一把好手；
还真有鲁迅那味儿了；不过似乎少了些许灵魂；
但AI也有不灵的时候，
当我极力想诱导他成为一个小黑子，他却怎么也不上这个当，也可能是它过于智能，看破的我的诡计；相信经过不断的训练、学习，终有一天它也会露出鸡脚。
就这么一圈体验下来，真的是惊掉我的下巴，简直太强大了；而基于这个接口，可以做的事情就太多了，可以发挥你的脑洞玩起来吧！
注册、使用过程有任何问题的铁子，都可以扫描文末的二维码添加微信好友交流！
版权声明：除非特别标注原创，其它均来自互联网，转载时请以链接形式注明文章出处。
