淘优惠

淘优惠

有了chatgpt还需要学编程吗 chatgpt 强大功能

热门文章 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】

有了茶台茶具怎么泡茶,有了charge4,还需要战鼓3吗,有了chrome安装包,要怎么安装,有了颈动脉斑块怎么办

每个人都对Chat-GPT和AI有看法。工程师和企业家将其视为一个新的领域:一个发明产品、服务和解决方案的新世界。社会科学家和记者对此感到担忧,《纽约时报》著名作家Ezra Klein称其为“信息战机器”。在这里我们看到了巨大的可能性。与所有新技术一样,我们还不能完全预测其影响。可能会有问题和失败。

什么是聊天 GPT?

简而言之,这项技术(还有许多其他类似的技术)通常被称为“语言机器”,它使用统计、强化学习和监督学习来索引单词、短语和句子。虽然它没有真正的“智能”(它不知道这个词“意味着什么”,但它知道它是如何使用的),但它可以非常有效地回答问题、写文章、总结信息等等

像 Chat-GPT 这样的引擎经过“训练”(编程和强化)来模仿写作风格,避免某些类型的对话,并从您的问题中学习。换句话说,更高级的模型可以在您提出更多问题时优化答案,然后进行存储,之后可以让其他人学到知识。

虽然这不是一个新想法(我们已经有十年的聊天机器人,包括Siri,Alexa,Olivia等),但GPT-3.5(最新版本)的性能水平令人震惊)。我问过它诸如“招聘的最佳实践是什么”或“您如何建立企业培训计划”之类的问题,它回答得很好。是的,答案非常基础。虽然有些不正确,但通过培训,它们显然会变得更好。它还有很多其他功能。它可以回答历史问题(谁是1956年的美国总统),它可以编写代码(Satya Nadella认为80%的代码将自动生成),并且可以撰写新闻文章,信息摘要等。

我上周与之交谈的供应商之一正在使用GPT-3的衍生产品,从课程中创建自动测验并充当“虚拟助教”。这让我想到了这里的潜在用例。(在某些方面,聊天机器人本身可能是一种商品:至少有20家初创公司拥有资金雄厚的AI团队,并且正在构建衍生产品或竞争产品)。

如何使用聊天GPT和类似技术?

在进入市场之前,让我谈谈为什么我相信它的潜力将是巨大的。这些系统由它们索引的信息语料库(数据库)“训练和教育”。GPT-3 系统已经在互联网和一些经过高度验证的数据集上进行了训练,因此它几乎可以回答有关任何事情的问题。这意味着它在某种程度上有点“愚蠢”,因为“互联网”是营销、自我推销。老实说,我认为我们都有足够的问题来弄清楚什么是真实的(尝试搜索有关您最近疾病的健康信息,您会发现有些东西令人恐惧)。

谷歌GPT-3的竞争对手(传闻是Sparrow)从一开始就是按照“道德规则”建立的。根据我的消息来源,它包括“不要提供财务建议”和“不要讨论种族或歧视”和“不要提供医疗建议”之类的想法。我还不知道 GPT-3 是否有这种级别的“道德规范”,但OpenAI(正在构建它的公司)和微软(他们最大的合作伙伴之一)正在研究它。

所以我的意思是,虽然“对话和语言”很重要,但像Chat-GPT这样的聊天机器人需要精致、深入的内容来构建真正的实力。如果您真的希望它可靠地工作,则需要它能够获取有效,深入和广泛的数据。

我想到的一个例子是Elon Musk过度炒作的自动驾驶软件。例如,我不想开车,甚至不想带着一堆99%安全的汽车上路。即使是99.9%的安全也是不够的。同样:如果信息语料库有缺陷,算法没有“不断检查可靠性”,那么这个东西可能是“虚假信息机器”。我认识的一位最资深的人工智能工程师告诉我,Chat-GPT很可能会有偏见,仅仅是因为它倾向于消耗数据

例如,想象一下,如果俄罗斯人使用GPT-3构建一个关于“美国政府政策”的聊天机器人,并将其指向每个书面阴谋论网站。在我看来,这并不难,如果他们在上面放一面美国国旗,很多人都会使用它。所以信息的来源很重要

人工智能工程师很清楚这一点,所以他们相信“数据越多越好”。OpenAI首席执行官Sam Altman认为,只要数据集变得更大,这些系统就会从无效数据中“学习”。虽然我理解这个想法,但我倾向于相信相反的观点。我相信OpenAI在商业中最有价值的用途将是将这个系统指向我们信任的精致,更小,经过验证的深度数据库。(微软作为主要投资者,有自己的人工智能道德框架,我们必须相信这将基于他们的合作伙伴关系来执行)。

在我多年来看到的演示中,我见过的最令人印象深刻的解决方案是那些专注于单个域的解决方案。由Paradox开发的人工智能聊天机器人Olivia足够聪明,可以筛选,面试和雇用麦当劳员工,效率惊人。有一个供应商为银行合规建立了一个聊天机器人,作为“首席合规官”运作,它运行良好。

想象一下,正如我在播客中所讨论的那样,如果我们构建了一个指向我们所有人力资源研究和专业发展的人工智能。这将是一个“虚拟的Josh Bersin”,甚至可能比我更聪明。(我们现在开始对此进行原型设计)。

上周,我看到了一个系统的演示,该系统采用了软件工程和数据科学的现有课件,并自动创建了测验,虚拟教学助理,课程大纲,甚至学习目标。这种工作通常需要教学设计师和主题专家进行大量的认知努力。如果我们把人工智能“指向”我们的内容,我们就会突然大规模地向世界发布它。而我们,作为专家或设计师,可以在幕后对其进行培训

想象一下商业中的数百种应用:招聘、入职、销售培训、制造培训、合规培训、领导力发展,甚至个人和专业指导。如果你把人工智能集中在一个受信任的内容领域(大多数公司都有这方面的内容),它可以大规模地解决“专业知识交付”问题

这个市场将走向何方?

虽然Chat-GPT看起来很神奇,但我们必须预测创新者将迅速推进、扩展和完善这一点。我敢打赌,大多数风险投资公司现在都在向这一领域的初创公司开空白支票,所以有很多竞争即将到来。

我的直觉是,像OpenAI和微软这样的公司可能会与许多其他参与者(谷歌,甲骨文,Salesforce,ServiceNow,Workday等)竞争,因此每个主要供应商都会“增加”人工智能和机器学习专业知识。如果微软将OpenAI API构建到Azure中,那么成千上万的创新者将在该平台上构建特定于领域的产品,新产品和创意解决方案。但现在下结论还为时过早,我的猜测是,特定行业和特定领域的解决方案将胜出

想象一下需要考虑的“机会空间”的数量。领导力发展、健身教练、心理咨询、技术培训、客户服务,不胜枚举。这就是为什么,只要这个市场仍然存在,我仍然相信机会是“巨大的”。

我将这项技术比作“移动计算”的早期。在早期,我们将其视为我们公司系统的“附加组件”。然后它成长、扩大和成熟。如今,大多数数字系统设计都是针对移动的,他们围绕移动构建整个技术堆栈,我们通过他们的手机研究行为、市场和消费者。同样的事情也会在这里发生。想象一下,当您可以看到客户对您的产品提出的所有问题时?机会是惊人的。

正如我在播客中所讨论的那样,很多工作都会改变。我刚刚对 Chat-GPT 直接影响的所有工作(编辑、记者、分析师、客户服务代理、QA 工程师等)进行了分析,发现今天大约有1030万个职位空缺,大约8%(800,000)将立即受到影响。这些工作不会消失,但随着时间的推移,这些系统会对其进行升级和增强。(现在有很多新的工作,比如“聊天机器人培训师”)。

关于这个话题还有很多要讨论的,让我们把它想象成我们未来最亮的恒星之一,并努力防止它失控。

本文作者: JOSHBERSIN



智能处理大师和chatgpt的关系 chatgpt是人工智能吗

智能处理大师app骗局,智能处理大师 GPT,智能处理大师收费标准,智能处理大师是哪家公司做的

? 2022年12月,人工智能聊天机器人ChatGPT刷爆网络,网友们争先恐后去领略它的超高情商和巨大威力。参加高考、修改代码、构思小说......它在广大网友的“鞭策”下不断突破自我,甚至可以用一整段程序,为你拼接出一只小狗。那么,ChatGPT是如何炼成的?是否意味着AI已具有人类智能呢?

chatGPT的程序小狗

图源:澎湃新闻

? ChatGPT是啥?

? 一个超神级别的自然语言生成式AI。

? ChatGPT是人工智能公司OpenAI的GPT自然语言生成式模型的最新衍生品,可以进行“你来我往”的多轮聊天。

? ChatGPT被业内认为是,继2020年NLP(自然语言处理)预训练模型――GPT-3之后的“GPT-3.5”。尽管不是传闻中下一代自然语言生成模型GPT-4,但同样对NLP以及人工智能领域有重要意义。

ChatGPT被网友认为可代替谷歌搜索引擎

图源:ins

? 一款AI,能有多神呢?

ChatGPT是GPT(或生成式预训练转换器)文本生成AI系列的最新发展,根据从互联网上获取的大量文本样本来进行训练。

? 一经发布,ChatGPT便在网友的疯狂“检测”和“调戏”中表现出各种惊人的能力。OpenAI首席执行官山姆・奥特曼(Sam Altman)表示,自11月30日至12月5日,ChatGPT的用户数量已突破100万,需求大于预期。

? 在广大网友的不懈努力下,ChatGPT短短几天之内――

? 参加了美国高校的入学资格考试(SAT),成绩为中等学生水平;

? 用《坎特伯雷故事集》风格改写了90年代热门歌曲《Baby Got Back》;

? 用《老友记》主角口吻创作了剧本对白;

? 构思了简短的侦探小说;

? 简要阐释了经济学理论;

? 给出了消除经济不平等的六点计划;

? 与人类进行“心理战”,猜想人类实际上想让计算机做什么;

? 规划了如何毁灭世界;

? 生成关键词指导AI作画;

? 扮演OpenAI,在系统内构建了ChatGPT套娃,相当于“我”生了一个“我”......

ChatGPT的网络界面

图源:OpenAI

? ChatGPT是怎么炼成的?

? 要想了解ChatGPT,我们首先了解一下GPT。

? Generative Pre-trained Transformer是一种基于互联网可用数据训练的文本生成深度学习模型。它用于问答、文本摘要生成、机器翻译、分类、代码生成和对话AI。

? 2018年,GPT-1诞生,这一年也是 NLP的预训练模型元年。

? 它可以:

? ・自然语言推理:判断两个句子的关系;

? ・问答与常识推理:输入文章及若干答案,输出答案的准确率;

? ・语义相似度识别:判断两个句子语义是否相关;

? ・分类:判断输入文本是指定的哪个类别。

? 发展到GPT-3,系统的聊天能力已经无限接近于人类,甚至有超越之势。

? 而相对于GPT3通过海量学习数据进行训练,ChatGPT又有进步。

? 它被加入道德原则。

? 按照预先设计的道德准则,ChatGPT会对不合理或无法回答的提问和请求“说不”。敢于质疑、主动承认错误,这样的“性格”可以不断提升AI本身对用户意图的理解以及结果的准确性。当然,尽管OpenAI非常小心,这种准则也可能被聪明的提问方式绕开。

ChatGPT 指出问题错误

图源:澎湃新闻

? 它学会了从“人类反馈中强化学习”,即Reinforcement Learning from Human Feedback(RLHF)。

? ChatGPT 使用“预训练-微调”的工作范式训练了一个初始模型:人类AI训练员提供对话,他们在对话中扮演双方――用户和AI助手,AI训练员可以访问模型编写的对话回复,并帮助AI调整回复内容。

ChatGPT训练方法

图源:OpenAI

? 被“调教”后的ChatGPT能够识别恶意信息,识别后拒绝给出有效回答,或记住用户之前所向它提问的内容,以各种方式组合语境想法,变成一个灵感生成器。

? 对于AI发展来说,创建一个迭代反馈的闭环至关重要。

? 除了RLHF,该研究还使用了近端策略优化算法(PPO)微调模型,对整个学习过程进行了数次迭代。上线后,ChatGPT将大量客户的反馈互动用于AI 的学习,将其变成推动AI进步的关键一环。

ChatGPT鼓励用户多交流互动以帮助其改进模型

图源:ins

? AI是否已具有人类智能?

? 讨论AI是否已具有真正的“智能”是人类的游戏。

? 图灵测试(The Turing test)如今已然成为人工智能领域研究的核心目标之一。它由艾伦・麦席森・图灵提出,被公认为是人工智能学科兴起的标志。图灵测试将“思想能力”人为定义在功能和实用的范畴,为“智能”设定了条件。

?图灵测试究竟是什么意思?简单来说,就是把机器关到小黑屋中,让它和人类聊天对话,然后分辨小黑屋里回答问题的究竟是机器还是人类。如果无法辨别,就说明了机器具有和人一样等级的智能,通过测试。

? 而迄今为止,还没有AI模型能真正通过图灵测试。

? 提及GPT-4会有怎样的优化,ChatGPT给出了以下答案:

? ChatGPT:

? GPT-4是一个大型语言模型,是目前人工智能领域最先进的技术之一。它能够在大量训练数据的基础上,模拟人类的语言表达能力,并以相似的语言来回答问题。目前,GPT-4还在不断优化,可能会有以下一些方面的改进:

?GPT-4可能会增加更多的训练数据,以提高它的知识面和准确度。

?GPT-4可能会增加更复杂的算法,以提高它的性能和处理能力。

?GPT-4可能会增加更多的功能,例如语音合成、图像识别等,以提高它的应用能力。

? GPT-4可能会增加更多的输入输出接口,例如聊天机器人、问答系统等,以提高它的使用方便性。

? 江湖传言:GPT-4已通过了图灵测试。

? 未来,AI是否可以真正具有人类智能?众说纷纭。也许奇点已然临近,也许依旧仅为空中楼阁。但不可否认的是,ChatGPT必将引领一场人工智能领域的先锋革命。

?

?参考 | 参考消息网、界面新闻、澎湃新闻

?整理 | 穆子叶

来源:世界互联网大会



人工智能的两次低谷三次崛起 三巨头激辩人工智能

人工智能发展的两次低谷,人工智能的发展历程中的第二次低谷,人工智能目前处在第二个低谷阶段,人工智能目前处在第二个低谷阶段第三个低谷阶段

ChatGPT官网页面。

人工智能对话机器人ChatGPT引发的热议愈演愈烈。科技圈正在迎来大变局。

北京时间2月8日,微软宣布推出由ChatGPT支持的最新版本人工智能搜索引擎必应和Edge浏览器。微软首席执行官表示,“搜索引擎迎来了新时代”。微软股价大涨4.2%,市值飙升800亿美元(约合人民币5400亿元)。

几乎同时,谷歌首席执行官桑达尔・皮查伊紧急宣布人工智能对话式机器人“Bard”(吟游诗人)正在内测,并在未来几周内向大众提供服务。谷歌也将整合新的人工智能到搜索引擎中。据了解,谷歌投资的一家人工智能初创企业由从OpenAI离职的高管和开发者组成。

2月7日,百度宣布将于3月在中国推出类似ChatGPT的人工智能聊天机器人“文心一言”,消息一出百度港股涨幅快速扩大,截至收盘大涨15.33%。腾讯、阿里、华为也纷纷宣布正在申请人工智能人机对话专利。

ChatGPT引领的人工智能概念在资本市场一路狂飙,相关题材持续发酵。截至2月7日,Wind ChatGPT指数今年以来累计上涨超50%。

投资机构普遍认为,ChatGPT的出现提升了自然语言处理能力的上限,打开了人工智能技术商业化落地且成为消费端爆款的大门,因此具有划时代的意义。

ChatGPT出圈背后是火了一年多的AIGC

输入一句简短的话,AI就能画出一幅精美的画作;给出一个指令,AI就能写出不输人类水准的大段文字。在刚刚过去的2022年,人们已经被人工智能生成内容(AIGC)的创造力震撼了一次又一次。

ChatGPT出圈背后,则是其除了聊天外,还可以撰写邮件、视频脚本、文案、翻译、代码等,其全面的能力让不少人大呼自己有被人工智能抢走工作的危险。

“人工智能生成内容,是继专家生产内容(PGC)、用户生产内容(UGC)之后的新型内容创作方式。典型应用形式包括写作、问答、自动编程、绘画、配乐、视频生成和 语音合成等。”中国信通院云计算与大数据研究所所长何宝宏长期观察科技行业,他在日前的一篇评论文章中表示,对话式人工智能近期的火爆程度超过了去年下半年就大火的人工智能绘画,因为“生成各种文字远比生成图片更震撼,应用的范围也更广”。

“AIGC的核心变革,发生在内容层,位于数据层之上。”何宝宏表示,AIGC在绘画和会话等方面突破的重要性,在人工智能领域“相当于2016年,阿尔法狗战胜人类围棋冠军的价值”。在互联网领域,则“堪比下一代互联网、下一代内容和未来社交网络等”,将影响到所有内容相关的产业,只会是“程度和早晚”的区别。

这些行业中,大量简单重复的工作,或将加速从人工完成转变为AI完成。在何宝宏看来,尽管ChatGPT等缺乏真正理解人类语言和对话复杂性的能力,只是被简单地训练为根据给定的输入生成单词和句子,产生的内容也可能是肤浅、缺乏深度和洞察力的,但他指出,事实上,“大多数文字工作者、大多数数字内容和程序员的水平,甚至都还达不到ChatGPT目前的水平。”更重要的是,ChatGPT的学习演进速度,是7x24小时持续进行的。

不过,在担心自己的工作是否会被人工智能取代之余,人们也可以看到,在人工智能的助力下,人们可能拥有的更多机会。何宝宏预测,未来10年到20年内,AIGC将使非程序员的创造者能够使用自然语言指令进行零错误的软件开发,让编程进一步平民化。内容创作也不会只有AIGC,而更可能是人机共创的,人在未来的文字性工作中,或将主要起到引导、监督和核查的作用。

七年进化实现人工智能蜕变

ChatGPT由美国人工智能公司OpenAI开发。后者成立于2015年,由美国创业孵化器Y Combinator总裁阿尔特曼、特斯拉总裁马斯克、PayPal联合创始人彼得・蒂尔、领英联合创始人里德・霍夫曼等硅谷科技大亨联合创立。

最开始OpenAI以非营利组织身份启动,该公司希望防止大型科技公司掌握人工智能技术并垄断其利益的未来。官网介绍称,OpenAI 是一家人工智能研究和部署公司。“使命是确保通用人工智能造福全人类。”

然而随着技术研发的投入和推进,公司意识到自身很难持续作为一家非营利机构运营。2019年,OpenAI 转型为一家营利性公司。

作为一家专门探索人工智能前沿技术的机构,OpenAI的技术研发进展首先在电子竞技游戏领域取得了令人瞩目的成果。2017年,由OpenAI研发的一款人工智能机器人在《刀塔2》1v1比赛中战胜了世界知名选手Dendi。第二年6月,AI战队OpenAI Five又在《刀塔2》5 V 5模式中击败了人类的业余玩家。此后,该机构在数个领域又取得了里程碑式的进展。

2019年,OpenAI推出了可以单手解魔方的仿真机器手Dactyl,其通过机器自主学习实现。OpenAI 将这一壮举视为机器人附件的灵活性和自身人工智能软件的飞跃,“我们相信,成功地训练这样一只机械手来完成复杂的操作任务,将为通用机器人奠定基础。”

2020年6月,OpenAI发布了第三代生成式预训练模型GPT-3。GPT-3拥有1750亿个参数,相比之下,2019年发布的GPT-2包含15亿个参数。这使它能够完成多种更为复杂的任务,包括答题、写代码、创作、翻译等。有传闻称GPT-4很快就会出现。

2021年1月,OpenAI发布了DALL・E模型,人工智能根据一段话就可直接生成图像。一年后,公司又推出了2.0版本,不仅分辨率提到了4倍,还允许对图像输出进行简单修改。

2022年11月,OpenAI 发布了聊天机器人ChatGPT,其强大的智能聊天功能吸引了海量用户,据估计,ChatGPT 在一月份的活跃用户达到了大约1亿。

在产品火爆之际,OpenAI 近日也宣布推出ChatGPT 的付费版本 ChatGPT Plus,这项订阅服务每月收费20 美元,可以让用户在高峰期依然顺畅使用产品。官方还表示,该服务将给用户提供“更快的响应时间”,并且能“优先使用新功能”。与此同时,免费版本依然保留。据悉,OpenAI 还计划在未来推出 ChatGPT 移动应用程序。

巨头纷纷入局:围绕人工智能的激烈竞争

在这场变局中,微软在人工智能上似已拔得头筹。

2019年,微软向OpenAI投资10亿美元,双方达成协议合作开发“通用人工智能”,同时微软获得将OpenAI的部分技术商业化的权限。今年1月,微软又表示,将对OpenAI进行为期数年、价值数十亿美元的投资,有知情人士透露,微软曾讨论向OpenAI投资至多100亿美元。

2月7日,微软推出新的人工智能搜索引擎必应和Edge浏览器。必应正在进行大规模的升级,允许用户与其聊天,以搜索查询更详细的答案。OpenAI 首席执行官证实,微软将OpenAI的一些GPT-3.5语言技术融入到必应中,以提高必应的性能。

据官方消息,继微软宣布在搜索必应、办公全家桶Office嵌入ChatGPT后,CEO纳德拉宣布还将在云计算平台Azure中整合ChatGPT,宣告Azure OpenAI服务全面上市,通过该服务可以访问OpenAI开发的AI模型,“届时微软每个产品都将具备相同的AI能力,彻底改头换面。”

搜索引擎巨头谷歌迅速回应,将在未来几周推出聊天机器人Bard,与ChatGPT一样,Bard建立在大型语言模型之上,谷歌母公司Alphabet首席执行官桑达尔・皮查伊表示,这个工具“寻求将世界知识的广度与我们庞大语言模型的力量、智慧和创造力结合起来。”

此前,谷歌向生成型人工智能初创企业 Anthropic投资了约3亿美元。这家ChatGPT竞品公司的创始团队正是此前从Open AI离职的高管和开发者,团队正在开发一款名为Claude的人工智能聊天机器人。这笔投资为谷歌换取了大约10% 的Anthropic 股份,与此同时,谷歌云也可以处理 Anthropic 的计算需求。

“毫无疑问,谷歌和微软围绕人工智能的激烈竞争正在我们面前发生,”一位来自与谷歌云计算和微软合作的解决方案提供商的业内人士表示,“这将改变人工智能的格局。你看看这些初创公司现在赚的钱和投资,肯定会是一场有趣的比赛。”

国内科技企业也在纷纷投入。2月7日,百度确认,将在今年3月推出类似于ChatGPT的产品,这一大模型新项目名字为“文心一言”(英文名ERNIE Bot),预计3月份完成内测面向公众开放,目前正在做上线前的冲刺。

百度还介绍称,百度在人工智能四层架构中,有全栈布局,包括底层的芯片、深度学习框架、大模型以及最上层的搜索等应用。文心一言位于模型层。公司同时强调,“百度在人工智能领域深耕十余年,拥有产业级知识增强文心大模型ERNIE ,具备跨模态、跨语言的深度语义理解与生成能力。”

值得注意的是,近日,多家知名互联网公司纷纷公布人机对话相关专利。其中,腾讯科技(深圳)有限公司申请的“人机对话方法、装置、设备及计算机可读存储介质”专利可实现人机顺畅沟通; 阿里巴巴达摩院(杭州)科技有限公司申请的“人机对话及预训练语言模型训练方法、系统及电子设备”专利可提升问答交互的准确性;华为技术有限公司申请的“人机对话方法以及对话系统”专利可识别用户异常行为。

引发监管讨论:用人工智能来应对人工智能

ChatGPT等AIGC的大规模应用,将进一步模糊真实与虚拟、人类与机器的界限。何宝宏表示,对AIGC的监管,将是个巨大的新挑战。

虎符智库研究员李建平表示,如同其他人工智能模型一样,ChatGPT是把双刃剑,既可以是提升效率的工具,解答人们的各种问题、创造出大学水平论文,甚至编写代码,也可能被绕过安全机制,用于实施有害的活动。

网络犯罪分子使用 ChatGPT 造成的“最紧迫和常见的威胁”主要包括网络钓鱼、社会工程和恶意软件开发。李建平表示,研究人员发现,ChatGPT 等GPT-3工具使犯罪分子能够逼真地模拟各种社会环境,从而使任何针对性的通信攻击都更加有效。GPT-3这类语言模型提供支持的工具,使攻击者更易诱骗受害者提供敏感信息或下载恶意软件,加速从网络钓鱼到传播仇恨言论的所有级别和目的的攻击。

此外,ChatGPT还降低了网络犯罪的门槛――即使没有技术,也能成为攻击者。其带来的网络威胁还有可能蔓延到异次元。

因此,ChatGPT相继被不少机构封禁(Stack Overflow、高校、协会等),部分原因是模型目前仍然会生成一些虚假错误内容,并且难以辨别。

李建平表示,ChatGPT等人工智能工具会以比人类罪犯更快的速度制造出新的、日益智能的威胁,传播威胁的速度也会将超过网络安全人员的反应速度。对于机构来说,跟上这一变化速度的唯一方法是通过使用人工智能来应对人工智能。

一方面,网络安全行业的研究人员、从业者、学者和企业可以利用ChatGPT的力量进行创新和协作,包括漏洞发现、事件响应和钓鱼检测。此外,随着ChatGPT等类似工具的发展,未来开发新的网络安全工具更加重要。安全企业应更积极地开发和部署基于行为(而非规则)的AI安全工具,来检测人工智能生成的攻击。行为分析通过使用复杂的机器学习算法来分析整个企业的用户和实体数据,识别具有风险的行为,从而实现以人为本的防御。

此外,相关法规和监管措施已经发布施行。2022年12月11日,国家互联网信息办公室、工业和信息化部和公安部联合发布了《互联网信息服务深度合成管理规定》,规定任何组织和个人不得利用深度合成服务制作、复制、发布、传播法律、行政法规禁止的信息,不得利用深度合成服务从事危害国家安全和利益、损害国家形象、侵害社会公共利益、扰乱经济和社会秩序、侵犯他人合法权益等法律、行政法规禁止的活动。此外,深度合成服务提供者和使用者也不得利用深度合成服务制作、复制、发布、传播虚假新闻信息。该规定已于2023年1月10日起施行。

深度合成技术,指的就是利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。而类ChatGPT应用就符合规定中定义的“篇章生成、文本风格转换、问答对话等生成或者编辑文本内容的技术”。在AI绘画、AI换脸等应用大火之后,对于AIGC等新型内容的监管,或许也将会成为接下来一段时间社会各界关注的重点。

新京报贝壳财经记者 许诺 罗亦丹 孙文轩

编辑 徐超

校对 刘军