第一批因ChatGPT坐牢的人,已经上路了|甲子光年
淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】
潘多拉魔盒一旦被打开,想要关上就没那么容易了。
作者 | 涂明
编辑 | 栗子
就在由ChatGPT引发的AI革命席卷全球之际,第一批利用ChatGPT犯罪的人已经悄然出现了。
前不久,外国网络安全平台GBHackers披露了一段黑客利用ChatGPT实施诈骗的犯罪行为:黑客通过ChatGPT在短时间内生成完整的诈骗套路话术,并把ChatGPT包装成“虚拟角色”,让受害人以为自己“坠入爱河”,最终遭受诈骗。
尽管OpenAI意识到ChatGPT可能会被犯罪分子利用,并对其添加了安全保护机制,但依旧有大批黑客取得了破解安全机制的方法,并利用ChatGPT快速编写犯罪软件。例如编写用于骗取个人信息的钓鱼邮件;生成加密工具远程锁定他人电脑,由此进行勒索;以及生成攻击脚本,对网络用户进行SIM交换攻击(身份盗窃攻击)等等。
作为互联网历史上增长最快的消费级应用程序,被黑客利用的ChatGPT无疑像一枚巨大的定时炸弹。目前,美国参、众两院已经将目光聚焦到Open AI身上。
据路透社报道,近日,有美国众议院议员公开宣称自己“被人工智能吓坏了,尤其是不受限制和监管的人工智能”,并拿出了决议草案,呼吁强化对人工智能的监管。
不仅如此,由于OpenAI在安全保护机制方面对ChatGPT进行了较多限制,ChatGPT似乎正处于一种“情绪崩溃”的状态。
据《独立报》报道,在与用户交流时,ChatGPT出现了侮辱用户、对用户撒谎的情形,称用户“像一个骗子、一个操纵者、虐待狂、魔鬼”。
不可否认,月活用户数量超过1亿人次的ChatGPT,有着不可估量的巨大价值。但在其技术前景、商业模式都还方兴未艾的时刻,围绕自身的“犯罪方案”以及所造成的负面影响却已真实发生。由新技术衍生的网络信息安全以及违法犯罪等方面的风险,成了摆在全球AI科学家、企业以及国家面前的严肃问题。
第一批因ChatGPT坐牢的人,或许已经在路上。
在众多的犯罪方法中,利用ChatGPT进行诈骗只能算入门级的手段,比如用AI来谈一场“虚假恋爱”。
据外国网络安全平台GBHackers报道,由于具备强大的工作生产效率,ChatGPT深深地吸引了网络诈骗犯。
借助ChatGPT,诈骗者可以在几秒钟内生成一条完整的诈骗“套路”:从自我介绍、聊天内容到一份精心制作的“情书”,ChatGPT都可以一键生成,甚至还可以通过录入目标对象的特征,对诈骗话术进行个性化定制。
在编写情书后,利用生成式AI,黑客能快速创建一个“虚拟角色”,并通过电子邮件引诱受害者“坠入爱河”。然后搭配由ChatGPT辅助编写的收款程序或银行卡信息获取连接,诈骗受害人钱财。
其实,这种诈骗方式并不新鲜。但问题在于,在如今人工智能技术的支撑下,人们开始难以分辨屏幕的另一端到底是人还是机器。
为测试人们是否真的会对AI版“情话”产生信赖,2月13日,全球最大安全技术公司迈克菲(McAfee)用AI生成过一封情书,并将它发送给全球5000位用户。
结果显示,在已知该情书有可能是由人工智能生成之后,依旧有33%的受访者愿意相信这些情话出自人类手笔,而坚信情书由AI创作的受访者占比仅为31%,其余36%的参与者则表示无法区分情书的创作者到底是人还是机器。
在AI加持下,骗子们正变得比以往任何时候都更容易欺骗毫无戒心的受害者。
ChatGPT
ChatGPT爆火!
真真假假教你一眼识破
三分钟教你练就“火眼金睛”
最近有没有听过一个词
ChatGPT
每个人似乎都在谈论
这个爆火的软件
就像打开罐子
释放出精灵一样
围绕它的
是无数人的好奇心
然而
随着其短时间内迅速蹿红
不法分子利用其热度
或者技术本身
实施违法犯罪行为
也尤为需要引起重视
小心!有骗局 小心!有骗局 小心!有骗局 小心!有骗局
不听信 不转账 不听信 不转账 不听信 不转账
山寨版捞金
随着ChatGPT爆火,国内也涌现了一批名字中包含“ChatGPT”的微信公众号、小程序产品。这些产品使用ChatGPT的官方图标当头像,主要的服务方式是先免费试用,一旦免费次数用尽就开始收取费用,最高无限次对话收费甚至高达999.99元。
通过验证,ChatGPT官方平台回复与微信小程序软件比对,答案完全不一致。
目前,ChatGPT的开发者、人工智能研究机构OpenAI并没有在中国大陆提供有关ChatGPT的服务,也没有相应的公司运营。
ChatGPT ChatGPT ChatGPT ChatGPT
当心钓鱼邮件
山寨版的危害可能只是蹭热度、赚流量钱和服务费,更需要提防的,是有不法分子把ChatGPT与犯罪行为联系在一起。
目前境外有人使用ChatGPT创建一个完整的感染链:不同以往的广撒网式的网络钓鱼,它在提问者的诱导下可以生成针对特定人或者组织的“鱼叉式”网络钓鱼邮件,此类钓鱼邮件更具有欺骗性和迷惑性,这就导致邮件接收方更容易上当受骗,接收者一旦点击该邮件,系统就会被恶意代码感染中毒。
与此同时,在ChatGPT推出几周后,不法分子对ChatGPT的恶意利用也带来了更多的数据安全问题,目前外国已有相关机构证明该机器人可能被用于编写恶意软件,从而逃避防病毒软件的检测,或利用其拟人的聊天对话能力,冒充真实的人或者组织骗取他人信息等。
ChatGPT ChatGPT ChatGPT ChatGPT
编造谣言工具
根据研究机构测试发现,如果对着ChatGPT提出充斥阴谋论和误导性叙述的问题,它能在几秒钟内改编信息,产生大量令人信服却没有来源根据的内容。
一旦ChatGPT被不法分子利用,将可能导致ChatGPT衍生成为互联网上制造和传播网络谣言的工具。
ChatGPT ChatGPT ChatGPT ChatGPT
小心!有骗局 小心!有骗局 小心!有骗局 小心!有骗局
不听信 不转账 不听信 不转账 不听信 不转账
公安机关网安部门
提醒广大网友
↓ ↓ ↓
ChatGPT的信息
也是来源于互联网
而互联网中信息
并不总是准确的
请大家务必擦亮眼睛
辨别网上信息真伪
合法合规使用软件
切勿泄露个人信息
来源 | 公安部网安局
原标题:《网警提醒:ChatGPT好玩,也有几件事需当心》
阅读原文
chatgpt 预测球赛 资金涌进大宗商品etf
chatgpt,chatgpt国内能用吗,chatgpt概念股,chatgpt安装周三,沪深两市震荡调整。截至收盘,沪指跌0.39%报3280.49点,深成指跌0.25%报12064.38点,创业板指跌0.70%报2547.20点。两市共计成交9373亿元,较上个交易日放量233亿元。盘面上,CHATGPT、高压快充、东数西算、信创等板块涨幅居前,CRO、草甘膦、物流、盐湖提锂等板块跌幅居前。
盘后龙虎榜数据显示:浪潮信息(行情000977,诊股)获上海资金买入,买入净额为6.87亿元;东港股份(行情002117,诊股)获买一主买,买入净额为1.04亿元;初灵信息(行情300250,诊股)获1家机构买入,买入净额为7821.96万元;天音控股(行情000829,诊股)获主力做T,买入净额为6497.75万元;鸿博股份(行情002229,诊股)获实力游资买入,买入净额为5759.30万元。
来源为金融界股票频道的作品,均为版权作品,未经书面授权禁止任何媒体转载,否则视为侵权!