陈根：封禁后又开始打假，ChatGPT作弊成风
文/陈根
ChatGPT作为优越的语言生成模型，受到了广泛的好评和大众的喜欢，与此同时，也由于较高的错误率而遭到不同机构的封禁。前段时间就有 Stack Overflow 封禁 ChatGPT 的消息满天飞，Stack Overflow官方表示暂时封禁 ChatGPT 正是因为它生成的答案正确率太低，而发布由 ChatGPT 创建的答案对网站和查询正确答案的用户来说是非常有害的。
现在，ChatGPT又陷入了造假作弊的风波。毕竟，ChatGPT生成内容时会“参照”现有作品，产出的速度又几乎无限，人们对其的担忧已经蔓延到了 AI 学界自身，全球知名机器学习会议之一的 ICML 最近也宣布禁止发表包含由 ChatGPT 和其他类似系统生成内容的论文，以免出现“意外后果”。
《华尔街日报》的专栏作家曾使用 ChatGPT 撰写了一篇能拿及格分的 AP 英语论文，而《福布斯》记者则利用它在 20 分钟内完成了两篇大学论文。亚利桑那州立大学教授 Dan Gillmor 在接受卫报采访时回忆说，他尝试给 ChatGPT 布置一道给学生的作业，结果发现 AI 生成的论文也可以获得好成绩。
对于这样的情况，ChatGPT 的开放者 OpenAI 已宣布正在努力开发“缓解措施”，帮助人们检测由 AI 自动生成的文本。
目前，已经有开发者制作了面向 ChatGPT 生成内容的检测工具――“GPTZero”，只需要将内容粘贴在输入框，就能在几秒钟之内得到分析结果，快速检测出一篇文章是 ChatGPT 还是人工撰写的。
GPTZero 应用程序的原理是借助一些文本属性进行分析。首先是困惑度（perplexity），即文本对模型的随机性，或语言模型对文本的“喜爱”程度；然后是突发度（burstiness），即机器写作的文本在一段时间内表现出的困惑度更均匀和恒定，而人类书写的文本则不会这样。
事实上，尽管 AI 生成的文字内容在学术会议和学校禁止机器写论文作弊的新闻中看起来令人印象深刻，但要知道，与真正的人类写作相比，它们时常缺乏真正的理解与逻辑。
人都在讨论它的智能，这不足为奇。但是 ChatGPT类似人类的输出和惊人的通用性只是优秀技术的结果，而不是真正的聪明。AI仍然会犯一些可笑的错误，这说明它完全没有常识。无疑， ChatGPT在语言生成模型上是一个巨大的飞跃，但它仍然是人类制造出来的工具，它还有很多缺陷和局限性，这也是技术持续努力的方向。
使用chatgpt会造成信息泄露吗 网络黑客tg是什么意思
黑客们已经把黑手指向了ChatGPT，利用它最近的火爆。
在App Store和谷歌Play Store上，克隆应用很快就火了起来。显然，你需要对它们保持警惕，因为它们是用来窃取你的数据并迫使你花费大量金钱的。
OpenAI开发的聊天机器人很快就被恶意利用。当假冒应用程序试图欺骗用户时，黑客已经在使用ChatGPT窃取用户数据。
在谷歌Play Store和app Store上可以买到这款应用的山寨版，但月费昂贵。如Top10VPN所示，在App Store和谷歌Play Store上有很多这样的应用。
尽管ChatGPT现在只有一个在线版本，但开发人员已经用他们复制的应用程序淹没了应用商店，窃取用户的数据。
据GizChina报道，用户应该避免这些假冒的ChatGPT应用：
On Android:
- AI Chat Companion
- ChatGPT 3: ChatGPT AI
- Talk GPT C Talk to ChatGPT
- ChatGPT AI Writing Assistant
- Open Chat C AI Chatbot App
On iOS:
- Open Chat C AI Chatbot
- Wisdom AI C Your AI Assistant
- Chat AI: Personal AI Assistant
- Alfred C Chat with GPT 3
- TalkGPT C Talk to ChatGPT
- Write For Me GPT AI Assistant
- Genie C GPT AI Assistant
因为这些克隆ChatGPT应用对用户的钱包和隐私不利，小心谨慎下载应用，否则损失巨大。
Top10VPN在对最知名的基于ChatGPT 3 的应用程序进行了大量深入分析后得出了以下结论:
“我们发现了一些不干净的、虚假的应用程序，没有给用户带来任何价值。相反，他们侵犯了他们的隐私来使用他们的数据。
用户的位置信息将通过ChatGPT AI Writing Assistant应用程序与字节跳动、亚马逊、Appodeal和InMobi等公司共享。”
Top10VPN该平台还批评一些应用程序对免费提供的服务收取昂贵的费用，申请费用为每周290美元，相当于每年超过1.5万美元。
但记住ChatGPT是一个完全免费的工具。毫无疑问，OpenAI提供了每月20美元的会员资格，并附带某些好处(优先访问、更好的响应能力、新功能的测试)……
ChatGPT在两个月前发布后，迅速走红。为什么一个聊天机器人ChatGPT如此火爆？
主要是因为太优秀，作为一个全能选手，它能够调试代码、回答问题，根据命令起草散文、诗歌、还能参加考试，吸引了众多科技公司的目光，这其中就包括微软。
在这里提醒的是，大家想尝鲜需谨慎，特别是海外流程APP有些规则在国内有差异。
你对ChatGPT了解吗？欢迎留言探讨！
喜欢点赞收藏！欢迎关注SevenTech!
无人驾驶的人工智能有哪些 人工智能在无人驾驶领域的技术
无人驾驶的人工智能有哪些技术,无人驾驶的人工智能有哪些公司,无人驾驶是人工智能么,无人驾驶涉及人工智能的什么2016年人工智能十大关键词
□记者 吴帅帅 商意盈 杭州报道
阿尔法狗
2016年3月9日，一款由谷歌研发，名为AlphaGo的围棋人工智能程序在与韩国围棋职业九段李世石的人机大战中，以4：1的总比分轻松获胜。这一款人工智能程序被“赋予”了强大的“学习功能”，用“策略网络”学习人类棋手的下法，对比棋谱，选择胜算较大的棋路。并且这只“聪明狗”每天还能自学，自己和自己下三百万盘棋，无怪乎人脑会最终败下阵来。
点评：“阿尔法狗”代表了一种特定场景下，人工智能从模仿到超越似乎正成为一个不可逆的趋势。在不久的将来，向“阿尔法狗”这样的人工智能学习或将成为人类的常态。
波士顿动力公司
2016年3月18日，谷歌宣布将旗下波士顿动力公司（Boston Dynamics）摆上货架。后者是著名的人工智能机器人公司，其中名为大狗（big dog）的四脚运输机器人还为美军服役。测试视频显示，波士顿动力研发的机器人除了可以完成简单的肢体动作以外，还能够对环境的变化进行感知并且判断、选择。比如对行走路况、突如其来的撞击、目标物的移动等等。
点评：谷歌的“忍痛割爱”证明了人工智能的成熟尚需假以时日，现有的机器人无法在短期内成为可商业化推广的产品。但包括亚马逊、丰田等不同类型的企业都对波士顿动力表示出了强烈的兴趣，这恰恰证明了拥有完整肉体和灵魂的“智能人”还是人工智能追寻的终极目标之一。
Tay聊天机器人
2016年3月23日，微软在Twitter上推出AI机器人，用户通过互联网社交账号就能和这位设定为清新可人少女的人工智能进行交谈，话题从政治经济到生活琐碎无所不包。
点评：实际上，这类人工智能都是在发布之初激发了人们的好奇，但这样的社交需求却并没有成为长期的依赖。除了用户体验的局限以外，从本质来看，这背后体现的是一种极具讽刺意味的矛盾：现代人内心隐秘的孤独感某种程度是技术进步带来的区隔，是否能用另一种技术进步慰藉？至少目前，多数人不相信人工智能可以代替真实社交。
OpenAI
OpenAI是一家位于旧金山的非营利性人工智能研究机构，该机构致力于开发人工智能正面作用，并且预防、限制一些人工智能可能带来的危害。4月28日，OpenAI宣布将致力于打造一个名为“OpenAI训练场”（OpenAI Gym）的公共平台，该平台将成为一个训练AI的场地，使智能机器人获得强化学习能力，并最终希望优化特定类型的人工智能算法标准。
点评：与其他公司不同，这家由伊隆・马斯克等多名互联网业界巨头成立的机构，最大的原则就是开源和开放。警觉的前瞻使得业界不少人认为，OpenAI或许将成为制度化约束人工智能之前，这个领域最好的监管者之一。
语音交互
在今年5月19日的谷歌I/O大会上，谷歌推出了自己的语音智能助手Google Assistant，旨在让用户通过流畅的语音和设备相互沟通。实际上，国内企业科大讯飞早已发布语音交互平台，并已接入智能家居模块。目前，行业内语音交互已经可以对噪音环境和远距离通话等复杂现状进行优化，并且在向可穿戴设备终端发展。
点评：语音交互实际上改变了人机互动的模式，某种意义上，电影《她》中和一台计算机恋爱的故事并不遥远。如果从日常交流的范畴理解，专业人士用数字和代码向计算机发出指令的阶段已经过去。语音交互是人工智能发展的必由之路。
Pokemon go
2016年7月7日，一款名为“Pokemon go”的手机游戏发布，并悄然走红。不同于传统游戏局限于屏幕的体验，利用现实增强技术（AR），用户手机屏幕上能够针对街区场景模拟出一些虚拟的怪物，玩家可以在现实和虚拟之间利用道具捕捉它们。
点评：虚拟现实、增强现实和混合现实一直是近些年来互联网世界的热词。所利用的就是人工智能领域中的一些核心技术，比如传感器模拟、计算机视觉等等。技术快速迭代的时代，用不了多久，普通人就可以利用轻巧的穿戴设备在自己的房间中仰望行星运动轨迹、在空荡荡的车间讨论产品的外观设计等等。到那时，也许“眼见为实”这句话也将被“彻底颠覆”。
西部世界
2016年10月，一部由美国HBO电视网推出的电视剧风靡世界。该片名为《西部世界》（West world），主要讲述了在机器人乐园，人工智能自我意识觉醒之后，横亘在人与AI之间的身份区隔以及矛盾引发的灾难。
点评：这部电视剧改编自20世纪70年代的一部电影，在合理想象的范畴中展现了人工智能普及后可能带来的问题。实际上，包括霍金、比尔・盖茨在内，众多科学界和互联网从业者都表示出了对人工智能未来的一丝隐忧，然而问题似乎还要更复杂。因为目前的担心仍局限于安全维度：防止“失控”产生；但伦理维度的悖论同样值得深思：当人工智能与人类差异越来越小之后，他们的身份、权利是否也应该被重新审视和考量？
无人驾驶
近年来，无人驾驶一直都是人工智能深度应用的前沿。但2016年似乎是一个无人驾驶的“小年”，11月16日，百度的云骁无人车亮相浙江乌镇，但和人们对它的期待不无差距。
点评：虽然无人驾驶前路迷雾重重，但是业界依然认为这是人工智能最有希望突破的领域之一。从传统汽车制造企业、新能源汽车品牌再到不同类型的互联网公司，企业在推动技术革新；与此同时，在政策层面，2016年6月，工信部在国内批准设立了首个“国家智能网联汽车（上海）试点示范区”封闭测试区。无人车还将在测试的道路上越走越远。
进入【新浪财经股吧】讨论
