chatgpt鐪熷疄姘村钩鍜嬫牱 chatgpt 鏂扮増
热门文章
0
()村()用,奡村属于哪,妯娌村新村小区,村()()长
本文来自微信公众号：计算广告（ID：Comp_Ad），作者：大数据仁波茄，题图来自：视觉中国去年12月，咱们已经聊过一回ChatGPT。过了俩月，这东西更是红得发紫了。而且，在中国的泛IT圈，它掀起了一场前无古人的吹牛皮大赛！不信，您瞧瞧下面这些新闻：昆仑万维：今年内发布中国版类ChatGPT代码开源360：计划推出类ChatGPT技术的demo版产品少林寺：与百度合作，接入类ChatGPT智能对话产品寺库：将对ChatGPT相关技术深入研究和拓展水滴：公司内部已经开展类ChatGPT应用测试百度：将于3月推出类似ChatGPT的聊天机器人阿里：正研发类ChatGPT产品，目前正内测华为：在类似 ChatGPT 方向的布局讯飞：类ChatGPT技术将于5月落地王慧文：带资5000万刀打造中国版ChatGPT咱们再看看所谓“ChatGPT概念股”里，某天股价长势最喜人的几家，赵丽蓉讲话：我瞅这些咋就不像唱评戏的呢？当然，这里面肯定有认真消化和研究技术的实践者，不过在吹牛大赛的氛围下，除非产品问世，否则也就难辨雌雄了。而对其中的吹牛选手来说，除非有一天虾酱也成了海鲜，他们与ChatGPT的距离，才会跟牛郎星和织女星的距离差不多。我并不是大赛种子选手，当然也不是骂街来的。想知道吹牛大赛的结果，您得了解这项新技术的一些底层逻辑：它的初心是解决什么问题？它与之前的技术有什么进展？复现它的难度和门槛在哪里？理解了这些，到底谁是真冠军，谁是吹牛皮，您可以自行判断。纯粹讲技术的干货，很多大佬写过，只是多数读者未必看得懂。所以，我想完全用浅显的例子和比方，帮大家粗浅地理解一下它的原理和背景。不过请谨记，这些并不是严肃讨论，只当是扩充一下茶余饭后的谈资吧。大语言模型是弄啥的ChatGPT这东西，是大语言模型（Large Language Model， LLM）的一种。有多大呢？大约1750亿个参数。您想想，一个参数就算4个字节，1750亿个......反正不老少的了！没错，不光是ChatGPT，从2018年谷歌的Bert开始，当今的语言模型研究界就有个无奈的共识：大，才是真的好。这虽然是经过实践效果检验过的技术路线，但是具体到语言的建模，还是有一些根本原因。长时间以来，人类对自己的语言本质到底是什么，一直是搞不大清的。一度大家认为，语言就是“语法结构?+ 词汇”：词之间的关系框架确定了，再把词意套进去，就能明白一句话说的是啥了。所以在我刚进入AI领域的那个年代，对句子结构的自动分析和对词义的建模，都是自然语言处理的重要任务。可是实际上，这个认识是有根本缺陷的！为什么这么说？您看看下面这一对句子：爸爸抱不动儿子了，因为他太胖了 。爸爸抱不动儿子了，因为他太瘦了。稍微琢磨一下就能发现：第一句里的“他”，指代的是“儿子”；而第二句里的“他”，指代的是“爸爸”。这两句话的结构一模一样，只有一个字做了反义替换，为什么连指代关系都变了呢？很显然，仅仅靠这两句话本身的信息，是没法解释这样的理解过程的。也就是说，人类在理解语言的过程中，一定有一个庞大的常识和背景知识网络，在背后默默做支撑。打个比方，要理解一句话的意思，字面上的信息只是冰山露出来的那一小块，而水面下还有庞大的一坨常识和背景知识，那才是理解的关键。细想想这也很好理解：一个人要善解人意，那总得见多识广，通晓世情，机器又何尝不是如此呢？既然如此，何不干脆就把人类能收集到的各种语料，从教授讲课到泼妇骂街，从医学杂志到黄色网文，一古脑儿地塞到一个巨大的模型里，看看他能学出啥来，如果真学得有点模样，再去理解人类语言，是不是能有所突破？一般人即使敢想也不会干，会干也玩不起，因为这个模型的规模实在是太太太大了！可是，谷歌有钱又敢干，他们在2018年出了个Bert大模型，庸俗化地说，就是上面的思路，这个模型一出，在学术界就引起了轰动，虽然说当时离今天我们看到的ChatGPT还有不少差距，但是在一些学术性指标上，把自然语言理解这个多年徘徊不前的任务，往前推进了一大步。就这样，又一次在“大力出奇迹”的思路下，我们似乎看到了理解语言的一线曙光。ChatGPT的独门武功虽然ChatGPT也属于大语言模型的范畴，但是，它可能是第一个人类愿意坐下来跟它盘道的聊天机器人，产业里程碑的意义和影响力显然已经高于Bert这个前辈。那么，ChatGPT有什么独门武功呢？是不是就因为模型更大，数据更多，才力压Bert的呢？不能这么说，虽然它们底层的一些技术如Transformer等一致，但是OpenAI在问题的定义上，一开始就选择了一条更根本、也更困难的道路。与自然语言相关的任务有很多，比如翻译、客服、甚至是编程、写诗。我们好不容易搞了个大模型，怎么用在这些五花八门的任务上呢？按照谷歌的设想，大模型只做通用背景知识的学习建模，目标也简单：从一个句子里扣掉几个词，让大模型做完形填空，看它是不是能填准。如果要解决某个具体领域的任务，那么就利用领域数据，把通用大模型捏咕捏咕，打造一个领域模型来用。在这个路线下，如果有个初中数学答疑的领域AI，即使你问他什么数学问题它都对答如流，但是一旦跳出来问一句“今晚上你觉得我应该吃点啥”，会立刻不知所云，愤而死机。那么，OpenAI是如何定义问题的呢？他们认为，不应该一个领域搞一个模型，而是应该根据聊天过程中用户的提示，也就是“Prompt”，随时灵活地切换任务模式。如果这个能实现，上面例子里从数学课里跳出来讨论晚饭的场景，你就不会觉得对面的数学特级教师瞬间变成二傻子了。也就是说，谷歌的思路，是给你准备一个排的专业秘书，但是每人只会一样；而OpenAI的思路，是给你搞一个全能秘书，白天有事都是这秘书干。当然，晚上人家就不管了。显然，后面这个难得多了。所以，OpenAI以前发布的模型，都没能达到比谷歌更惊艳的体验。然而这次，它显然是跨越了这个体验门槛。其实仔细分析一下，就信息质量而言，ChatGPT胡说八道的地方还多了去了。但是，让大家感到惊艳的，是这家伙你问什么都接得住：翻译、编程、写作文，先不论结果如何，人家没有二傻子一样的盲区。而这就是OpenAI的问题定义长期努力的结果。当然，除了这个更远大的目标，ChatGPT在学习技术上，也有一些效果很好的突破，其中最关键的是RLHF（Reinforcement Learning from Human Feedback），“依据人类反馈的强化学习”。这是句黑话，大家不用理它。实际上，它就是在大语言模型的学习过程中，加入了“模拟考试”的环节。原来的大模型，就像是“题海战术”：把所有收集到的语料往里一堆，你自个儿练去吧。当然，见得多了，就算是没有老师点拨，这家伙的应试能力肯定也会提高。而这次的ChatGPT，加入了这么一个环节：你练完了，我找个老师跟你聊，看你哪句答得不像话，就给个小叉叉，这不就是模拟考试嘛！拿着这带小叉叉的试卷回去再题海战术，这么一轮一轮来，成绩提高得可就快了。咱们这儿说说简单，上面这一大堆被我庸俗化了的思路，要变成具体的计算公式和解决方案，那可真不是件容易的事儿。绝不是只要有钱、敢吹就能搞定的。中文ChatGPT难度何在说回中国IT圈的吹牛大赛。除了嘴皮子功夫，要在中国搞出ChatGPT水准的技术和产品，有哪些核心的门槛和难度呢？依我看，这里有两个硬条件、一个软条件：第一个硬条件，当然是把技术基本吃透。这事儿，能实践参与的就不多：学术界因为算力和数据规模限制，靠自己的力量基本无法复现这些研究，最多也就是推推公式；产业界因为巨大的投入可能累及企业利润，能够大规模投入的也是凤毛麟角。不过，我觉得这一点还只是时间问题：资本市场热成这样，牛皮也都吹了一通，成本上的顾虑已经不重要了。正如Yann Lecun说的，ChatGPT其实也并非在底层技术上有巨大突破，这话虽然有点酸葡萄，倒也还算比较公允。所以假以时日，几家大厂至少消化现有的ChatGPT技术，然后堆算力搞个中文版出来，我还是比较乐观的。第二个硬条件，是数据的质和量。说到这个，我们就不得不有点悲观了：首先，中文互联网总体的信息量，比起英文互联网有着数量级的差别。除了数据的量，数据的质也有问题。我们知道，严肃的知识内容，比方说最新的科技期刊、金融分析等，几乎都以英文行于世。巧妇难为无米之炊，从这个意义上说，即使是OpenAI原班人马搞一遍中文模型，我感觉在对话流畅程度、信息正确性等方面，也会有一定差距。这个倒也不是完全没办法――把英文的语料翻译过来就得了呗。不过那就还要依赖翻译的质量，这路就越走越绕了。说个具体例子，要不是微软收购了GitHub，你以为ChatGPT能学会写代码？当然，中文互联网也不是全无优势。ChatGPT解决的是个人机对话问题，人人对话数据显然是有直接价值的重要语料，而在这个领域，有家中国公司的数据，可以说在全球范围内那是蝎子拉屎――独一份儿。只不过，这家公司是否愿意积极投入基础研究，就不得而知了。再说说软条件，这个我觉得才是最难的：发自内心的长期主义。ChatGPT一出，所有的一二级市场，都蠢蠢欲动起来了。这两天，我也接到很多找我交流的电话，让我这个二手科学家都应接不暇。他们最急迫地想得到答案的问题是：这东西能在哪些商业场景落地？市场潜力有多大？从这些问题里，我感觉大家有个误解：似乎随着ChatGPT的推出，自然语言和人机对话的研究，就到了关底了，得赶紧想想摘桃子、分蛋糕的事儿。哪儿有那么容易啊！其实，这次的ChatGPT让很多做垂直领域自然语言处理的公司非常尴尬：前几年做法律文书的、广告文案的，你领域化深耕的哪个模型，现在还不如人家通用模型啦！这就好比大家一起去野外探险，发现个铜矿，有几位就赶紧掉队挖起来了，可是等人家再往前走找到金矿，您挖的那点铜，早没人要了。我们上面也说了，ChatGPT的成功，某种意义上要归功于它开始就选择了一条更曲折但是更光明的道路。包括谷歌在内，这些一流团队的一个共同特质，是在完全看不见目标还有多远、遑论有什么商业模式的漫漫长夜里，还能坚定地努力，并不戚戚于大概率的失败。这样的长期主义，才是今天中国的AI研究最需要的。否则，即使这回你跟上了，下回人家再发现个钻石矿，谁能保证你还一定能跟上？当然，咱也不能站着说话不腰疼，这么做需要有足够的家底儿，要不然走着走着饿死了咋办。不过，对中国的一些大厂来说，连送个菜都能先砸几百亿，我觉得他们的家底儿根本不是问题。好了，咱们聊了这么多，那么中国正在如火如荼举行着的ChatGPT吹牛皮大赛，结果将会如何，您是不是已经有了自己的判断？本文来自微信公众号：计算广告（ID：Comp_Ad），作者：大数据仁波茄 海量资讯、精准解读，尽在新浪财经APP
图片来源：视觉中国 多年来，埃隆・马斯克一直警告我们，未来某一天人工智能会淘汰人类。得益于山姆・阿尔特曼的ChatGPT，这一天可能比我们预想的更早到来。ChatGPT引发了极大的兴趣，使C3.ai等公司的股价在今年已经翻了一番，但有些股票却因此暴跌。现在，阿尔特曼的公司开发的人工智能即将成为十年来最具颠覆性的技术，使许多行业面临被机器人取代的风险。 在哪些人将被社会淘汰的激烈讨论中，阿尔特曼试图平息人们的担忧。他表示，他的公司开发的革命性的聊天机器人和其他类似技术，将让人类获得自由，并且在这个过程中至少会让一些人获得财富。阿尔特曼在周一写道：“我认为人工智能将是最强大的经济赋权力量”，也是“让许多人获得财富”的最强大力量。 他在Twitter上有130万粉丝。这条乐观的公开信息显然远不像他上个月发布的信息那么含蓄。他上个月对风险投资者表示，最糟糕的情况是“看不到光明”。 摄影：JASON REDMOND ―― 法新社经盖蒂图片社提供 “我认为人工智能将是最强大的经济赋权力量，而且许多人会获得财富” ――OpenAI联合创始人兼首席执行官 山姆・阿尔特曼 2023年2月13日 自从ChatGPT发布短短几周以来，人工智能聊天机器人已经在医疗、法律和商务等领域得到初步应用，并且可以按莎士比亚的风格写散文和诗歌。 聊天机器人通过接受海量数据集训练，其模仿人类智力的能力未来只会变得越来越强大。知识性职业经常被认为面临被人工智能取代的风险最小，但如今这些职业可能很快就会被摆上砧板，成为牺牲品。 有反对者认为，这种乐观的态度与过去的炒作一样惊人地相似 即使在硅谷，也并非所有人都愿意接受阿尔特曼的观点。 圣何塞研究公司Creative Strategies的首席分析师、在人工智能技术领域发表过文章的作者奥列弗・布兰查德回应称：“人工智能也可能成为我们这个时代全球权利剥夺最大的力量。例如，突然大规模的人类被淘汰。任何一种情况都可能发生。” 可以说全球化大幅提升了全球的生活水平。然而，报酬丰厚的制造业岗位被转移到海外，也消灭了落后的社区，从而引发了目前的保护主义反弹。 支持市场自由化的媒体Reason曾写道，如果唐纳德・特朗普没有凭借对美国生产的汽车征收25%关税的承诺，将美国制造业中心附近的铁锈带州从蓝色翻红，转为支持共和党，他不可能当选。（之后，通过讨好工会吸引工薪阶层重新支持民主党，一直是拜登政府的关键政策。） 阿尔特曼的乐观态度，与加密货币圈的行话WAGMI（“我们一定会成功”）惊人地相似。WAGMI充分体现了2021年加密货币泡沫期间的市场狂热，但去年的熊市使市场规模缩水2万亿美元，却证明这只是妄想而已。 美国观察研究基金会（Observer Research Foundation America）的执行董事德鲁瓦・贾伊尚卡尔表示：“这种观点或许会成真。但更有可能根本不会实现。无论如何，这种如同加密兄弟般过于乐观的心态令人不敢恭维。” 马斯克认为人类需要升级“湿件” 有趣的是，阿尔特曼的公司OpenAI得到了马斯克的投资，而马斯克曾经警告人工智能对人类的威胁，是该领域最重要的预言者之一。特斯拉（Tesla）CEO表示，就连巴拉克・奥巴马也不愿意听从他的警告。 他在2017年说道：“我尝试说服人们放慢人工智能开发速度，对人工智能进行监管。但这一切都是徒劳。” 在他说这番话一年前，马斯克参与创建了一家脑机接口公司，部分原因是他认为人工智能是“关乎人类存亡的威胁”，将使上帝赋予人类的能力彻底作废。 而通过在大脑皮层植入一枚他的Neuralink微芯片，人类可以用机器升级增强其生物组织，又称湿件。 这位富有远见的创业者认为，只有这样，人类这个物种未来才能具有竞争力。（讽刺的是，阿尔特曼在周一称赞特斯拉CEO，在人们对未来的乐观情绪下降时，“提高了集体的雄心水平”。） 马斯克曾自称是人工智能领域的预言家“卡珊德拉”。在被问到开发一款人形机器人是否符合特斯拉加快实现可持续交通的核心使命时，他给出了否定回答。 特斯拉拥有专业知识和资金，对于创业者而言这已经足够了。 马斯克在2021年8月表示：“所以我认为，我们应该能成功。即使我们不成功，还有其他人。” 换言之，硅谷可以没有人类，但人类心中的硅谷精神却不会消失。（财富中文网） 作者：CHRISTIAAN HETZNER 翻译：刘进龙 审校：汪皓
图集 新华社北京2月21日电 2月21日,《新华每日电讯》发表题为《ChatGPT新观察：抑制泡沫，耐住性子》的报道。 推出2个月即拥有1亿月活用户，ChatGPT成为历史上增长最快的消费者应用程序。该如何理解这一现象级应用的“爆红”？目前新技术发展还面临哪些挑战？人工智能将如何引领全球出现新的产业变革？在火热的新技术带来巨变的同时，也需要一场静下心来的冷思考。 距成熟仍任重道远 近日，ChatGPT几乎一夜之间火遍全球。因为带有具备逻辑性的流畅对话和交互能力，使得它备受关注，讨论不绝于耳。在它横空出世之前，人工智能发展一度进展缓慢，甚至被解读为“要凉了”，而现在新技术再次被各界广泛关注，各个投资机构闻风而动，相关概念在资本市场被热炒。 “外界总把ChatGPT当成这次创新浪潮的点，事实上这个突破点不是ChatGPT，而是大语言模型。”原微软（亚洲）互联网工程院常务副院长、长期从事AI智能对话机器人研发的小冰公司首席执行官李笛对记者介绍，所谓大语言模型，就是利用大规模的文本数据进行训练，能够生成自然语言的人工智能模型。ChatGPT并不是技术本身，它只是“大模型”的产物和尝试。 “大语言模型”的成功，意味着之前卡住人工智能自然语言处理发展的技术瓶颈被突破，也预示着这一技术路线，在未来五年中将诞生很多创新。 北京智源人工智能研究院研究员马雷说：“投资界、互联网行业都在急迫地寻找新的增长点和创新点，此次新技术应用的出现正好契合了社会的期待值，从而引起了全球的广泛关注。” 不仅如此，ChatGPT的技术成熟度仍有较大的提升空间。多位人工智能技术专家坦言，以ChatGPT为代表的大语言模型的调试，还处于“手工作坊”的阶段，其基本技术标准和模式尚未形成行业共识。 李笛说，“调试”才是这一技术的重中之重。在训练模型后，要真正让一个模型变得更加好用，同时要符合商业规律，至少还要花9倍的资金成本和时间成本进行调试。 “为何ChatGPT的英文输出结果的逻辑性和准确性要远大于中文结果？就是因为OpenAI将调试的大量精力花在了英文数据而非中文内容。”他说。 全球各大商业巨头已加速布局。在国际上，微软已经发布由ChatGPT支持的最新版本的Bing（必应）搜索引擎和Edge浏览器。微软CEO纳德拉称：“搜索引擎迎来了新的时代”。美国搜索巨头谷歌公司随即跟进，2月初展示了其研发的聊天机器人巴德（Bard），并计划大范围推广。 国内企业亦加紧布局，百度宣布3月将推出中国版的ChatGPT“文心一言”。此外，阿里、腾讯、小米、字节跳动、快手等互联网科技公司也纷纷加入相关领域，开展研发和布局。也有地方政府“跟进”宣布支持头部企业打造对标ChatGPT的大模型。 科技巨头成本高企，行业将重新洗牌 业界认为，ChatGPT展现出来的技术潜力，将迅速渗透到更多服务场景，成为多个行业和领域的重要工具，诞生颠覆性和更加明确的应用落地。但与此同时，目前技术尚处于早期阶段，其自身存在较多问题，仍不能回避。 首先，ChatGPT的火爆主要是技术范式改变，从而带来新用户，并没有成熟应用的商业场景。在美国，目前绝大多数用户为“写论文作业”的学生，而其他用户更多为尝鲜使用。同时，学术界因为算力和数据规模限制，研发能力捉襟见肘，产业界因为巨大的投入可能累及企业利润，难以大规模投入资金。 数据显示，OpenAI为了让ChatGPT的语言合成结果更自然流畅，共用了45TB的数据、近1万亿个单词来训练模型。这大概相当于1351万本牛津词典。训练一次的费用就高达千万美元。 除了训练成本，运行成本同样令人吃惊。一名了解ChatGPT研发的内部人士透露，ChatGPT在线上服务时对算力的消耗，公司每年要为每个用户负担的成本高达几十美元，为达到较好的交互质量所做的训练，需要大量资金和硬件支持。 中国工程院院士邬贺铨认为，算力水平的提升和大规模应用，推动预训练大模型的产生。ChatGPT的出现，使得预训练大模型进入可商用化的程度，这是一个很大的进步。但它的应用仍有一定局限性。“它还是一种靠大量的算力来堆砌，能用得起这么大规模的算力来支撑的公司，全世界还是少数。”他说。 无论用ChatGPT去做客服，还是做游戏里的角色（NPC），成本都可能令企业难以承受。这在游戏行业已有先例，业内人士介绍，此前曾有一款游戏引入了AI驱动的NPC，但之后并未普及。其原因主要是因为成本高企，NPC和游戏玩家之间的高质量对话，可能产生每位用户一年2000元人民币的运营成本，游戏公司无法负担。 其次，如何形成新的商业模式，目前仍有较大的不确定性。其中，ChatGPT准确率不高的问题不容忽视。 再次，人工智能技术在虚假信息、学术剽窃、泄露隐私、舆论导向等方面的社会性风险，会因为使用的庞大数据规模被进一步放大。OpenAI也承认，ChatGPT“有时会写出看似合理但不正确或荒谬的答案”。 面对挑战，为何ChatGPT仍然让各大公司蠢蠢欲动，纷纷投入？业内人士认为，因为这是一次颠覆现有商业版块的重大机遇。 “对于一个行业中的挑战者而言，他有机会利用一个技术范式的革命，在一定时间窗口期内，获取新的用户，支出的就是获客的成本。”李笛。 对于牢牢占据市场的大公司而言，这是一场不得不参加的“保卫战”。面对新技术带来的降维打击，如果不跟进，只可能被淘汰。 在国际人工智能联合会理事会前主席、香港科技大学教授杨强看来，“大模型”的发展速度远比业界想象得快。他认为，今后人工智能的商业版图将会走向两个类别，一类是有资源投入，可以做预训练的大公司、大机构，没有特定任务预先做一个模型，成为市场上“赢者通吃”的领先者。另一类是对不同的应用内容进行小模型的训练的垂直行业，将诞生很多“小而美”应用场景。 抑制泡沫，打破“时间壁垒”比“技术壁垒”更重要 随着ChatGPT带来的算法突破，不少企业纷纷宣布在机器人、智能语音/视觉、AIGC智能写作等领域加快研发，新一轮基于内容生产的人工智能应用，有望不断落地，拓展泛AI技术在现实生活中的覆盖范围。 腾讯前沿科技研究中心主任王强认为，以ChatGPT为代表的新技术有望迅速落地多个场景：在搜索引擎领域，通过技术融合优化现有搜索模式，提供更准确信息；在教育、医疗、广告营销、电子商务等专业服务领域，提供内容服务，甚至替代部分初级的专业工作；与智能网联汽车、智能音箱、智能电视等新智能载体结合，满足受众的内容需求。 多位专家认为，ChatGPT的出现可能引发新一轮人工智能科技竞赛，在大语言模型领域的全球竞争已趋白热化。 “OpenAI的成功，就是因为它真的耐着性子，耐着寂寞完成了调试工作。”李笛认为，现在最需要的是经验、人才和耐心，潜心钻研技术，保持研发定力。 一些行业巨头、地方政府开始出现“大干快上”的苗头，一些投资人开始挖掘人才。美团联合创始人王慧文在社交媒体发帖称出资5000万美元打造“中国的OpenAI”，望揽业内顶级研发人才。 “一些人现在搞ChatGPT，一看半年前，还在搞元宇宙、区块链，不少资本缺乏坐冷板凳的精神，缺乏工匠精神。现在更需要打破的是‘时间壁垒’，而不是‘技术壁垒’。” 一名业内人士表示，“有的研发人员工资预期一下翻了几番，但是产品还是一样，竞赛式的盲目扩张必然造成算力资源的无谓浪费。” 今年2月初，我国某家初创公司发布智能程序号称向ChatGPT宣战，并上线相关产品，但不久后，其微信小程序便无法打开。 杨强认为，应避免行业的泡沫，推动产业稳定发展，减少过度开发、集中上马、资源浪费等问题。同时，针对ChatGPT可能出现的学术伦理规范、社会秩序等问题，应号召业界进行推演，并在技术研发中采取备案、语料库筛查等方式予以规避。 +1 【纠错】 责任编辑： 陶欢
本文来自微信公众号：计算广告（ID：Comp_Ad），作者：大数据仁波茄，题图来自：视觉中国去年12月，咱们已经聊过一回ChatGPT。过了俩月，这东西更是红得发紫了。而且，在中国的泛IT圈，它掀起了一场前无古人的吹牛皮大赛！不信，您瞧瞧下面这些新闻：昆仑万维：今年内发布中国版类ChatGPT代码开源360：计划推出类ChatGPT技术的demo版产品少林寺：与百度合作，接入类ChatGPT智能对话产品寺库：将对ChatGPT相关技术深入研究和拓展水滴：公司内部已经开展类ChatGPT应用测试百度：将于3月推出类似ChatGPT的聊天机器人阿里：正研发类ChatGPT产品，目前正内测华为：在类似 ChatGPT 方向的布局讯飞：类ChatGPT技术将于5月落地王慧文：带资5000万刀打造中国版ChatGPT咱们再看看所谓“ChatGPT概念股”里，某天股价长势最喜人的几家，赵丽蓉讲话：我瞅这些咋就不像唱评戏的呢？当然，这里面肯定有认真消化和研究技术的实践者，不过在吹牛大赛的氛围下，除非产品问世，否则也就难辨雌雄了。而对其中的吹牛选手来说，除非有一天虾酱也成了海鲜，他们与ChatGPT的距离，才会跟牛郎星和织女星的距离差不多。我并不是大赛种子选手，当然也不是骂街来的。想知道吹牛大赛的结果，您得了解这项新技术的一些底层逻辑：它的初心是解决什么问题？它与之前的技术有什么进展？复现它的难度和门槛在哪里？理解了这些，到底谁是真冠军，谁是吹牛皮，您可以自行判断。纯粹讲技术的干货，很多大佬写过，只是多数读者未必看得懂。所以，我想完全用浅显的例子和比方，帮大家粗浅地理解一下它的原理和背景。不过请谨记，这些并不是严肃讨论，只当是扩充一下茶余饭后的谈资吧。大语言模型是弄啥的ChatGPT这东西，是大语言模型（Large Language Model， LLM）的一种。有多大呢？大约1750亿个参数。您想想，一个参数就算4个字节，1750亿个......反正不老少的了！没错，不光是ChatGPT，从2018年谷歌的Bert开始，当今的语言模型研究界就有个无奈的共识：大，才是真的好。这虽然是经过实践效果检验过的技术路线，但是具体到语言的建模，还是有一些根本原因。长时间以来，人类对自己的语言本质到底是什么，一直是搞不大清的。一度大家认为，语言就是“语法结构?+ 词汇”：词之间的关系框架确定了，再把词意套进去，就能明白一句话说的是啥了。所以在我刚进入AI领域的那个年代，对句子结构的自动分析和对词义的建模，都是自然语言处理的重要任务。可是实际上，这个认识是有根本缺陷的！为什么这么说？您看看下面这一对句子：爸爸抱不动儿子了，因为他太胖了 。爸爸抱不动儿子了，因为他太瘦了。稍微琢磨一下就能发现：第一句里的“他”，指代的是“儿子”；而第二句里的“他”，指代的是“爸爸”。这两句话的结构一模一样，只有一个字做了反义替换，为什么连指代关系都变了呢？很显然，仅仅靠这两句话本身的信息，是没法解释这样的理解过程的。也就是说，人类在理解语言的过程中，一定有一个庞大的常识和背景知识网络，在背后默默做支撑。打个比方，要理解一句话的意思，字面上的信息只是冰山露出来的那一小块，而水面下还有庞大的一坨常识和背景知识，那才是理解的关键。细想想这也很好理解：一个人要善解人意，那总得见多识广，通晓世情，机器又何尝不是如此呢？既然如此，何不干脆就把人类能收集到的各种语料，从教授讲课到泼妇骂街，从医学杂志到黄色网文，一古脑儿地塞到一个巨大的模型里，看看他能学出啥来，如果真学得有点模样，再去理解人类语言，是不是能有所突破？一般人即使敢想也不会干，会干也玩不起，因为这个模型的规模实在是太太太大了！可是，谷歌有钱又敢干，他们在2018年出了个Bert大模型，庸俗化地说，就是上面的思路，这个模型一出，在学术界就引起了轰动，虽然说当时离今天我们看到的ChatGPT还有不少差距，但是在一些学术性指标上，把自然语言理解这个多年徘徊不前的任务，往前推进了一大步。就这样，又一次在“大力出奇迹”的思路下，我们似乎看到了理解语言的一线曙光。ChatGPT的独门武功虽然ChatGPT也属于大语言模型的范畴，但是，它可能是第一个人类愿意坐下来跟它盘道的聊天机器人，产业里程碑的意义和影响力显然已经高于Bert这个前辈。那么，ChatGPT有什么独门武功呢？是不是就因为模型更大，数据更多，才力压Bert的呢？不能这么说，虽然它们底层的一些技术如Transformer等一致，但是OpenAI在问题的定义上，一开始就选择了一条更根本、也更困难的道路。与自然语言相关的任务有很多，比如翻译、客服、甚至是编程、写诗。我们好不容易搞了个大模型，怎么用在这些五花八门的任务上呢？按照谷歌的设想，大模型只做通用背景知识的学习建模，目标也简单：从一个句子里扣掉几个词，让大模型做完形填空，看它是不是能填准。如果要解决某个具体领域的任务，那么就利用领域数据，把通用大模型捏咕捏咕，打造一个领域模型来用。在这个路线下，如果有个初中数学答疑的领域AI，即使你问他什么数学问题它都对答如流，但是一旦跳出来问一句“今晚上你觉得我应该吃点啥”，会立刻不知所云，愤而死机。那么，OpenAI是如何定义问题的呢？他们认为，不应该一个领域搞一个模型，而是应该根据聊天过程中用户的提示，也就是“Prompt”，随时灵活地切换任务模式。如果这个能实现，上面例子里从数学课里跳出来讨论晚饭的场景，你就不会觉得对面的数学特级教师瞬间变成二傻子了。也就是说，谷歌的思路，是给你准备一个排的专业秘书，但是每人只会一样；而OpenAI的思路，是给你搞一个全能秘书，白天有事都是这秘书干。当然，晚上人家就不管了。显然，后面这个难得多了。所以，OpenAI以前发布的模型，都没能达到比谷歌更惊艳的体验。然而这次，它显然是跨越了这个体验门槛。其实仔细分析一下，就信息质量而言，ChatGPT胡说八道的地方还多了去了。但是，让大家感到惊艳的，是这家伙你问什么都接得住：翻译、编程、写作文，先不论结果如何，人家没有二傻子一样的盲区。而这就是OpenAI的问题定义长期努力的结果。当然，除了这个更远大的目标，ChatGPT在学习技术上，也有一些效果很好的突破，其中最关键的是RLHF（Reinforcement Learning from Human Feedback），“依据人类反馈的强化学习”。这是句黑话，大家不用理它。实际上，它就是在大语言模型的学习过程中，加入了“模拟考试”的环节。原来的大模型，就像是“题海战术”：把所有收集到的语料往里一堆，你自个儿练去吧。当然，见得多了，就算是没有老师点拨，这家伙的应试能力肯定也会提高。而这次的ChatGPT，加入了这么一个环节：你练完了，我找个老师跟你聊，看你哪句答得不像话，就给个小叉叉，这不就是模拟考试嘛！拿着这带小叉叉的试卷回去再题海战术，这么一轮一轮来，成绩提高得可就快了。咱们这儿说说简单，上面这一大堆被我庸俗化了的思路，要变成具体的计算公式和解决方案，那可真不是件容易的事儿。绝不是只要有钱、敢吹就能搞定的。中文ChatGPT难度何在说回中国IT圈的吹牛大赛。除了嘴皮子功夫，要在中国搞出ChatGPT水准的技术和产品，有哪些核心的门槛和难度呢？依我看，这里有两个硬条件、一个软条件：第一个硬条件，当然是把技术基本吃透。这事儿，能实践参与的就不多：学术界因为算力和数据规模限制，靠自己的力量基本无法复现这些研究，最多也就是推推公式；产业界因为巨大的投入可能累及企业利润，能够大规模投入的也是凤毛麟角。不过，我觉得这一点还只是时间问题：资本市场热成这样，牛皮也都吹了一通，成本上的顾虑已经不重要了。正如Yann Lecun说的，ChatGPT其实也并非在底层技术上有巨大突破，这话虽然有点酸葡萄，倒也还算比较公允。所以假以时日，几家大厂至少消化现有的ChatGPT技术，然后堆算力搞个中文版出来，我还是比较乐观的。第二个硬条件，是数据的质和量。说到这个，我们就不得不有点悲观了：首先，中文互联网总体的信息量，比起英文互联网有着数量级的差别。除了数据的量，数据的质也有问题。我们知道，严肃的知识内容，比方说最新的科技期刊、金融分析等，几乎都以英文行于世。巧妇难为无米之炊，从这个意义上说，即使是OpenAI原班人马搞一遍中文模型，我感觉在对话流畅程度、信息正确性等方面，也会有一定差距。这个倒也不是完全没办法――把英文的语料翻译过来就得了呗。不过那就还要依赖翻译的质量，这路就越走越绕了。说个具体例子，要不是微软收购了GitHub，你以为ChatGPT能学会写代码？当然，中文互联网也不是全无优势。ChatGPT解决的是个人机对话问题，人人对话数据显然是有直接价值的重要语料，而在这个领域，有家中国公司的数据，可以说在全球范围内那是蝎子拉屎――独一份儿。只不过，这家公司是否愿意积极投入基础研究，就不得而知了。再说说软条件，这个我觉得才是最难的：发自内心的长期主义。ChatGPT一出，所有的一二级市场，都蠢蠢欲动起来了。这两天，我也接到很多找我交流的电话，让我这个二手科学家都应接不暇。他们最急迫地想得到答案的问题是：这东西能在哪些商业场景落地？市场潜力有多大？从这些问题里，我感觉大家有个误解：似乎随着ChatGPT的推出，自然语言和人机对话的研究，就到了关底了，得赶紧想想摘桃子、分蛋糕的事儿。哪儿有那么容易啊！其实，这次的ChatGPT让很多做垂直领域自然语言处理的公司非常尴尬：前几年做法律文书的、广告文案的，你领域化深耕的哪个模型，现在还不如人家通用模型啦！这就好比大家一起去野外探险，发现个铜矿，有几位就赶紧掉队挖起来了，可是等人家再往前走找到金矿，您挖的那点铜，早没人要了。我们上面也说了，ChatGPT的成功，某种意义上要归功于它开始就选择了一条更曲折但是更光明的道路。包括谷歌在内，这些一流团队的一个共同特质，是在完全看不见目标还有多远、遑论有什么商业模式的漫漫长夜里，还能坚定地努力，并不戚戚于大概率的失败。这样的长期主义，才是今天中国的AI研究最需要的。否则，即使这回你跟上了，下回人家再发现个钻石矿，谁能保证你还一定能跟上？当然，咱也不能站着说话不腰疼，这么做需要有足够的家底儿，要不然走着走着饿死了咋办。不过，对中国的一些大厂来说，连送个菜都能先砸几百亿，我觉得他们的家底儿根本不是问题。好了，咱们聊了这么多，那么中国正在如火如荼举行着的ChatGPT吹牛皮大赛，结果将会如何，您是不是已经有了自己的判断？本文来自微信公众号：计算广告（ID：Comp_Ad），作者：大数据仁波茄 海量资讯、精准解读，尽在新浪财经APP
ChatGPT和人工智能的关系 ChatGPT 对程序员的帮助
人工智能和gpu,人工智能tts,人工智能gpt3,人工智能和fpga图片来源：视觉中国 多年来，埃隆・马斯克一直警告我们，未来某一天人工智能会淘汰人类。得益于山姆・阿尔特曼的ChatGPT，这一天可能比我们预想的更早到来。ChatGPT引发了极大的兴趣，使C3.ai等公司的股价在今年已经翻了一番，但有些股票却因此暴跌。现在，阿尔特曼的公司开发的人工智能即将成为十年来最具颠覆性的技术，使许多行业面临被机器人取代的风险。 在哪些人将被社会淘汰的激烈讨论中，阿尔特曼试图平息人们的担忧。他表示，他的公司开发的革命性的聊天机器人和其他类似技术，将让人类获得自由，并且在这个过程中至少会让一些人获得财富。阿尔特曼在周一写道：“我认为人工智能将是最强大的经济赋权力量”，也是“让许多人获得财富”的最强大力量。 他在Twitter上有130万粉丝。这条乐观的公开信息显然远不像他上个月发布的信息那么含蓄。他上个月对风险投资者表示，最糟糕的情况是“看不到光明”。 摄影：JASON REDMOND ―― 法新社经盖蒂图片社提供 “我认为人工智能将是最强大的经济赋权力量，而且许多人会获得财富” ――OpenAI联合创始人兼首席执行官 山姆・阿尔特曼 2023年2月13日 自从ChatGPT发布短短几周以来，人工智能聊天机器人已经在医疗、法律和商务等领域得到初步应用，并且可以按莎士比亚的风格写散文和诗歌。 聊天机器人通过接受海量数据集训练，其模仿人类智力的能力未来只会变得越来越强大。知识性职业经常被认为面临被人工智能取代的风险最小，但如今这些职业可能很快就会被摆上砧板，成为牺牲品。 有反对者认为，这种乐观的态度与过去的炒作一样惊人地相似 即使在硅谷，也并非所有人都愿意接受阿尔特曼的观点。 圣何塞研究公司Creative Strategies的首席分析师、在人工智能技术领域发表过文章的作者奥列弗・布兰查德回应称：“人工智能也可能成为我们这个时代全球权利剥夺最大的力量。例如，突然大规模的人类被淘汰。任何一种情况都可能发生。” 可以说全球化大幅提升了全球的生活水平。然而，报酬丰厚的制造业岗位被转移到海外，也消灭了落后的社区，从而引发了目前的保护主义反弹。 支持市场自由化的媒体Reason曾写道，如果唐纳德・特朗普没有凭借对美国生产的汽车征收25%关税的承诺，将美国制造业中心附近的铁锈带州从蓝色翻红，转为支持共和党，他不可能当选。（之后，通过讨好工会吸引工薪阶层重新支持民主党，一直是拜登政府的关键政策。） 阿尔特曼的乐观态度，与加密货币圈的行话WAGMI（“我们一定会成功”）惊人地相似。WAGMI充分体现了2021年加密货币泡沫期间的市场狂热，但去年的熊市使市场规模缩水2万亿美元，却证明这只是妄想而已。 美国观察研究基金会（Observer Research Foundation America）的执行董事德鲁瓦・贾伊尚卡尔表示：“这种观点或许会成真。但更有可能根本不会实现。无论如何，这种如同加密兄弟般过于乐观的心态令人不敢恭维。” 马斯克认为人类需要升级“湿件” 有趣的是，阿尔特曼的公司OpenAI得到了马斯克的投资，而马斯克曾经警告人工智能对人类的威胁，是该领域最重要的预言者之一。特斯拉（Tesla）CEO表示，就连巴拉克・奥巴马也不愿意听从他的警告。 他在2017年说道：“我尝试说服人们放慢人工智能开发速度，对人工智能进行监管。但这一切都是徒劳。” 在他说这番话一年前，马斯克参与创建了一家脑机接口公司，部分原因是他认为人工智能是“关乎人类存亡的威胁”，将使上帝赋予人类的能力彻底作废。 而通过在大脑皮层植入一枚他的Neuralink微芯片，人类可以用机器升级增强其生物组织，又称湿件。 这位富有远见的创业者认为，只有这样，人类这个物种未来才能具有竞争力。（讽刺的是，阿尔特曼在周一称赞特斯拉CEO，在人们对未来的乐观情绪下降时，“提高了集体的雄心水平”。） 马斯克曾自称是人工智能领域的预言家“卡珊德拉”。在被问到开发一款人形机器人是否符合特斯拉加快实现可持续交通的核心使命时，他给出了否定回答。 特斯拉拥有专业知识和资金，对于创业者而言这已经足够了。 马斯克在2021年8月表示：“所以我认为，我们应该能成功。即使我们不成功，还有其他人。” 换言之，硅谷可以没有人类，但人类心中的硅谷精神却不会消失。（财富中文网） 作者：CHRISTIAAN HETZNER 翻译：刘进龙 审校：汪皓
ChatGPT是颠覆性突破吗 chatgpt爆火的准冷思考
chatgpt是什么意思,chatgpt国内能用吗,chatgpt怎么读,chatgpt注册图集 新华社北京2月21日电 2月21日,《新华每日电讯》发表题为《ChatGPT新观察：抑制泡沫，耐住性子》的报道。 推出2个月即拥有1亿月活用户，ChatGPT成为历史上增长最快的消费者应用程序。该如何理解这一现象级应用的“爆红”？目前新技术发展还面临哪些挑战？人工智能将如何引领全球出现新的产业变革？在火热的新技术带来巨变的同时，也需要一场静下心来的冷思考。 距成熟仍任重道远 近日，ChatGPT几乎一夜之间火遍全球。因为带有具备逻辑性的流畅对话和交互能力，使得它备受关注，讨论不绝于耳。在它横空出世之前，人工智能发展一度进展缓慢，甚至被解读为“要凉了”，而现在新技术再次被各界广泛关注，各个投资机构闻风而动，相关概念在资本市场被热炒。 “外界总把ChatGPT当成这次创新浪潮的点，事实上这个突破点不是ChatGPT，而是大语言模型。”原微软（亚洲）互联网工程院常务副院长、长期从事AI智能对话机器人研发的小冰公司首席执行官李笛对记者介绍，所谓大语言模型，就是利用大规模的文本数据进行训练，能够生成自然语言的人工智能模型。ChatGPT并不是技术本身，它只是“大模型”的产物和尝试。 “大语言模型”的成功，意味着之前卡住人工智能自然语言处理发展的技术瓶颈被突破，也预示着这一技术路线，在未来五年中将诞生很多创新。 北京智源人工智能研究院研究员马雷说：“投资界、互联网行业都在急迫地寻找新的增长点和创新点，此次新技术应用的出现正好契合了社会的期待值，从而引起了全球的广泛关注。” 不仅如此，ChatGPT的技术成熟度仍有较大的提升空间。多位人工智能技术专家坦言，以ChatGPT为代表的大语言模型的调试，还处于“手工作坊”的阶段，其基本技术标准和模式尚未形成行业共识。 李笛说，“调试”才是这一技术的重中之重。在训练模型后，要真正让一个模型变得更加好用，同时要符合商业规律，至少还要花9倍的资金成本和时间成本进行调试。 “为何ChatGPT的英文输出结果的逻辑性和准确性要远大于中文结果？就是因为OpenAI将调试的大量精力花在了英文数据而非中文内容。”他说。 全球各大商业巨头已加速布局。在国际上，微软已经发布由ChatGPT支持的最新版本的Bing（必应）搜索引擎和Edge浏览器。微软CEO纳德拉称：“搜索引擎迎来了新的时代”。美国搜索巨头谷歌公司随即跟进，2月初展示了其研发的聊天机器人巴德（Bard），并计划大范围推广。 国内企业亦加紧布局，百度宣布3月将推出中国版的ChatGPT“文心一言”。此外，阿里、腾讯、小米、字节跳动、快手等互联网科技公司也纷纷加入相关领域，开展研发和布局。也有地方政府“跟进”宣布支持头部企业打造对标ChatGPT的大模型。 科技巨头成本高企，行业将重新洗牌 业界认为，ChatGPT展现出来的技术潜力，将迅速渗透到更多服务场景，成为多个行业和领域的重要工具，诞生颠覆性和更加明确的应用落地。但与此同时，目前技术尚处于早期阶段，其自身存在较多问题，仍不能回避。 首先，ChatGPT的火爆主要是技术范式改变，从而带来新用户，并没有成熟应用的商业场景。在美国，目前绝大多数用户为“写论文作业”的学生，而其他用户更多为尝鲜使用。同时，学术界因为算力和数据规模限制，研发能力捉襟见肘，产业界因为巨大的投入可能累及企业利润，难以大规模投入资金。 数据显示，OpenAI为了让ChatGPT的语言合成结果更自然流畅，共用了45TB的数据、近1万亿个单词来训练模型。这大概相当于1351万本牛津词典。训练一次的费用就高达千万美元。 除了训练成本，运行成本同样令人吃惊。一名了解ChatGPT研发的内部人士透露，ChatGPT在线上服务时对算力的消耗，公司每年要为每个用户负担的成本高达几十美元，为达到较好的交互质量所做的训练，需要大量资金和硬件支持。 中国工程院院士邬贺铨认为，算力水平的提升和大规模应用，推动预训练大模型的产生。ChatGPT的出现，使得预训练大模型进入可商用化的程度，这是一个很大的进步。但它的应用仍有一定局限性。“它还是一种靠大量的算力来堆砌，能用得起这么大规模的算力来支撑的公司，全世界还是少数。”他说。 无论用ChatGPT去做客服，还是做游戏里的角色（NPC），成本都可能令企业难以承受。这在游戏行业已有先例，业内人士介绍，此前曾有一款游戏引入了AI驱动的NPC，但之后并未普及。其原因主要是因为成本高企，NPC和游戏玩家之间的高质量对话，可能产生每位用户一年2000元人民币的运营成本，游戏公司无法负担。 其次，如何形成新的商业模式，目前仍有较大的不确定性。其中，ChatGPT准确率不高的问题不容忽视。 再次，人工智能技术在虚假信息、学术剽窃、泄露隐私、舆论导向等方面的社会性风险，会因为使用的庞大数据规模被进一步放大。OpenAI也承认，ChatGPT“有时会写出看似合理但不正确或荒谬的答案”。 面对挑战，为何ChatGPT仍然让各大公司蠢蠢欲动，纷纷投入？业内人士认为，因为这是一次颠覆现有商业版块的重大机遇。 “对于一个行业中的挑战者而言，他有机会利用一个技术范式的革命，在一定时间窗口期内，获取新的用户，支出的就是获客的成本。”李笛。 对于牢牢占据市场的大公司而言，这是一场不得不参加的“保卫战”。面对新技术带来的降维打击，如果不跟进，只可能被淘汰。 在国际人工智能联合会理事会前主席、香港科技大学教授杨强看来，“大模型”的发展速度远比业界想象得快。他认为，今后人工智能的商业版图将会走向两个类别，一类是有资源投入，可以做预训练的大公司、大机构，没有特定任务预先做一个模型，成为市场上“赢者通吃”的领先者。另一类是对不同的应用内容进行小模型的训练的垂直行业，将诞生很多“小而美”应用场景。 抑制泡沫，打破“时间壁垒”比“技术壁垒”更重要 随着ChatGPT带来的算法突破，不少企业纷纷宣布在机器人、智能语音/视觉、AIGC智能写作等领域加快研发，新一轮基于内容生产的人工智能应用，有望不断落地，拓展泛AI技术在现实生活中的覆盖范围。 腾讯前沿科技研究中心主任王强认为，以ChatGPT为代表的新技术有望迅速落地多个场景：在搜索引擎领域，通过技术融合优化现有搜索模式，提供更准确信息；在教育、医疗、广告营销、电子商务等专业服务领域，提供内容服务，甚至替代部分初级的专业工作；与智能网联汽车、智能音箱、智能电视等新智能载体结合，满足受众的内容需求。 多位专家认为，ChatGPT的出现可能引发新一轮人工智能科技竞赛，在大语言模型领域的全球竞争已趋白热化。 “OpenAI的成功，就是因为它真的耐着性子，耐着寂寞完成了调试工作。”李笛认为，现在最需要的是经验、人才和耐心，潜心钻研技术，保持研发定力。 一些行业巨头、地方政府开始出现“大干快上”的苗头，一些投资人开始挖掘人才。美团联合创始人王慧文在社交媒体发帖称出资5000万美元打造“中国的OpenAI”，望揽业内顶级研发人才。 “一些人现在搞ChatGPT，一看半年前，还在搞元宇宙、区块链，不少资本缺乏坐冷板凳的精神，缺乏工匠精神。现在更需要打破的是‘时间壁垒’，而不是‘技术壁垒’。” 一名业内人士表示，“有的研发人员工资预期一下翻了几番，但是产品还是一样，竞赛式的盲目扩张必然造成算力资源的无谓浪费。” 今年2月初，我国某家初创公司发布智能程序号称向ChatGPT宣战，并上线相关产品，但不久后，其微信小程序便无法打开。 杨强认为，应避免行业的泡沫，推动产业稳定发展，减少过度开发、集中上马、资源浪费等问题。同时，针对ChatGPT可能出现的学术伦理规范、社会秩序等问题，应号召业界进行推演，并在技术研发中采取备案、语料库筛查等方式予以规避。 +1 【纠错】 责任编辑： 陶欢
版权声明：除非特别标注原创，其它均来自互联网，转载时请以链接形式注明文章出处。
