淘优惠

淘优惠

丁磊是什么时候玩区块链的 丁磊比特币最新信息

热门文章 0

淘宝搜:【天降红包222】领超级红包,京东搜:【天降红包222】
淘宝互助,淘宝双11微信互助群关注公众号 【淘姐妹】

丁磊是什么时候玩区块链的呢,区块链徐磊,丁磊靠什么游戏发家的,丁磊为什么做游戏

新的一天,大家早上好

今天已经是上班的第二天了,你的状态有没有回来进入工作状态呢?不管怎样,都好好收收心吧,毕竟距离下一个假期也就仅剩42天啦。

话不多说,先来看今天的科技要闻!

1、丁磊辟谣10亿买进比特币:一个比特币都未曾拥有过

针对网上流传的"网易创始人兼CEO丁磊10亿买进96000个比特币"消息,丁磊昨日辟谣称,消息不属实,他一个比特币都未曾拥有过,但很关注区块链的发展。

丁磊也发布微信朋友圈称,“通过万能的朋友圈澄清一下,自始至终我一个比特币也没有拥有过”。

2、“百万英雄”诉搜狗索赔500万:“答题”时自动显示答案

因认为使用搜狗输入法参与“百万英雄”答题,搜狗输入法会提供 “答题”助手页面,该页面可以遮挡评论、自动显示答案,“百万英雄”的共同举办方和运营方今日头条和运城市阳光公司以不正当竞争为由诉至法院,要求判令搜狗公司立即停止不正当竞争行为、赔礼道歉并赔偿经济损失500万元和合理支出50万元。日前,海淀法院受理了此案。

今日头条和运城市阳光公司认为,搜狗对“百万英雄”活动的评论界面及评论功能进行恶意干扰及遮盖,破坏了“百万英雄”服务的完整性和良好用户体验,严重妨碍、破坏“百万英雄”的正常运行。搜狗实施的自动显示答案的行为,更是严重破坏了“百万英雄”活动的公平性,导致用户对“百万英雄”活动的评价降低,损害“百万英雄”活动的知名度和美誉度。

3、乐视网:未形成任何实质性的重整方案及意向

昨日下午,乐视网发布公告称,关于媒体所提到的“重整方案”,截至目前,公司未形成任何实质性的方案及意向,后续相关信息请以上市公司公告为准。

此前媒体报道称:“乐视网内部正在研究制定重整方案。但重整方案也存在很大的不确定性,接近融创集团高层的人士称,‘至少需要三个月,乐视网才能落定。’此前,融创在乐视网持股8.56%,仅次于乐视系创始人贾跃亭,不过后者已经将全部25%的股权尽数质押,且早已跌破了平仓线。这也意味着未来乐视网的股份可能比较分散。”

4、开工第一天雷军打鸡血:2017Q4小米国内出货量增长57.6%

昨日,春节后上班第一天,小米董事长雷军为员工发新年红包,并发布微博为员工打气。

微博称,2017年,小米在国际业务上表现极其出色,其实,在中国市场上也相当不错。据IDC 2017Q4报告,当中国手机市场下降15.7%,而小米增长了57.6%,相信一定能重返中国第一。

5、《快公司》公布世界最具创新力公司榜单 腾讯位列全球第四

近日,着名国际商业媒体《快公司》(Fast Company)发布“2018年世界最具创新力公司榜单”。全球TOP50榜单中,苹果、Netflix、Square占据榜单前三,第四次入选全球TOP50榜单的腾讯超过亚马逊,位列全球第四,刷新了中国公司的历史最高排名。同时,在其评选的中国公司子榜单中,腾讯位列第一。

作为全球榜单第四名和中国榜单第一名,《快公司》肯定了腾讯在2017年所获得的成绩,指出“2017年11月,腾讯推出了数字阅读公司——阅文集团,以10亿美元的IPO价格为全球近2亿用户提供1000万本书籍,并挖掘其图书资源,开发电影,电视剧等,通过微信、媒体分发。腾讯拥有世界上最大的游戏公司,也开始基于游戏和其他知识产权,制作节目、投资电影等,例如游戏《王者荣耀》就被其打造成一档明星综艺游戏节目。”

6、王健林团拜会称万达是经受得住冲击的企业

昨日(2月22日),春节后上班第一天,万达集团循惯例举行2018年新春团拜会,在团拜会上万达集团董事长王健林作简短致辞,在致辞中,王健林表示在骤然而来的压力和冲击面前,万达经受住压力,经受住风波,并且通过自己短短半年的努力,基本上扭转了局面。

同时王健林还表示将甩掉一些过重的包袱,彻底发展轻资产为主的战略。

7、摩拜发布春节大数据:北京最爱出境游 上海最“洋”广州最“燃”

昨日,摩拜单车发布全球春节骑行大数据报告。

报告显示,春节期间中国用户在全球骑行不停歇,其中北京市民在海外骑行最活跃,成都市民跻身海外骑行活跃Top 5;在海外城市中,去新加坡旅游的中国用户热衷用共享单车代步,使得狮城成为海外骑行最热门城市。此外,广州市民通过骑行燃烧的卡路里最多,成春节最“燃”城市;上海骑行用户的国籍数量最多元,成春节最“洋气”城市。

据悉,全球春节骑行大数据报告以北京、上海、广州、深圳及新加坡、米兰、伦敦、悉尼、华盛顿等200个海内外城市的摩拜骑行数据为样本的。

8、刷脸得福利,李彦宏派的开工利是很AI

昨日,百度董事长兼CEO李彦宏给员工送上一份很有AI的开工福利,员工使用工区自动贩卖机进行人脸识别系统支付,有机会获得免单、奖品等福利。

员工“刷脸”支付时,李彦宏会突然现身屏幕,对员工大声打招呼:“Hi,我记住你了”。接着,李彦宏在视频里解释,“别紧张,我是Robin。新年第一单,我请客,感谢你的每一分努力”。

随后,他免去了员工的下单费用,并向员工“手动比心”,送上新年快乐的祝福。幸运的员工除了可以获得免单福利和新年祝福外,还能从其购买的产品包装上找到一个中奖二维码,只要扫描二维码就能获得神秘好礼。

9、美图任命张首晟教授为独立董事 加速区块链领域布局

昨日,美图公司(01357.HK)公告公司董事变更,罗宝文辞去公司独立非执行董事、提名委员会及薪酬委员会成员职务,以投入更多时间专注于她的其他工作承诺。同时,公司任命张首晟教授为独立非执行董事、提名委员会及薪酬委员会成员,任命即日起生效。

资料显示,张首晟是著名的物理学家,他是斯坦福大学物理系讲座教授、美国国家科学院院士、美国人文与科学院院士及中国科学院外籍院士。张首晟在高温超导、量子霍尔效应、自旋电子学和强关联电子系统等研究方向上,都取得大量国际一流的原创科研成果。

10、摩拜单车将按用户信用等级收费,信用差骑半小时收100元

日前,海淀法院审结了原告北京智享人生物业管理有限公司与摩拜(北京)信息技术有限公司无因管理纠纷案。经审理,海淀法院虽最终认定北京智享人生物业管理有限公司的相关行为不构成无因管理,并驳回了其诉讼请求。但审理过程中,发现共享单车在停放秩序方面确有可改进的空间,并据此向摩拜公司发送了司法建议,摩拜公司于近期给予回复。

回函中,摩拜公司表示高度重视司法建议的内容,研讨并上线了新版的信用分系统。相关奖惩措施包括:高信用等级可以获得更高的现金红包奖励以及优先体验摩拜推出的最新服务;如果用户出现不文明用车行为,其信用分降为一般等级,摩拜将会以当前单价的双倍向用户收取骑行费;而当信用等级降为较差级别时,收取的骑行费将会变为每30分钟100元。

11、百度NLP团队登顶MARCO阅读理解测试排行榜

2月21日,春节假期最后一天,百度自然语言处理团队研发的V-Net模型以46.15的Rouge-L得分登上微软的MS MARCO(Microsoft MAchine Reading COmprehension)机器阅读理解测试排行榜首。

对此,微软 MARCO官方 twitter也发文表示祝贺。

MARCO是微软基于搜索引擎BING构建的大规模英文阅读理解数据集,包含10万个问题和20万篇不重复的文档。

12、菜鸟发布春节快递数据:中西部提速 成都平均配送时间最短

昨日,是2018年春节假期后的首个工作日。菜鸟网络方面介绍, 快递业也正在如期恢复全面运行,“春节不打烊”的物流服务进入收尾阶段。

2018年春节期间,菜鸟平台主要为天猫超市、家电、家居以及天猫国际等平台类目提供“商品照常买、物流照常送”的不打烊服务。

数据显示,春节包裹量最大的前十个城市分别是:上海、北京、杭州、广州、深圳、天津、苏州、成都、南京、武汉。北上广深等一线城市,成都、西安等中西部城市,部分品类都已经实现春节平均配送时间不超过24个小时。

13、华为至少一半手机今年将采用自家海思处理器

近年来,智能手机厂商设计芯片已经成为一个趋势,这也给传统的手机芯片供应商造成了压力。据台湾媒体最新消息,今年,华为还将继续扩大使用自家处理器的比例。

华为旗下有海思公司,专门设计手机用系统芯片,整合了应用处理器以及基带处理器,麒麟系列处理器在手机中的表现获得了消费者认可。另外,海思并无芯片制造厂,所有芯片委托台积电代工生产。

据台湾媒体引述业内消息人士报道称,去年,华为一共交付了1.53亿部智能手机,其中只有7000万部手机使用了海思公司的芯片,占比不到一半。

14、快递业春节不打烊 部分快递企业加收10元服务费

每年除夕至正月十五期间,很多快递员纷纷返乡过春节,导致大城市中的快递处于季节性的半停滞状态——收发效率变慢,包裹到达延期。不过,今年春节期间笔者发现,包括EMS、顺丰、圆通、韵达、京东物流、苏宁物流等在内的国内多家主流快递企业表示提供“春节不打烊”服务,以轮岗值班的制度保障各网点的正常运营,便利百姓生活。

不过,春节期间加班也不能白辛苦。考虑到春节期间的业务量和成本等因素,韵达等部分快递企业会临时加收10元的服务费。对于春节期间收取快递服务费,不少民众表示非常理解。

1、美国运营商T-Mobile对iPhone X降价200美元

苹果iPhone X手机销售陷入低迷,这给全球的零部件供应商和运营商都造成了困扰,供应商纷纷削减产量,而运营商则开始采取灵活措施刺激销售。据外媒最新消息,美国一家运营商日前宣布,从本周五开始将对iPhone X手机降价200美元。

据美国科技新闻网站AppleInsider报道,提供这一优惠措施的是美国第三大移动运营商T-Mobile,这是全美四家全国性运营商之一。

T-Mobile表示,用户享受200美元的降价需要满足几个条件,比如交回一部旧手机,如果是购买iPhone X 64GB版本中,用户第一次支付280美元,此后两年内每个月支付30美元。消费者一共支付1000美元。另外需要购买相关的通信资费。

2、美警方逮捕一家比特币证券交易所负责人

据外媒报道,美国警方周三逮捕了一家比特币证券交易所负责人蒙特尔( Jon Montroll)。

据国外媒体CoinDesk报道,美国司法部、联邦调查局和美国证券交易委员会对蒙特尔采取了联合行动,司法部将提出控罪。

美国证交会之前已经对此人提出了单独的民事起诉,罪名包括未经批准运营证券交易所,另外欺诈投资人。

3、马斯克宣布退出参与创立的人工智能组织OpenAI

日前消息,特斯拉CEO马斯克(Elon Musk)即将从人工智能组织OpenAI的董事会离职。马斯克此前协助创立了OpenAI。

本周二,OpenAI宣布,马斯克将从该组织离职,从而回避因特斯拉工作而可能造成的利益冲突。

据悉,OpenAI创立于2015年,获得了10亿美元投资。这是个非营利机构,专注于研究人工智能技术,以及人工智能的社会影响和安全风险。该组织开发的人工智能技术能操作“Dota 2”等游戏。

4、高通回应博通降低报价:让收购要约更糟糕

周三,芯片制造商博通宣布,将收购高通的报价从1210亿美元降低到1170亿美元,原因是高通提高了收购荷兰恩智浦公司的报价,对此高通回应称,博通的举动让本来就没有吸引力的收购要约更加糟糕。

高通收购荷兰恩智浦的计划由来已久,由于对方股东一直对报价不满。周三,高通将收购价格从380亿美元提到到了440亿美元。

随后,博通公司宣布,将之前提出的高通收购价格从1210亿美元,调低到1170亿美元(每股报价降低到79美元)。一般认为,博通并不认同高通收购恩智浦公司的计划。

5、英特尔发布漏洞补丁 有望修复部分芯片“幽灵”漏洞

据外媒报道,英特尔本周发布了针对Spectre漏洞的一批补丁。Spectre有变体1和变体2两种变体,而另一个严重漏洞Meltdown实际上是第三个变体,且只影响英特尔处理器。针对Meltdown的漏洞此前已经发布。

一个月前,英特尔提供的补丁引起了系统崩溃和重启,因此不得不回退。目前,英特尔提供了针对Kaby Lake和Coffee Lake系列CPU的稳定补丁。

6、亚马逊开售自有品牌非处方药 可能进军处方药市场

日前消息,亚马逊已开始销售自有品牌的非处方药。这一系列非处方药的品牌为“Basic Care”,与消费者可以通过便利店买到的非处方药类似,包括抗过敏药和止痛药。这些药品是由Perrigo生产的,该公司以便利店销售的非处方药而知名。

在亚马逊平台上,Basic Care系列非处方药与其他品牌非处方药一同销售。

CNBC报道称,亚马逊于2017年8月推出了Basic Care品牌。目前,这一品牌的产品规模正在扩大,包含了约60款产品。

谷歌ai自我觉醒是真的吗 谷歌新开发ai搜索工具谷歌ai自我觉醒是真的吗,谷歌ai自我觉醒是真的吗知乎

原标题:AI产业迎来“iPhone时刻”?OpenAI的ChatGPT会摧毁谷歌搜索吗?

OpenAI推出聊天机器人ChatGPT没多久,它就成为了网红。ChatGPT能自动生成代码、能修复BUG、能写诗。

如果你让Siri提供一份商业租约草案,它可能会给你一串网址。如果你让Alexa提供,它可能一头雾水。如果你问ChatGPT,它可能会真正交给你一份合格的合约。

人生不如意,ChatGPT能给你建议,它会写点笑话,还能解释科学概念。总之,ChatGPT很聪明!

但是,它也并非万能。

聪明怪异的聊天机器人

OpenAI是2015年成立的,马斯克是创建者之一,不过2018年时马斯克离开了OpenAI,2019年微软向OpenAI投资10亿美元。到目前为止OpenAI已经开发出两个自动生成软件,也就是GPT-3文本生成软件和DALL-E图片生成软件。

法国企业Syllabs是自动文本生成专家,公司主管Claude de Loupy说:“如果有人心脏病突发怎么办?ChatGPT给出的答案相当清晰也高度关联。当你问它具体问题时答案可能会偏离目标,但整体上看ChatGPT相当不错,有很高的语言水平。”

Loupy认为,无法了解意义是聊天机器人的通病,ChatGPT也一样。在回答问题时为什么挑选这个词汇?ChatGPT不知道。

尽管如此,ChatGPT仍然是迄今为止OpenAI开发的推向公众的最棒的AI。ChatGPT总裁Greg Brockman说,5天之内就有100多万人注册并测试ChatGPT。推特平台出现大量人与ChatGPT的对话截图,许多粉丝谈到它时口吻有些惊讶,ChatGPT似乎成了软件和魔法的混合体。

最近几年,面对狭窄、定义良好的任务时人工智能表现不错,一旦走出“舒适区”,人工智能就显得捉襟见肘了!ChatGPT不太一样,它更聪明、更怪异、更有灵性。它可以写笑话、编写计算机代码,还能撰写文章。

驱动ChatGPT的技术并没有什么新鲜的,它是基于GPT-3.5开发的,也就是升级版的GPT-3。GPT-3是一个AI文本生成器,2020年横空出世时曾引起轰动。在AI研究人员眼里,行业早就已经出现过超级强大的语言大脑,但还没过很强大的AI语言工具向公众开放。

大多的AI聊天机器人会将提问当作新的问题来对待,不会记住之前的对话,不会从中学习,ChatGPT不一样,它能记住用户之前说了什么。

ChatGPT仍有局限性

ChatGPT很完美吗?非也。ChatGPT从互联网抽取海量文本样本,然后训练成统计模型,它用模型做出概率猜测,看看哪些文本比特应该连结在一起变成序列。ChatGPT也会犯错,即使是简单问题也会犯错。

和谷歌不一样,ChatGPT不会抓取当前事件的网络信息,所以它的知识都是2021年前学到的,正因如此它的观点看起来会有些陈腐。

正如OpenAI强调的,ChatGPT也会给出错误答案。有时ChatGPT也会提示你他并不是万能的,承认问题超出了他的所知所能。

举个例子,当我们问它“the squirming facts exceed the squamous mind”是谁写的,ChatGPT回答称:“抱歉,对于超出训练范围的领域,我无法浏览互联网或者获得任何内部信息。”这句短语来自Wallace Stevens的诗歌,它不晓得。

有时ChatGPT的回答可能看起来很权威,但却是错的。

StackOverflow已经禁止ChatGPT回答程序化问题,它解释称:“整体来看,ChatGPT给出正确答案的概率还是太低,但它创建的答案对网络有重大危害,毕竟有很多人正在追问或者寻找正确答案。主要问题在于,ChatGPT给出的答案看起来很好,生成也很容易,但答案却是错的。有许多人试用ChatGPT,生成各种答案,他们在发布答案之前没有验证过对错。”

不信的话你可以用同一个问题多问ChatGPT几次。比如问ChatGPT摩尔定律是否已经走到了终点,它给出两个答案。一个答案认为摩尔定律会继续存在,很乐观;另一个有些悲观,认为摩尔定律会减速,它可能已经遇到了瓶颈。计算机界对于摩尔定律也存在两种看法,所以ChatGPT的立场只是反映了人类专家的看法。

ChatGPT会摧毁谷歌搜索?

ChatGPT是不是比谷歌搜索更好呢?向计算机提问,得到答案,在这方面ChatGPT表现还不错。你向谷歌搜索提问,它会给出建议性答案,将链接指向某个网站,网站与答案存在相关性。ChatGPT给出的答案许多时候好过谷歌建议,所以说GPT-3肯定是谷歌搜索的竞争对手。

不过用户在相信ChatGPT之前应该三思,因为谷歌提供的信息更容易验证。ChatGPT提供的答案有原始文本,但文本没有链接或者指引,更难验证。

现在谷歌可能会有些紧张,AI将会影响搜索,这种变化对谷歌是不利的。一些特定任务会从搜索转向AI工具,谷歌可以顺应潮流投资AI,但总体来讲谷歌的失去将超过得到。

有人甚至认为人工智能终于迎来了“iPhone时刻”,也就是说AI迎来革命性转折点。是不是真有这么夸张?让时间来检验吧。返回搜狐,查看更多

责任编辑:


AI周报|“光子是深度学习的未来”;刷手机被 AI 公开点名,再也不能摸鱼了;OpenAI 雄心勃勃的机器人计划失败了

人工智能纳米光子学,智能光子学,ai 量子力学,光子学与人工智能计算
导读:西雅图华盛顿大学医学院蛋白质设计研究所的研究人员,研发出一款新的深度学习工具 RoseTTAFold,不仅拥有媲美 AlphaFold2 的蛋白质结构预测超高准确度,而且更快、所需计算机处理能力更低,更重要的是,RoseTTAFold 完全免费!   

一、技术理论前沿

1. Science:媲美 AlphaFold2 的蛋白质结构预测新工具问世,一台游戏计算机十分钟出结果,完全免费

蛋白质作为构成人体组织器官的支架和主要物质,在人体生命活动中起着重要作用。2020 年,DeepMind 在第 14 届 “蛋白质结构预测关键评估”(CASP14)大赛中展示了轰动一时的相关成果 ――AlphaFold2,当时,该技术预测蛋白质结构的准确度排名第一。现在,西雅图华盛顿大学医学院蛋白质设计研究所的研究人员,研发出一款新的深度学习工具 RoseTTAFold,不仅拥有媲美 AlphaFold2 的蛋白质结构预测超高准确度,而且更快、所需计算机处理能力更低,更重要的是,RoseTTAFold 完全免费!

在此次的新研究中,华盛顿大学医学院生物化学系教授、蛋白质设计研究所所长 David Baker 领导一支计算生物学家团队,成功开发一款名为 RoseTTAFold 的工具,基于深度学习,能够根据有限的信息快速准确地预测出目标蛋白质的结构,达到与 AlphaFold2 不相上下的准确度。

不仅如此,RoseTTAFold 所需的计算耗能与计算时间均比 AlphaFold2 还要低:仅用一台游戏计算机,在短短十分钟内就可以可靠地计算出蛋白质结构。更值得注意的是,RoseTTAFold 的代码和服务器完全免费提供给科学界!自 7 月以来,相关程序已被 140 多个独立科研团队从 GitHub 免费下载,来自世界各地的科学家现在正在使用 RoseTTAFold 来构建蛋白质模型,以加速相关领域的研究。因此可以说,RoseTTAFold 不仅仅是 “免费版” 的 AlphaFold2,更是该技术领域推翻 “前浪” 的那一股 “后浪”。

内容来源:

https://mp.weixin.qq.com/s/OWTFRcf0Y6EDb0PTUhrnSg

https://science.sciencemag.org/content/early/2021/07/14/science.abj8754

2. 谷歌量子计算团队再发 Nature!逻辑错误抑制实现 100 倍增长,或为容错量子计算机研发铺平道路

量子计算机最突出的优势是可以对数据进行同时处理计算,但其发展瓶颈也很明显,例如目前量子比特数不够多,纠错容错技术也有待完善,这些因素都大大限制了量子计算的普及实用。因此,包括各国工业界、学术界和国家实验室的科研人员都在寻求减少量子计算机错误的方法。

近日,谷歌量子人工智能(Google AI Quantum)团队的一篇论文再次刊登在 Nature 杂志上,研究人员基于谷歌量子处理器 “悬铃木”(Sycamore)实现了量子计算错误抑制的指数级增长。

研究数据表明,研究人员将重复码基于的量子比特数量从 5 个提高到 21 个,对逻辑错误的抑制实现了最多 100 倍的指数级增长,这种错误抑制能力在 50 次纠错实验中均表现稳定,或为可推进容错量子计算机的研发铺平道路。尽管实验中提及的错误率还没达到实现量子计算机潜力的阈值,但这一研究成果已经证明了量子纠错(quantum error-correction,QEC)可以成功将错误率控制在一定范围内。研究人员认为 “悬铃木” 架构或已逼近这一阈值,结果令人振奋。

内容来源:

https://mp.weixin.qq.com/s/vWdsA9_oTt-3xcaEWcKuVQ

https://www.nature.com/articles/s41586-021-03588-y

3. NTT 高级科学家:光子是深度学习的未来!光子有望替代电子计算机加速神经网络计算

近日,来自日本 NTT 研究所的高级科学家 Ryan Hamerly 在 IEEE Spectrum 上发表了一篇文章(“The Future of Deep Learning Is Photonic”),谈论了光学计算在未来的强大潜力。他解释了为何光学计算会降低神经网络计算的能耗,以及光子设备取代电子设备的可能。

可以肯定的是,数字电子计算机的进步促进了深度学习的蓬勃发展,但这并不意味电子计算机是执行神经网络计算的唯一机器。但现在也许是再次使用模拟计算机的好时机,尤其是当模拟计算可以通过光学的方式来完成时。光数据通信速度更快,能耗也更低。光学计算也有同样的优势。

传统的计算机是基于晶体管,而晶体管是高度非线性的电路元件 ―― 这意味着它们的输出不仅与输入成正比,至少在用于计算时是这样。非线性决定了晶体管的开关,使得它们可以被塑造成逻辑门电路。这种切换很容易用电子设备来完成,所以电子设备的非线性十分重要。但光子遵循的是麦克斯韦方程,是线性的,这就意味着光学设备的输出通常与其输入成正比。

在计算机的架构方面,光学研究人员还有许多其他问题要解决。但可以肯定的是,至少在理论上,光学有希望将深度学习的发展加速几个数量级。基于当前可用于各种组件(光调制器、检测器、放大器、模数转换器)的技术,我们有理由相信,神经网络计算的能源效率可以比当今的电子处理器提高 1,000 倍。如果用新兴的光学技术作出更激进的假设,神经网络计算的能源效率甚至可能提高一百万倍。而且,由于电子处理器的功率有限,这些能源效率的进步很可能会转化为相应的速度改进。

内容来源:

https://mp.weixin.qq.com/s/6v4PbnGu-sk-0hQf3k_vaQ

https://spectrum.ieee.org/computing/hardware/the-future-of-deep-learning-is-photonic?utm_source=dlvr.it&utm_medium=twitter

4. 快手八卦!突破 TensorFlow、PyTorch 并行瓶颈的开源分布式训练框架来了!

随着摩尔定律的失效,单个计算单元的能力已经远远无法满足数据的指数级增长。比如,快手每天上传的新视频超过千万条,即便训练简单的分类模型(比如 ResNet),使用单机单卡的算力,训练快手日内新增视频都需要超过一百天的时间。因此,在数据爆炸性增长的互联网行业,多机多卡的并行训练成为了大数据时代的必然。随着深度学习模型功能的日益强大,分布式训练任务的通信成本和所需算力也随之急剧增长。

然而,由于多机多卡并行带来的额外通讯成本,加速比(speedup)经常让大家失望,从而形成了大厂 “堆资源”,没资源的 “干瞪眼” 的局面。比如,Google 的 Downpour 框架使用 80 个 GPU 训练 ImageNet,加速比却只有 12/80=15%。因此如何提升多机多卡中训练的通讯效率成为了并行训练乃至解决数据爆炸性增长的核心问题之一。

现有的深度学习开源框架(PyTorch,TensorFlow)主要针对系统层面优化,把已有的单机单卡优化算法扩展到多机多卡的场景。虽然系统层面的优化使得并行效率不断提升,但是边际效益却越来越明显。针对这个问题,快手和苏黎世理工(ETH Zürich)联合开发了一款名为 “Bagua” 的分布式训练框架,突破单纯的系统层面优化,专门针对分布式的场景设计特定的优化算法,实现算法和系统层面的联合优化,极致化分布式训练的效率。用户只需要添加几行代码,便能把单机单卡训练扩展到多机多卡训练并得到非常可观的加速比。

内容来源:

https://mp.weixin.qq.com/s/ENmJKHHYAuJTNTtnzcbmAw