【人物】还记得不久前电竞界的人机大战吗？Open AI背后的领袖Ilya Sutskever

【公众号】翻译｜迷雾重重的AI之战

∨X公众号,转载自公众号,公众号的翻译,1Ⅰ4公众号

2018年3月，中国研究者们宣布了对美国最宝贵的技术资产之一-Tesla电动车的巧妙的、潜在的毁灭性攻击。

这个来自于中国科技巨头腾讯的安全部门的小组提出了一些方法去愚骗Tesla车上的人工智能算法。通过巧妙地改变传送至汽车传感器的数据，研究人员就可以迷惑驾驶车辆的人工智能。举个例子，一个电视屏幕也许有一个隐藏的模式――欺骗挡风玻璃雨刷，使其无法启动。另一个方面，路上的车道标识被进行了非常轻微的修改，以混淆自动驾驶系统，使汽车驶过车道线，并进入反方向的交通道路。Tesla的算法通常擅长在挡风玻璃上寻找雨滴或巡着道路上的线路行驶，但是它们的工作方式和人类的感知完全不同。这就产生了这种“深度学习”算法，(这种算法)正在迅速席卷了不同行业的应用，比如面部识别、癌症诊断，如果你找到了系统的弱点，就可以极其轻易地愚弄它。把Tesla引入歧途可能并不能说是一个对美国的战略打击。但是如果相似的科技被用于愚骗攻击无人机，或是分析卫星图像的软件，看到不存在的东西-或者看不到存在的东西？人工情报收集在世界各地，人工智能已经被视为下一个巨大的军事优势。

2019年的早些时候，美国宣布了一项伟大的战略，在军事的许多领域利用人工智能，包括智能分析，决策制定，自动驾驶，后勤和兵器。美国国防部提出的2020年预算为7180亿美元，其中9.27亿美元用于人工智能和机器学习。现有的项目包括相当普通的(测试人工智能能否预测坦克和卡车需要维修的时间)，以及武器技术前沿的项目(很多的无人机)。

五角大楼推动人工智能的部分原因是担心竞争对手可能会采用这种技术。去年，时任美国国防部长Jim Mattis向美国总统Donald Trump发送了一份备忘录，警告称美国在人工智能方面已经落后了。他的担忧是可以理解的。

2017年7月，中国明确地提出了人工智能战略，宣布“世界主要发达国家将发展人工智能作为提升国家竞争力、保障国家安全的重大战略”。几个月后，俄罗斯总统Vladimir Putin不祥地宣布:“无论谁成为(人工智能)领域的领袖，都将成为世界的统治者。”

制造最聪明、最致命的武器的雄心是可以理解的，但正如特斯拉的黑客事件所展示的，一个知道人工智能算法如何工作的敌人可能会让它变得无用，甚至让它与自己的主人对抗。在人工智能之战中胜出的秘诀可能不在于制造最令人难以忘怀的武器，而在于控制软件的让人忐忑的背叛。

战斗机器人2018年华盛顿特区夏天的一个阳光明媚的日子，Micheal Kanaan坐在五角大楼的自助餐厅里，吃着一个三明治，惊叹于一套强大的新型机器学习算法。几周前，Kanaan观看了一款视频游戏，在游戏中，五种人工智能算法一起工作，在一场涉及控制力量、营地和资源的复杂、广阔的战场上，几乎完全胜过五个人。然而，当他描述这个动作时，Kanaan剪短的金色头发下的额头上出现了皱纹。这是他所见过的令人印象最深刻的人工智能战略演示之一，也是与国际象棋、雅达利和其他游戏中的人工智能进步类似的出乎意料的发展。

这场战争是在Dota2内进行的，(Dota2)是一个对电脑有着极大挑战的科幻游戏。在比任何棋类游戏更复杂、更具欺骗性的环境中，小组必须在攻击对手阵地的同时保护他们自己的领土。玩家只能看到整个地图的一小部分，而要确定一个策略是否成功则需要大约半个小时。

这些人工智能战士并不是由军方开发的，而是由OpenAI公司开发的。OpenAI是一家由Elon Musk和Sam Altman等硅谷大人物创建的公司，从事基础人工智能研究。该公司的算法战士，即OpenAI Five，通过不懈的实践，通过最具优势的行动，制定出了自己的获胜策略。

正是这种软件激起了Kanaan的兴趣，他是负责使用人工智能使美国军队现代化的人之一。对他来说，这表明了军方从世界上最好的人工智能研究人员那里获得了什么。但他们是否愿意这样做却越来越成问题。

Kanaan是空军Maven项目的负责人，该军事项目旨在使用人工智能自动识别空中图像中的物体。谷歌是Maven的承包商，当其他谷歌员工发现后，在2018年，公司决定放弃这个项目。随后，该公司制定了人工智能行为准则，称谷歌不会使用其人工智能来开发主要目的或产生的结果是造成或直接便利对人的伤害的武器或其他技术。

其他一些大型科技公司的工人随后要求雇主不要签订军事合同。许多著名的人工智能研究人员支持启动一项全球禁令，禁止开发全自动武器。

然而，对Kanaan来说，如果军方不能与开发OpenAI Five的研究人员合作，那将是一个大问题。更令人不安的是，对手有可能获得这种尖端技术。他说:“代码就在那里，任何人都可以使用。”他补充道:“战争远比某些电子游戏复杂。”人工智能的急速发展Kanaan对人工智能总体上非常乐观，部分原因是他亲身体验了人工智能对军队的作用。六年前，作为驻阿富汗的空军情报官员，他负责部署一种新型的情报收集工具:高光谱成像仪。这种仪器可以发现通常隐藏在视线之外的物体，比如伪装的坦克，或者临时制造炸弹的工厂排放的废气。Kanaan说，这个系统帮助美军从战场上清除了数千磅的炸药。即便如此，分析人员处理成像仪收集的大量数据通常也是不切实际的。“我们花了太多时间看数据，却没有足够的时间做决定，”他说。“有时要花很长时间，你会怀疑自己能否挽救更多的生命。”

解决方案可能在于多伦多大学Geoffrey Hinton领导的团队在计算机视觉方面取得突破。结果表明，该算法受多层神经网络的启发，在获得足够的数据和计算机能力的情况下，能够以前所未有的能力识别图像中的目标。

训练一个神经网络包括输入数据，比如图像中的像素，并使用数学技术不断改变网络中的连接，使输出更接近特定的结果，比如识别图像中的对象。随着时间的推移，这些深度学习网络学会了识别构成房屋或人的像素模式。深度学习的进步引发了当前的人工智能热潮；这项技术支撑着特斯拉的自动系统和OpenAI的算法。

Kanaan立即意识到深度学习在处理对军事行动至关重要的各种类型的图像和传感器数据方面的潜力。他和空军里的其他人很快开始游说他们的上级投资这项技术。他们的努力为五角大楼大力推进人工智能做出了贡献。但在深度学习出现后不久，研究人员发现，使它如此强大的特性也正是其唯一的致命的弱点。

正如计算如何调整网络的参数以使其正确地分类对象此操作是可能的一样，对输入图像的最小变化如何导致网络对其进行错误分类同样是可以被计算出的。在某些“敌对的例子”中，只有很少一部分图像中的像素被改变，让它看起来和人一样，但和人工智能算法非常不同。这个问题可能出现在任何可能使用深度学习的地方――例如，在指导自动驾驶车辆、计划任务或探测网络入侵方面。

在AI的军事运用的发展中，这些软件中的神秘缺陷被逐渐地忽视了。逐渐转变的目标

一个相较之下值得注意的例子说明了对抗性机器学习的力量。它-就是一只模型海龟。

对于你我他，它看起来很普通，但是，对于无人机或机器人运行特定的深度学习视觉算法，它也许是......一支步枪！事实上，在某一个一般时刻，海龟壳上独特的斑纹图案可能会被重新绘制，这样一来，通过Google的云计算，人工智能视觉系统就会把它误认为任何东西而不再是步枪。（其实Google已经更新了算法，这样它就不会被这般愚弄了。）这只乌龟不是由一些民族国家的对手创造的,而是由麻省理工学院的4个人创造的。其中一个人是Anish Athalye，一个瘦高的、极其礼貌，工作于麻省理工学院计算机科学与人工智能研究所(即CSAIL)的年轻人。在Athalye的笔记本电脑上的一段视频中，海龟们正在接受测试(据他称一些模型是在一次会议上被偷的)。它被旋转了360度，然后上下翻转。算法反复检测同样的东西:“步枪”、“步枪”、“步枪”。

最早的对抗样本(可以对已有的模型鱼目混珠的例子)是幼稚的、不成型的，容易失败，但是Athalye和他的朋友们相信他们可以设计出一个足够稳定的版本，可以在3D打印物上工作。这涉及到对物体的3D渲染建模并开发一种算法来创建海龟，这是一个具有不同角度和距离的对抗样本。更简单地来讲，他们开发了一种算法来创建能够可靠地欺骗机器学习模型的东西。军事应用是显而易见的。在使用对抗算法伪装后，坦克或飞机可能会隐藏装备精良的卫星和无人机。引导导弹可以被敌对数据蒙蔽,甚至可能转向友好的目标。对情报算法的信息可能会被毒害,以掩盖恐怖主义的威胁,或为现实世界的军队设置陷阱。

Athalye对他所遇到的对抗性机器学习的关注如此之少感到惊讶。他说：“我和一些行业的专业人士谈过，我问他们是否担心出现对抗样本。“答案几乎是否定的。”

幸运的是，五角大楼开始投入关注了。2019年8月，美国国防高级研究计划局(DARPA)公开了几个大型人工智能研究项目。GARD就是其中之一，这是一个专注于对抗性机器学习的项目。马萨诸塞大学阿姆赫斯特分校(University of Massachusetts,Amherst)教授、GARD项目经理Hava Siegemann说，这些袭击在军事情况下可能是毁灭性的，因为人们无法识别它们。“就像我们瞎了眼一样。”她说。“这就是它真正非常危险的地方。”

对抗性机器学习带来的挑战也解释了为什么五角大楼如此热衷于与Google和Amazon这样的公司以及MIT这样的学术机构合作。这项技术正在迅速发展，最新的进展是在硅谷中的一些公司和很多顶尖大学的实验室里进行的，而不再是传统的国防承包商等。

重要的是，它们同样还在美国以外发生，尤其是中国。“我确实认为，一个不同的世界正在到来，”空军人工智能专家Kanaan表示。“这是我们必须与人工智能对抗的问题。”

反对在军事上使用人工智能是可以理解的，但这一举动可能不够长远。就在人们担心智能杀手机器人的时候，也许近期更大的风险是战争中某些无处不在的算法――即使是最聪明的机器也无法看穿它。

Last March,Chinese researchers announced an ingenious and potentially devastating attack against one of America’s most prized technological assets-a Tesla electric car.?

The team,from the security lab of the Chinese tech giant Tencent,demonstrated several ways to fool the AI algorithms on Tesla’s car.By subtly altering the data fed to the car’s sensors,the researchers were able to bamboozle and bewilder the artificial intelligence that runs the vehicle.

In one case,a TV screen contained a hidden pattern that tricked the windshield wipers into activating.In another,lane markings on the road were ever-so-slightly modified to confuse the autonomous driving system so that it drove over them and into the lane for oncoming traffic.

Tesla’s algorithms are normally brilliant at spotting drops of rain on a windshield or following the lines on the road,but they work in a way that’s fundamentally different from human perception.That makes such “deep learning” algorithms,which are rapidly sweeping through different industries for applications such as facial recognition and cancer diagnosis,surprisingly easy to fool if you find their weak points.

Leading a Tesla astray might not seem like a strategic threat to the United States.But what if ?similar techniques were used to fool attack drones,or software that analyzes satellite images,into seeing things that aren’t there-or not seeing things that are

?Around the world,AI is already seen as the next big military advantage.?

Early this year,the US announced a grand strategy for harnessing artificial intelligence in many areas of the military,including intelligence analysis,decision-making,vehicle autonomy,logistics,and weaponry.The Department of Defense’s proposed $718 billion budget for 2020 allocates $927 million for AI and machine learning.Existing projects include the rather mundane (testing whether AI can predict when tanks and trucks need maintenance) as well as things on the leading edge of weapons technology (swarms of drones).

In July 2017,China articulated its AI strategy,declaring that “the world’s major developed countries are taking the development of AI as a major strategy to enhance national competitiveness and protect national security.”And a few months later,Vladimir Putin of Russia ominously declared:“Whoever becomes the leader in [the AI] sphere will become the ruler of the world.”

The Pentagon’s AI push is partly driven by fear of the way rivals might use the technology.Last year Jim Mattis,then the secretary of defense,sent a memo to President Donald Trump warning that the US is already falling behind when it comes to AI.His worry is understandable.?

The ambition to build the smartest,and deadliest,weapons is understandable,but as the Tesla hack shows,an enemy that knows how an AI algorithm works could render it useless or even turn it against its owners.The secret to winning the AI wars might rest not in making the most impressive weapons but in mastering the disquieting treachery of the software.?

?On a bright and sunny day last summer in Washington,D.C.,Micheal Kanaan was sitting in the Pentagon

【力荐】AI达人收藏夹里必备的50个咨询网站和博客

百度ai达人

新智元报道

编辑：元子

【新智元导读】好内容永远都是稀缺的，尤其是AI领域。虽然新智元一直致力于将最优质的AI资讯带给大家，然而每天只有5条显然是无法满足新智元这么多读者的需求，因此新智元为大家找到了一个AI领域，50个优质内容平台列表，排名不分先后。

好内容永远都是稀缺的，尤其是AI领域。虽然新智元一直致力于将最优质的AI资讯带给大家，然而每天只有5条显然是无法满足新智元这么多读者的需求，因此新智元为大家找到了一个AI领域，50个优质内容平台列表，排名不分先后。

如果看完了新智元的内容，觉得还是不过瘾，那么欢迎收藏下面这50个博客，除了能够获取信息，顺便还能提高英语阅读能力。

1. AI Trends

AI Trends是一家专注于人工智能业务和技术的行业媒体。地址：

http://aitrends.com/

2. ScienceDaily

泛人工智能资讯报道，包括未来机器人，人类智能的计算机模型等。地址：

https://www.sciencedaily.com/news/computers_math/artificial_intelligence/

3. Machine Learning Mastery

该博客的定位是专业开发人员的领路人，主要教大家使用机器学习来解决复杂问题。地址:

http://machinelearningmastery.com/blog/

4. MIT News

这个不用多介绍了，MIT出品。地址：

http://news.mit.edu/topic/artificial-intelligence2

5. Reddit

这个更不用多介绍了。加入你感兴趣的子版块，比如机器学习、人工智能等，参与讨论吧！地址：

https://www.reddit.com/

6. Chatbots Magazine

Chatbots，AI，NLP，Facebook Messenger，Slack，Telegram等相关。地址：

https://chatbotsmagazine.com/

7. Chatbot’s Life

分享最新的Bot新闻，信息，AI和NLP，工具，教程等。地址：

https://chatbotslife.com/

8. Amazon Web Services AI Blog

关于AWS和AI，还是有不少干货的，并没有想象中那么PR。地址：

https://aws.amazon.com/blogs/ai/

9. IBM Developer

会有开源、代码模式、教程、聚会、挑战、指导和全球编码社区。也还是有一些干货的，地址：

https://developer.ibm.com/patterns/category/artificial-intelligence/

10. Lex Fridman

这是MIT出品的一个博客节目，会访谈AI行业的领军人物。地址：https://blog.feedspot.com/ai_podcasts/

11. Stories by Francesco Corea on Medium

这是在Medium上的一个博客，作者是AI技术专家和数据策略师，内容涉及AI，datascience，machinelearning，bigdata，vc，cvc等。地址：

https://medium.com/@Francesco_AI

12. Smartech Knowledge Center

这是一个人工智能增长营销平台，主要是帮助企业倾听客户的意见，分析他们的行为，并与他们交谈。地址：

https://blog.netcoresmartech.com/

13. AI TIME JOURNAL

该博客更新比较慢，内容比较偏行业。地址：

https://www.aitimejournal.com/

14. NVIDIA Blog

关注GPU的不要错过英伟达的博客，上面会有很多优质内容。当然，喜欢玩游戏也可以多关注一下。地址：

http://aitopics.org/whats-new

15. AI in the News

一个AI新闻的汇总点，采用Timeline形式呈现新闻。地址：

https://aitopics.org/

16. Cortana Intelligence and Machine Learning Blog

做NLP和聊天机器人的都可以关注。地址：

https://blogs.technet.microsoft.com/machinelearning/

17. Machine Learnings

这是一个AI内容精选平台。更新周期较长。地址：

https://machinelearnings.co/

18. Artificial-Intelligence.Blog

一切跟AI相关的内容，书、会议、资源推荐等。地址：

https://www.artificial-intelligence.blog/news/

19. Allen Institute for Artificial Intelligence (AI2)

YouTube上一档视频课程，主要就是教学。地址：

https://www.youtube.com/channel/UCEqgmyWChwvt6MFGGlmUQCQ/videos?&ab_channel=AI2

20. The Berkeley Artificial Intelligence Research Blog

伯克利加州分享出品。地址：

https://bair.berkeley.edu/blog/

21. OpenAI Blog

OpenAI Blog的内容话题性比较高。地址：

https://blog.openai.com/

22. DeepMind - News & Blog

提到OpenAI，自然不得不提到DeepMind。地址：

https://deepmind.com/blog/

23. DataRobot

主要面向数据科学家。地址：

https://www.datarobot.com/blog/

24. Inbenta Blog

主要关注NLP领域，包括电子商务、会话聊天机器人等。地址：

https://www.inbenta.com/en/blog/

25. Clarifai Blog

擅长视觉识别。地址：

http://blog.clarifai.com/

26. Maruti Techlabs

由一群年轻、技术精湛的专业人士组成，主要关注落地应用和解决方案。地址：

https://www.marutitech.com/category/artificial-intelligence/

27. Expert System

Expert System是一家语义智能公司，致力于创建认知计算和语义技术软件。地址：

http://www.expertsystem.com/blog/

28. Playment Blog

Playment是一个完全管理的数据标签平台，可大规模生成计算机视觉模型的培训数据。主要涉及到自动驾驶汽车、无人机、测绘等内容。地址：

https://blog.playment.io/

29. TOPBOTS

关注AI的商用。地址：

https://www.topbots.com/

30. Artificial Solutions

专注于自然语言交互（NLI）内容，允许人们使用语音，文本，触摸或手势以自由格式，自然语言与应用程序和电子设备交谈。地址：

https://www.artificial-solutions.com/blog/category/artificial-intelligence

31. Sentient Technologies

主要关注分布式人工智能，地址：

http://www.sentient.ai/blog/

32. TechSpective

主要关注技术趋势和突发新闻，为故事带来价值，并为您提供与您相关的信息。地址：

https://techspective.net/category/technology/artificial-intelligence/

33. Machine Intelligence Research Institute Blog

专注于为先进的自主AI系统开发可信推理的数学理论，偏理论学术。地址：

https://intelligence.org/blog/

34. Iris AI

Iris AI是一家ToB的AI公司。地址：

https://iris.ai/blog/

35. Marek Rosa

主要关注通用人工智能，地址：

http://blog.marekrosa.org/

36. 1redDrop

关注AI在商业和金融的应用。地址：

https://1reddrop.com/

37. Binary Informatics

Binary Informatics是一家软件开发公司，关注企业级AI应用。地址：

http://blog.binaryinformatics.com/category/artificial-intelligence/

38. Mighty AI Blog

挺名字就很有力量啊！地址：

https://mty.ai/blog/

39. Fusemachines Blogs

关注AI和销售的结合。地址：

http://blog.fusemachines.com/

40. Singularity Weblog

就是制造出世界上第一个机器人公民索菲亚的公司。地址：

https://www.singularityweblog.com/blog/

41. Artificial Lawyer

有关AI和法律内容。地址:

https://www.artificiallawyer.com/

42. Another Datum

作者Yoel Zeldes是Taboola的算法工程师。主要撰写有关数据科学，软件工程的内容。地址：

http://anotherdatum.com/

43. MarkTechPost

涉及人工智能，区块链技术和医疗保健等内容。地址:

https://www.marktechpost.com/category/technology/artificial-intelligence/

44. Enkode

有关教育材料、科技新闻、技术和创业理论。地址：

https://www.enkode.co/blog/

45. DatumBox

侧重于机器学习，统计，人工智能及其在软件开发和在线营销方面的应用。地址：

http://blog.datumbox.com/

频率约为每月1个帖子。

46. AI ML MarketPlace

顾名思义，它类似中介平台，主要是帮助项目找人和人找项目。对Freelancer比较有用。地址：

https://www.aimlmarketplace.com/read-ai-ml-blogs

47. Yseop

用NLP生成书面报告。地址：

https://yseop.com/blog/

48. EDIA

AI+教育。地址：

https://blog.edia.nl/

49. Artificial Intelligence Weekly News

每周AI资讯精选。地址：

http://aiweekly.co/

50. Marketing Artificial Intelligence Institute

关于AI营销，从事营销和销售或对此感兴趣的人会比较有用。地址：

http://www.marketingaiinstitute.com/blog

互动话题：

虽然50个网站听起来已经很多了，但新智元相信我们广大的读者中，一定也有一些优秀的AI资源，请在留言中向我们推荐吧！

本文地址： https://www.xxs100.com//show-394565.html

【人物】还记得不久前电竞界的人机大战吗？Open AI背后的领袖Ilya Sutskever

【公众号】翻译 ｜ 迷雾重重的AI之战

【力荐】AI达人收藏夹里必备的50个咨询网站和博客

【公众号】翻译｜迷雾重重的AI之战