openai新模型 open ai人工智能
机器之心发布,来源：AI Frontiers。
第三届美国硅谷顶级人工智能前沿大会（AI Frontiers Conference) 将于 2018 年 11 月 9-11 日在美国硅谷最高级别会议中心圣何塞会展中心盛大举行。美国 AI 界领军人物悉数出席。机器之心专属折扣码：P25SYNC。
站在台上的演讲者缓慢而清晰地娓娓道来，所有的 AI 术语在他口中融会贯通，交织在一起，变得简单易懂。认识他的人并不会感到惊讶，因为他就是这些术语背后的人。但令许多人感到惊讶的是，他还领导着一个收入可观的非营利组织，其存在的使命是为人工智能不可避免的到来做好充分的准备。
他，是创立并领导 OpenAI 的 Ilya Sutskever，OpenAI 的目标是希望向所有人开放人工智能技术，并确保它在可预见的未来里是安全可靠的。
创立 OpenAI 以前，Sutskever 经历了一段漫长的旅程。十六年前，他作为一名本科生就读于多伦多大学。当时他对人工智能知之甚少，尽管他对计算机已然很着迷。
在多伦多大学，他遇到了 Geoffrey Hinton――深度学习研究的教授和先驱。Hinton 给了 Sutskever 一个研究项目：改进随机邻居嵌入算法。该项目是他们合作的开始，Sutskever 的出色表现也给 Hinton 留下了深刻的印象。顺理成章的，Sutskever 在攻读博士学位时加入了 Hinton 的小组。
「多亏与 Geoffrey 合作，我才有机会研究我们这个时代最重要的一些科学问题，并追求大多数科学家都非常不理解，结果却是完全正确的那些想法。」Sutskever 在接受多伦多大学采访时说。
AlexNet
2012 年，在 Hinton 的指导下，Sutskever 和博士生同学 Alex Krizhevsky 开发了 AlexNet，它在 2012 年 ImageNet LSVRC-2012 的比赛中脱颖而出。AlexNet 以一种新颖的神经网络架构在 NIPS 亮相，包含五个卷积层和三个完全连接的层。这篇论文被广泛认为是一项真正的开创性工作，因为它首次证明了在 GPU 上训练的深度神经网络可以将图像识别任务提升到一个新的水平。
更重要的是，AlexNet 让 Sutskever 意识到深度学习可以解决任何模式识别问题，只要你有一个深度神经网络训练大量的数据。
2012 年毕业后，Sutskever 在斯坦福大学跟随吴恩达教授读了两个月的博士后课程。然后他回到了多伦多大学并加入了 Hinton 的新研究公司 DNNResearch，这是 Hinton 研究小组的副产品。四个月后，即 2013 年 3 月，Google 收购了 DNNResearch，并聘请 Sutskever 担任 Google Brain 的研究科学家。
Seq2seq 学习
AlexNet 标志了自 2012 年起人工智能革命的开端。然而，许多领域仍未被深度学习算法所开发，例如自然语言处理。当时，卷积神经网络（CNN）使用的神经网络类型与文本等序列数据不兼容。
加入 Google 后，Sutskever 全身心地投入到序列建模问题中，它可以应用于语音，文本和视频，其中的一个非常实际的应用就是机器翻译。
2014 年，Sutskever 与谷歌研究员 Oriol Vinyals 和 Quoc Le 一起提出了 Seq2seq 学习（Sequence to Sequence Learning）。它输入比如一句英文的序列结构，再将其映射到也具有序列结构的一句法文上。
该方法使用循环神经网络（RNN），也就此开启了 RNN 广泛应用于语言任务的时代。他们的研究应用于机器翻译，并且在大型数据集上，其表现优于基于短语的统计机器翻译基线。
Seq2seq 学习允许更少的工程设计选择，并让 Google 翻译系统高效准确地处理大量数据集。它主要用于机器翻译系统，并被证明适用于更广泛的任务，包括文本摘要，人工智能对话和问答。
2015 年，麻省理工学院技术评论将 Sutskever 评为 Visionaries 类别的「35 岁以下创新者」。
TensorFlow
在谷歌大脑团队中，Sutskever 加入了 Google 开源库 TensorFlow 的开发，用于大规模机器学习。
TensorFlow 具有许多便利的功能和实用程序，如今是世界上最流行的机器学习系统。它使用数据流图来表示计算，将数据流图的节点映射到集群中的许多机器上，并与各种计算设备连接，包括 CPU，GPU 和定制设计的 ASIC、称为张量处理单元的 GoogleTPU。
AlphaGo
同样在谷歌大脑，Sutskever 协助了 DeepMind 的研究人员开发了划时代的围棋人工智能 AlphaGo，该系统基于深度神经网络和蒙特卡罗树搜索方面进行训练，并使用强化学习算法自学。
AlphaGo 在 2016 年 3 月的五场最佳对决比赛中击败了韩国围棋大师李世h，创造了历史。这款机器首次在最复杂的战略棋盘游戏中超越了人类最强大的能力。关于 AlphaGo 的论文于 2016 年在 Nature 上发表，Sutskever 是合著者。
创立 OpenAI
在谷歌，Sutskever 一直不断地思考着长远的未来：当人工智能普及之后会对人类产生什么影响？在人工智能开发的最前沿，他看到了人工智能的能力是如何快速增长的。在不远的将来，人工智能将取代我们的每项工作。当人工智能能为我们做出重大决策（因为它逐渐接管所有责任）时，人类将会发生怎么的改变？
偶然的机会，在 2015 年 7 月的一天，Sutskeve 参加了由 Y Combinator 总裁 Sam Altman 在 Sand Hill Road 的一家餐厅举办的晚宴，在那里他遇见了 Elon Musk 和 Greg Brockman。Brockman 后来在他的博客文章中回忆道，「Ilya 是一位知识和愿景广泛的技术专家，并且可以随时深入了解当前系统的局限性和能力。」
在场的每个人达成了一个共识：人类需要一个组织，一个非营利组织，没有任何竞争激励来削弱其实现人工智能的使命；它还需要世界上最好的人工智能研究人员。
Ilya 对他离开谷歌的选择百感交集。虽然他很享受在 GoogleBrain 的工作，但他想做的更多。2015 年 12 月，他迈出了这一步。
Sutskever 和 GregBrockman（现为 OpenAI 首席技术官）共同创立了 OpenAI，得到来自 Elon Musk，Sam Altman 和 LinkedIn 创始人 Reid Hoffman 的 10 亿美元资金，其目标是「以最有可能造福人类的方式推进数字智能并使之成为一个整体」
Sutskever 说：「有可能在我们的有生之年，我们将建立一个在每个有意义的维度上都具有认知能力的人工智能系统。」
领导 OpenAI
OpenAI 吸引了几位世界知名的人工智能研究人员，包括发明 GAN 的 Ian Goodfellow，加州大学伯克利分校的 Pieter Abbeel 和目前负责特斯拉人工智能工作的 Andrej Karpathy。
OpenAI 位于旧金山一个不起眼的办公室，在过去的两年里取得了许多惊人的成就：他们创建了一个名为 Universe 的软件平台，用于测量和训练全球各地的人工智能系统。它旨在让机器人学习不同的策略； 他们创造了人工智能的游戏玩家，在复杂的多人竞技游戏 Dota2 中，他们有能力击败 99.95％全球玩家； 他们还建立了能完成日本相扑摔跤或者踢足球的虚拟机器人。
OpenAI 也在推进机器人研究的前沿。他们将深度强化学习应用于机器人学，以做家务，如干净的房间或做饭。最近，他们训练了他们的 Dactyl 手，学习如何旋转字母块并将新的一面放在上面。
人工智能安全研究也属于他们研究的范畴。两年前，OpenAI 列出了许多关于确保现代机器学习系统按预期运行的研究问题。
在过去的 6 年里，Sutskever 一直站在人工智能革命的最前沿。他的下一段旅程是传播这场革命，为整个人类带来好处，而他的团队正在推动人工智能的发展来实现强人工智能的终极高峰。他的计划是什么？我们可以发展到什么地步？我们正等着他精彩故事的下一章。
Ilya Sutskever 将于 2018 年 11 月 9 日在加利福尼亚州圣何塞举行的 AI Frontiers 会议上发言。
AI Frontiers 大会演讲嘉宾
AI Frontiers Conference 汇集了人工智能领域的思想领袖，展示最前沿的研究和产品。今年，我们的发言人包括：Ilya Sutskever（OpenAI 创始人），Jay Yagnik（Google AI 副总裁），Lee-Fu Lee（Sinovation 首席执行官），Mario Munich（iRobot 高级副总裁），Quoc Le（Google Brain），Pieter Abbeel（加州大学伯克利分校教授）等。
OpenAI让AI神作曲！多种风格随意选，莫扎特Lady Gaga玩混搭
ai音乐作曲,ai作曲的原理,AI制作音乐,ai音乐创作智东西（公众号：zhidxcom）编 | 王小溪
导语：OpenAI公司开发了一种音乐AI系统MuseNet，能用十种乐器生成歌曲，而且能融合不同种曲风。
智东西4月26日消息，刚在《Dota 2》中大虐人类的Open AI，又开始跨界踏足音乐圈啦！今天，它在一篇博文中详细介绍了人工智能系统MuseNet，它用十种的乐器生成了四分钟的乐曲，而且曲子风格多样，能听出乡村风、和莫扎特、披头士乐队的曲风。
MuseNet没有像人们理解的那样对乐曲编程，而是通过学习预测数百个成千上万的MIDI文件中的tokens来发现和声、节奏和乐曲风格的模式。
关于MuseNet的更多信息可参见OpenAI的博文：
一、MuseNet如何生成乐曲？
MuseNet没有像人们理解的那样对乐曲编程，而是通过学习预测数百个成千上万的MIDI文件中的tokens来发现和声、节奏和乐曲风格的模式。tokens有两种类型，一种作用于作曲家，一种作用于乐器。
Payne解释说，这些token类型可以更好地控制MuseNet所生成的样本种类。在训练过程中，token被添加到每个音乐样本之前，以便MuseNet学习如何使用它们来做出音符预测。
MuseNet接受了来自各种不同来源的MIDI音乐标准格式的样本训练，包括ClassicalArchives、BitMidi和开源Maestro语料库。
MuseNet重新计算和优化了稀疏Transformer，训练了24个attention head的72层网络，内含共有4096个token，让生成音乐的时长可达到4分钟。
Transformer在顺序数据上进行训练：技术人员给定一组音符，要求MuseNet预测接下来的音符。他们尝试了几种不同的方法将MIDI文件编码为适合此任务的token。首先，采用了弦乐方法，将每次听到的音符组合视为单独的“和弦”，并为每个和弦分配一个token。其次，他们尝试通过仅关注音符的开头来缩小音乐模式，并尝试使用字节对编码方案进一步压缩。
技术人员还尝试了两种不同方法标记时间推移：第一，根据音频节奏缩放token（以便token代表一个音乐节拍或节拍的一小部分）；第二，标记以秒为单位的绝对时间token。
最终，他们采用了一种结合了表现力和简洁性的编码：将音高，音量和乐器信息组合成一个token。
在训练中，他们选择：
首先，调高、调低音调来调换样本；
然后，调高或调低各种样本的整体音量；
最后，稍微减慢或加快音频片段的速度。
二、MuseNet可以换大不同类型的曲风
正如OpenAI的技术人员Christine Payne在一篇博客文章中所解释的那样，MuseNet与所有的深度神经网络一样，包含了在相互连接的层中排列的神经元（数学函数，松散地模仿生物神经元）里，从输入数据中传输“信号”，并缓慢调整每个连接的突触。
但独特的是，MuseNet拥有注意力机制。注意力机制从本质上讲和人类的选择性视觉注意力机制类似，核心目标是从众多信息中选择出对当前任务目标更关键的信息。所以在MuseNet模型中，每个输出元素都连接每个输入元素，它们之间的突触是动态计算的。
MuseNet使用的是与GPT-2相同的通用无监督技术。GPT-2是OpenAI推出的一个大规模的无监督语言模型，它具有来自800万个网页的15亿数据集，其训练目标就是基于前面给定的文本，从而预测接下来的文字。
MuseNet有不同的模式：简单模式，用户可以从“作曲家”或“风格”中选择未经过调整的样本，然后开始生成。高级模式，它可以让用户直接与模型交互，创建出一个全新的作品。
在生成乐曲时，用户可以调整模型用选定的风格创建样本，这种风格可以从拉赫玛尼诺夫钢琴、乐队Journey的钢琴开始，也可以从贝司、吉他和鼓开始。
Payne 说：“由于MuseNet包含了许多不同的风格，我们可以用新颖的方式对它们进行融合，例如，给模型肖邦夜曲的前六个音符，要求它生成流行乐曲风格的钢琴、鼓、贝司和吉他曲， 它也能做到。”
Payne也指出，MuseNet并不完美，因为它是通过从所有可能的音符和乐器中计算概率来生成每个音符，偶尔它会做出不和谐的选择。可以预见的是，如果曲风和乐器不搭，比如肖邦的低音和鼓，它很难将两者融合在一起。
▲MuseNet对作曲家的理解以及他们如何和风格相联系
三、全新Demo，让你自选音乐风格
MuseNet的博文上还提供一个Demo，供感兴趣者试用。
首先，选择你更感兴趣的音乐风格（从上到下依次是：肖邦、莫扎特、拉赫曼尼诺夫、Lady Gaga、乡村音乐和迪士尼音乐）。
接下来，选择开始的旋律，这里Demo为试用者提供了6种选项。
如果选择NONE，AI就会看心情随便给你来个开头，如果选择了其他的歌（莫扎特的《土耳其进行曲》，贝多芬的《第五交响曲》，Lady Gaga的《Poker Face》，贝多芬的《致爱丽丝》，阿黛尔的《Someone Like You》），AI就会按照你所选的歌的风格续写音乐。
最后，点击下面的 → ，让AI生成一段音乐。
黑色背景上紫色横条的图样是曲谱，箭头左边的一块谱子是你所选择的开始的旋律，图上每一根小横条代表一个音符，点击 → 后右边出现的一长串紫色就是AI生成的音乐，点击PLAY FROM START就可以开始播放啦~
如果你喜欢AI的创作，可以点击DOWNLOAD下载保存；如果想重玩一次，就选择RESET。当然啦，你还可以把AI的作品分享到推特。
如果你想听现场freestyle，还可以点击曲谱上方的SHOW ADVANCED SETTINGS，有更多的音乐风格、开头音乐和乐器供你选择，通过选择TOKENS来生成不同长度的音乐，然后，你就可以享受AI的现场版了。
不过，这个Demo暂时还不完美，假使你选择钢琴、吉他或鼓的音色，生成的音乐可能听起来音色都差不多。
OpenAI表示，这一Demo会展示到5月12号，之后会有一个迭代的版本。
结语：音乐AI正在加速发展
MuseNet生成的乐曲中不仅包含了多种乐器，而且能把不同的曲风融合在一起，带给人不一样的体验。
OpenAI并非唯一一家踏足音乐AI领域的公司。今年3月，谷歌发布了一种名为Google Doodle的算法，可以让用户模仿作曲家巴赫的风格创作旋律。去年年底，Google Brain的项目Magenta推出了一种算法Music Transformer，它能识别歌曲的重复旋律。可以看出，音乐AI正在快速发展，没准将来某家音乐AI会成为歌坛小天王呢！
博文链接：https://openai.com/blog/musenet/
文章来自：Venturebeat
OpenAI跻身全球TOP5网站 1月访问量突破6.72亿
OpenAI跻身全球TOP50网站,openai中国,openAI是什么,openai通用人工智能“特别声明：以上作品内容(包括在内的视频、图片或音频)为凤凰网旗下自媒体平台“大风号”用户上传并发布，本平台仅提供信息存储空间服务。
Notice: The content above (including the videos, pictures and audios if any) is uploaded and posted by the user of Dafeng Hao, which is a social media platform and merely provides information storage space services.”
