开局先说疑问。

有人对Open AI的秒羊有些疑问。我特地去游戏中截了图。

使用视频为：

首先，在33分32秒，ES使用了板。这个时候ES实际上应该是在阴影中，当时的时间是白天，走在最前面的是DP。使用0.5倍速播放，会发现，在小牛跳大之前，向前走了一步，就是这一步，被莱恩看到了，而且出现在视野中到跳大，足够200毫秒。

多天前，敌鸽在B博发了一篇状态，说B站将会发生跟DOTA有关的一件大事。后来敌鸽又发了第二篇B博，说明了，这件大事就是人类对战OpenAI。B站国内直播。

很多人不理解为什么OpenAI是一件大事。

实际上，从AI诞生到今天，不管你承认与否，AI都在潜移默化的改变着你的生活。16年的阿尔法狗大战李世石，让很多不懂技术的人，也会去了解一些关于AI的知识。不可否认的是，放眼未来，AI会遍布生活的每个角落。

在输给阿尔法狗后，柯杰说了这样一句话

"阿尔法狗给了我们一种思路的创新，希望围棋的下法也能有更多的拓展。"

如今TI已经发展到了第8个年头，电子竞技行业也越来越规范。训练从简单的组成队伍开黑，到现在有训练基地，有训练计划，有教练等越来越专业化。然而，DOTA2是一个对抗游戏，训练过程中必须要有对手，对手的水平，往往决定了训练成果的上限。你可能跟高水平的选手SOLO以后并不能提高你的水平，但是你跟菜鸟SOLO对你的水平是不可能有帮助的。所以很多人说，融入鱼塘，实际上就是在跟低水平玩家打习惯以后会渐渐的遗忘高水平对战需要的技巧。

对于世界顶尖的队伍来说，新战术等一些无法公开的训练，一个好的陪练就是队伍成绩的保证。OpenAI一天相当于几百年的学习速度，使得它足以成为一个合格的陪练。而且程序这种东西，最大的好处是可以定制化。人类无法避免的习惯等问题，通过修改几个参数就可以简单的在OpenAI上做到。这时候你的训练就可以更加的有针对性。比如你希望对抗推进风格的打法，或者希望针对的训练拉扯强大的队伍，都可以通过修改参数来做到。这是程序相对于人类领先的地方。

另外，如果OpenAI能做到没有丝毫限制，那么对于BP的影响也将是巨大的。10个水平相当的选手，比赛结果就将取决于BP，阵容的好坏，将不再需要通过大赛来验证。

有人可能会认为，OpenAI带来的这些影响，会导致以后的比赛套路僵化，其实并不会。DOTA2是一个动态平衡游戏，选手的操作又是一个不确定的变量。人无法做到程序那样，对每个英雄的理解程度都相同，每个人会有自己擅长的英雄，这就会对阵容变化造成影响。

如果未来，OpenAI的定制化更加强大，甚至可以开放到全部Dota玩家，你可以通过设定，获得需要的陪练，从先锋到冠绝，从瘤子到大公无私，你需要的对手，都可以通过OpenAI实现，这对于Dota整体水平的提升，将是无法估量的。

所以，OpenAI，将开启一个新的时代。

ai训练神经网络 ai神经网络深度学习

ai神经算法,智能ai训练,ai训练原理,AI智能训练

本文转自雷锋网，如需转载请至雷锋网官网申请授权。

大型神经网络是当前人工智能领域的热门话题之一，那么，如何训练大模型？

最近，曾推出大规模预训练模型 GPT-3 的 OpenAI 发表了一篇博文，介绍了基于 GPU 的四种节省内存的并行训练方法，分别是：

• 数据并行――在不同的 GPU 上运行同一批次的不同子集；
• 流水线并行――在不同的 GPU 上运行模型的不同层；
• 张量并行――分解单个运算的数学运算，例如将矩阵乘法拆分到 GPU 上；
• 专家混合（MOE）――仅通过每层的一小部分处理每个示例。

图注：三层模型上各种并行策略，每种颜色代表一层，虚线分隔不同的 GPU。

1 数据并行

「数据并行训练」意味着将相同的参数复制到多个 GPU（通常称为“workers”），并为每个 GPU 分配不同的示例以同时处理。

单单的数据并行要求模型匹配单个 GPU 内存，但当你利用多个 GPU 计算时，代价是存储参数的多个副本。不过，话虽如此，有一些策略可以增加 GPU 可用的有效 RAM，例如，在两次使用之间，可将参数暂时卸载到 CPU 内存。

随着每次数据并行 worker 更新其参数副本，它们需要相互协调，以确保每个 worker 都继续具有相似的参数。最简单的方法是在 worker 之间引入「阻塞通信」：

步骤 1：独立计算每个worker上的梯度；

步骤 2：将不同 worker 的梯度平均；

步骤 3：在每个 worker 上独立计算相同的新参数。

步骤 2 是一个阻塞平均值，它需要传输大量数据（与 worker 数量乘以参数大小成正比），这可能会损害训练的吞吐量。有各种异步同步方案可以消除这种损耗，但会损害学习效率；因此在实践中，人们普遍坚持同步方法。

2 流水线并行

在流水线并行训练中，研究者会将模型的顺序块划分到 GPU 上，每个 GPU 只保存一小部分参数，因此，相同模型的每个 GPU 消耗的内存按比例减少。

将大型模型拆分为连续层的块很简单，但由于层的输入和输出之间存在顺序依赖关系，因此，在 worker 等待前一台机器的输出用作其输入时，一个幼稚的执行可能会导致出现大量空闲时间。这些等待时间块被称为「泡沫」（bubbles），即浪费了本可以由空闲机器来完成的计算。

图注：一个简单的流水线并行设置插图，其中，模型被垂直分成 4 个分区。worker 1 主持第一层的模型参数（最接近输入），而 worker 4 主持第 4 层（最接近输出）。“F”、“B”和“U”分别代表前向、后向和更新操作。下标会指示在哪个 worker 上运行操作。由于顺序依赖性，数据一次由一个 worker 处理，导致产生了大量的空闲时间“泡沫”。

我们可以重用数据并行的想法，通过让每个 worker 一次只处理数据元素的一个子集，来降低产生时间泡沫的成本，从而使我们能巧妙地将新计算与等待时间重叠。核心思想是，将一个批次拆分为多个微批次，每个微批次的处理速度都应该成比例地加快，并且每个 worker 在下一个微批次可用时立即开始工作，从而加快管道执行。有了足够的微批次， worker 可以在大部分时间被利用，并且在步骤开始和结束时「泡沫」最小。梯度在微批次之间进行平均，并且只有在所有微批次完成后才会更新参数。

模型拆分的 worker 数量通常称为「管道深度」（pipeline depth）。

在前向传递期间，worker 只需将其层块的输出（称为「激活」）发送给下一个 worker；在反向传递期间，它仅将这些激活的梯度发送给前一个工作人员。如何安排这些通道以及如何跨微批次聚合梯度有很大的设计空间。例如，方法 GPipe 是让每个工作进程连续向前和向后传递，然后在最后同步聚合来自多个微批次的梯度；而 PipeDream 会安排每个 worker 交替处理的前向和后向通道。

图注：GPipe 和 PipeDream 流水线方案的比较，每批使用 4 个微批次。微批次 1-8 对应于两个连续的数据批次。图中“number”表示在哪个微批次上操作，下标标记 worker  ID。注意，PipeDream 通过使用陈旧参数执行一些计算来获得更高的效率。

3 张量并行

管道并行性将模型逐层“垂直”拆分，也可以在一个层内“水平”拆分某些操作，这通常称为张量训练。

对于许多现代模型（例如Transformer），计算瓶颈是将激活批处理矩阵与大权重矩阵相乘。矩阵乘法可以认为是成对的行和列之间的点积；可以在不同的 GPU 上计算独立的点积，或者在不同的 GPU 上计算每个点积的部分并总结结果。无论采用哪种策略，我们都可以将权重矩阵分割成大小均匀的“碎片”，将每个碎片托管在不同的 GPU 上，并使用该碎片计算整个矩阵乘积的相关部分，然后再进行通信以组合结果。

一个例子是Megatron-LM，它在 Transformer 的自注意力和 MLP 层内并行化矩阵乘法。PTD-P使用张量、数据和流水线并行，其流水线调度为每个设备分配了多个不连续的层，以增加网络通信为代价来减少泡沫损耗。

有时，网络输入可以跨维度并行化，相对于交叉通信具有高度的并行计算。序列并行就是这样一种想法，其中输入序列在时间上被分成多个子示例，通过允许计算继续进行更细粒度的示例，来按比例减少峰值内存消耗。

4 专家混合 (MoE)

使用专家混合（MoE）方法，只有小部分网络用于计算任何一个输入的输出。

一个示例方法是拥有多组权重，并且网络可在推理时通过门控机制选择要使用的权重组，这能在不增加计算成本的情况下启用更多参数。每组权重都被称为“专家”，且希望网络能学会为每个专家分配专门的计算和技能。不同的专家可以主持不同的 GPU ，从而提供了一种明确的方式来扩大用于模型的 GPU 数量。

图注：门控网络只选择了n个专家中的2个。

GShard 将 MoE Transformer 的参数扩展到 6000 亿个参数，其中仅将 MoE 层拆分到多个 TPU 设备上，其他层则完全复制。Switch Transformer 通过将一个输入路由到单个专家，将模型大小扩展到数万亿个参数，具有更高的稀疏性。

5 其他节省内存的设计

还有许多其他的计算策略，可以使训练越来越大的神经网络更容易处理。例如：

要计算梯度，需要保存原始激活，这会消耗大量设备 RAM。检查点（也称为激活重新计算）存储激活的任何子集，并在反向传递期间，及时重新计算中间的激活，以最多一个额外完整前向传递的计算成本，节省了大量内存。人们还可以通过选择性激活重新计算，来不断权衡计算和内存成本，这是对激活的子集进行检查，其存储成本相对较高，但计算成本较低。

混合精度训练是使用较低精度的数字（最常见的是FP16）来训练模型。现代加速器可以使用较低精度的数字达到更高的 FLOP 计数，并且还能节省设备 RAM。在适当的照顾下，产生的模型几乎可以不损失任何精度。

卸载是将未使用的数据临时卸载到 CPU 或不同设备之间，在需要时将其读回。幼稚的执行会大大减慢训练速度，但复杂的实现方式会预先获取数据，使设备永远不需要等待。这个想法的一个实现是ZeRO，它可将参数、梯度和优化器状态分割到所有可用的硬件上，并根据需要将它们具体化。

Memory Efficient Optimizers已经提出了内存效率优化器，以减少优化器所维护的运行状态的内存占用，例如Adafactor。

压缩也可用于存储网络中的中间结果。例如，Gist压缩为后向传递而保存的激活；DALL-E在同步梯度之前压缩梯度。

ubuntu16.04离线安装sshd依赖库 ubuntu18.04如何配置ssh

Ubuntu16.04离线安装openssh-server,ubuntu16.04离线安装ssh,Ubuntu 16.04,ubuntu16.10
依次运行下面命令进行安装： sudo dpkg -i openssh-client_1%3a7.6p1-4ubuntu0.6_amd64.deb sudo dpkg -i ncurses-term_6.1-1ubuntu1.18.04_all.deb sudo dpkg -i openssh-sftp-server_1%3a7.6p1-4ubuntu0.6_amd64.deb sudo dpkg -i openssh-server_1%3a7.6p1-4ubuntu0.6_amd64.deb sudo dpkg -i ssh-import-id_5.7-0ubuntu1.1_all.deb 修改 /etc/ssh/sshd_config文件权限 ①进入 /etc/ssh/， 执行命令：cd /etc/ssh/ ②并修改sshd_config文件权限， 执行命令：chmod 777 sshd_config ③进入编辑模式 执行命令：vi sshd_config ④找到permitRootLogin 删除permitRootLogin后面的without-password后改为yes