亚马逊网络服务公司上周举办了年会。超过50，000名与会者聚集在拉斯维加斯参加为期4天的多云会议。在人工智能领域，AWS宣布了十几项全新的构建和运行智能应用的服务，大大增加了本已丰富的业务组合。亚马逊机器学习副总裁斯瓦米·瓦苏·布拉曼说，“我们希望帮助所有客户接受机器学习，无论他们的规模、预算、经验或技能水平如何。”亚马逊希望通过简化使用和降低复杂开发过程的成本，扩大其在企业和AI初创市场的领先地位。
摘要
AWS表示，客户的直接参与帮助它定义了超过90%的人工智能产品组合。基于AWS的最新功能，我相信AWS现在可以更好地挑战谷歌、谷歌和微软的Azure，在关键领域开发和托管人工智能:
AWS在其端到端人工智能开发平台SageMaker中加入了强化学习功能。去年4月，谷歌在其TensorFlow深度学习框架中加入了RL，微软在这个新的无监督学习领域投入了大量资金。
AWS正在为人工智能推理建立一个定制的ASIC，名为推理，它声称可以从数百个顶点扩展到数千个顶点，并将基于云的推理的成本降低一个数量级。谷歌有自己的TensorFlow处理单元，微软正在使用英特尔和Xilinx FPGAs来加速推理处理。
亚马逊的人工智能开发平台AWS SageMaker仍在蓬勃发展——它去年获得了90多项改进，现在提供了150多种模型和算法。AWS的合作伙伴和用户Adobe表示，SageMaker帮助其将人工智能的开发时间缩短了90%——这是一个令人印象深刻的说法。
让我们仔细看看AWS发布了什么，以及它对云领导者及其用户的影响。
AWS宣布了什么
亚马逊的云人工智能服务已经被创业公司和企业广泛用于研究、开发和部署智能服务和产品——主要是在深度神经网络领域。亚马逊在上周的重塑会议上表示，在其服务上发生的公共云ML比任何其他服务都多。作为全球最大的云服务提供商，AWS支持几乎所有的AI DNN框架，以及最新的Intel、AMD和Arm cpu、NVIDIA NVDA和Xilinx FPGAs。尽管该公司一直是基础设施即服务的云提供商，但其最近的声明大大扩展了其在ML即服务市场的足迹。
人工智能服务:功能扩展到更高层次
尽管亚马逊之前的人工智能服务专注于更基本的语音、文本、图像和视频处理，但现在它包含了更高级的服务和专业领域。新的人工智能服务包括一个新的预测工具。公司说不需要人工智能经验。在其店面中基于相同技术亚马逊的一套支持人工智能的个性化服务，使用复杂的新光学字符处理工具来处理容量表和短文，预先训练的神经网络可以帮助医务人员改进他们的诊断和治疗计划。亚马逊还公布了AWS翻译的“自定义词条”功能。这大大提高了AWS对企业客户的价值，因为这是微软曾经宣称的。
ML服务:强化学习和“基础事实”数据准备
新的AWS机器学习开发服务专注于扩展SageMaker开发平台的效用。这包括对强化学习的新支持，以及帮助客户管理和标记数据集的“基本事实”服务——这在当今是一个漫长而耗时的过程。亚马逊还推出了一个新的AWS ML市场，提供对150多种模型和算法的点击移动网络访问。其中许多可能是亚马逊开发的内部使用，以改善客户互动和服务。
强化学习是人工智能的最新趋势。微软研究院是RL研究的主要贡献者，谷歌Deep Mind也是。RL早期的研究大多集中在游戏上，比如谷歌努力打造其著名的阿尔法围棋冠军。基本上，RL随机探索不同的行为和奖励，或者强化那些产生预期结果的行为和奖励，比如赢得一个视频游戏。RL需要大量计算，但训练数据要少得多。正因为如此，理论上更容易被采用，也能从云服务中获得可观的收益。
为了演示RL的实际应用，并提供一个易于使用的开发者sim卡，AWS还发布了AWS Deep Racer——一款可以通过RL训练的1/18级赛车。就像AWS之前的DeepLens一样，DeepRacer可以帮助开发者享受理解这种新的深度学习技术的乐趣。Deep Racer将于明年初上市，AWS计划在全年举办活动，最终将于明年在拉斯维加斯举办re: innovation的锦标赛。
一个新的推理例子和一个新的芯片。
AWS还引入了新的IaaS产品来支持DL模型的开发和实现。对于开发者来说，AWS推出了一个新的更大的GPU EC2 P3dn实例，它支持8个NVIDIA Volta V100 GPU和一个新优化的Tensorflow AMI。据该公司称，这一新实例使用256个英伟达gpu，将扩展效率从65%提高到90%。使用如此大的实例越来越普遍。虽然NVIDIA GPU的性能在过去几年中提高了10倍，但深度学习网络的规模和深度也使计算要求翻倍。为了支持这种级别的扩展，AWS还推出了Apache MXNet的动态训练版本，突出了索尼的一个项目，该项目将NVIDIA Tesla V100 gpu扩展到2176，并在224秒内在IMAGENET上演示了ResNet50训练。
尽管培训市场享有人工智能摇滚明星的地位，并在过去几年中获得了业界的广泛关注，但推理市场仍将快速增长——未来10年，这一市场的规模很可能会萎缩10倍。亚马逊同意这一预测，并宣布了一个新的硬件实例来支持客户使用DL网络。
首先，AWS宣布了弹性推理EC2的新实例，旨在降低75%的推理成本，并为每个NVIDIA GPU加速器提供从1到32 top的弹性扩展。在这个实例类型之前，EC2上的推理工作基本上都是自己完成的。现在你可以使用SageMaker在亚马逊云和物联网设备上开发和运行深度神经网络。
AWS也发布了自己的人工智能芯片“推理”(Inferentia)，这是很多人一直期待的重要声明。AWS声称这种芯片将进一步降低成本。这个设备将在弹性推理实例中可用，当然，它将得到SageMaker的支持。据该公司称，一颗芯片将为“100 top”提供int8和fp16的混合精度，这将使它们完全达到或超过英伟达的性能水平。AWS还表示，可能会通过on-die互联，将扩展到“1000”的上限，并初步支持MXNet和Pytorch。此外，新的灵活推理示例降低了75%的成本，这可能会改变游戏规则，并使许多初创公司的前景变得暗淡。就像谷歌的第一个张量处理单元一样，亚马逊的设备只对推理有用。这就把AWS的训练能力留给了英伟达，至少目前是这样。
AWS还宣布了“SageMaker Neo”，允许开发人员在各种硬件上部署经过训练的网络模型，包括cpu、gpu、FPGAs和新的推理ASIC。AWS表示，与典型模型相比，Neo对ML模型进行了优化，运行速度提高了两倍，消耗的资源不到1%。这为AWS客户的异构边缘计算环境提供了难以置信的价值。
结论
AWS最近发布的一系列公告显著提高了其MLaaS产品的实用性。SageMaker继续成为业内最全面的AI开发平台之一，支持几乎所有类型的神经网络和框架，并支持一次编写、随处部署的工作流。将AWS移到推理处理的前沿也是明智之举，因为许多人工智能项目正在进入部署阶段，正在寻找低成本的托管平台。为业务问题添加特定的解决方案，如预测、定制和OCR处理，应该会受到企业客户的欢迎，因为他们希望轻松获得支持ai的功能。AWS Insight Medical是第一个有趣的特定于行业的Insight解决方案，应该会有更多的解决方案。
弹性推理实例将是EC2的一个受欢迎的新特性，特别是当它与新的推理芯片的承诺性能相结合时。我将很快寻找应用程序基准，这样我们就可以比较推理与谷歌的TPU和其他asic。推理是一个热门话题，Habana Labs和GraphCore等数十家初创公司都配备了令人印象深刻的基准，可以帮助客户决定在哪里托管他们的工作负载。与TPU进行面对面的比较将会非常有趣。希望AWS能和第三方合作，保证非常干净。
关于re: invention 2018我想说的最后一点是，AWS能报出名字的客户和合作伙伴的数量让我印象深刻。这总是一个棘手的问题，但公司成功了。这里有很多要讲的。谢谢你一直读到最后。节日快乐！
