摘要：日前，公司宣布推出其分布式深度学习软件的测试版，该软件证明了在深度学习表现出来的技术飞跃。系统加速和内存总监在一篇博文中表示更受欢迎的深度学习框架扩展到服务器中的多个，而不是扩展到具有的多个服务器。
日前，IBM 公司宣布推出其分布式深度学习软件的测试版，该软件证明了在深度学习表现出来的技术飞跃。
深度学习是人工智能的一种形式，它依赖于人工神经网络的应用。其重点是让计算机能够像人们那样理解数字图像、视频、录音等内容。
然而，由于处理系统“深层次培训”所需的大量数据的后勤处理可能需要几天甚至几周的时间，所以很多潜在的深度学习仍然未能实现。其结果的准确性是导致耗费时间的另一个问题，因为系统需要多次训练才能获得预期的结果。每次通过更高的准确度意味着计算机必须“重新训练”的次数更少，直到它正确为止。
减少时间因素是困难的，因为只需增加更多的计算能力和更快的处理器，而增加更多的处理器不会加快速度。其实恰恰相反：随着“学习者”处理器数量的增加，计算时间会像预期的那样减少，但是每个学习者的沟通时间保持不变。换句话说，是学习瓶颈阻碍了发展。
IBM公司在一份研究报告中解释说：“成功的分布式深度学习需要一个基础架构，其中硬件和软件被共同优化，以平衡计算需求与通信需求和互连带宽。”此外，通信延迟在GPU的大规模扩展(100多个)中起着重要的作用。如果这些因素不受控制，分散式深度学习可以快速达到收益递减的程度。”
这使得最深入的学习项目仅限于单服务器实现。IBM公司日前公布的研究和新软件也将在这里发挥作用。该公司已经学会了如何加快流程，获得更准确的结果。
IBM Research系统加速和内存总监Hillery Hunter在一篇博文中表示：“更受欢迎的深度学习框架扩展到服务器中的多个GPU，而不是扩展到具有GPU的多个服务器。具体来说，我们的团队编写了软件和算法，可以自动化并优化这个非常大而复杂的计算任务的并行化，并将数百个GPU加速器连接到数十台服务器上。”
在对软件进行测试时，IBM研究人员在部署Caffe深度学习框架时，实现了创记录的通信开销和95%的扩展效率，该系列集成了64个IBM Power系统，每个系统连接4个NVidia Tesla P100-SXM2 GPU，总共256个处理器。这使得Facebook人工智能研究使用较小的学习模型和数据集展示了以前较佳的89%的扩展比例，从而降低了复杂性。
此外，测试产生了一个识别图像的神经网络训练数据集的750万个图像的准确率为33.8%的记录，打破了微软公司公布的29.8%的准确性记录。
Hunter写道：“IBM研究部门的团队一直致力于为大数据集减少大型模型的训练时间。我们的目标是将深入学习训练的等待时间从数天或数小时缩短到几分钟或几秒钟，从而提高这些人工智能模型的较精确度。为了实现这一目标，我们正在处理在大量服务器和GPU中分布式深度学习的大规模的问题。“
Hunter和她的团队在加速这一过程中已经取得了很大的成绩——只用了七个小时就完成了测试。
“微软花了10天的时间来训练同样的模式，”她提到了以前的行业记录，“这一成就需要我们创建分布式深度学习代码和算法来克服扩展这些强大的深度学习框架所固有的问题。”
IBM研究开发的分布式深度学习软件测试版本或技术预览，日前已在IBM PowerAI 4.0中开始使用，使开发人员可以使用深入学习培训人工智能模型实现集群扩展功能。
“我们预计，通过将此DDL功能提供给人工智能社区，我们将会看到更多更高的精度运行，因为其他人利用集群的力量进行人工智能模型的训练。”Hunter说。
欢迎加入本站公开兴趣群商业智能与数据分析群
兴趣范围包括各种让数据产生价值的办法，实际应用案例分享与讨论，分析工具，ETL工具，数据仓库，数据挖掘工具，报表系统等全方位知识
QQ群：81035754
文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/4594.html
摘要：长久以来，惠普戴尔都是服务器市场的老三样，但云计算时代的到来，使得服务器行业的竞争格局发生了翻天覆地的变化，国产品牌正从追赶者转变为引领者。国产品牌正在全球高端服务器领域发挥着越来越重要的作用。长久以来，惠普、戴尔、IBM都是服务器市场的老三样，但云计算时代的到来，使得服务器行业的竞争格局发生了翻天覆地的变化，国产品牌正从追赶者转变为引领者。国产品牌正在全球高端服务器领域发挥着越来越重要的作...
摘要：亚马逊没有公布的营收，但有人表示它可能已经是一项亿美元的业务。预计下周将第一时间宣布其产品，这是其较早的在上运行的主要产品。谁能够随着时间的推移在云服务中占据第二把交椅，甚至打败夺得第一，让我们拭目以待。 亚马逊对用户推出的Web服务，使它成为迄今为止较大的云服务提供商。就像大多数的大型云供应商一样，亚马逊并没有就当前或计划中的数据中心透露太多。 埃森哲分析师Huan Liu的研究结果显...
摘要：在的计划中，今年年底全球要建成至少家云计算中心。在有了远远超出当年的网络带宽和虚拟化技术之后，网格等技术借助云计算得以发扬光大。实施安全云计算的前提是快速高效的收集用户的安全威胁。市场研究公司称，安全软件将从端点转向云计算。 云计算(Cloud Computing)正在成为技术界的行话甚至暗语。不仅Google、IBM、微软和雅虎等大公司是云计算的拥趸，规模较小的公司也在逐渐向其靠拢。CRM...
摘要：年可以说是软件定义数据中心的一年，大量自动化和人工智能研发力量致力于打造下一代可扩展的灵活的数据中心。年，致力在软件定义数据中心占据一席之地，并将目标瞄准了在年之前实现软件和支持收入亿美元。公有云没有扼杀数据中心，尽管有些人预测这会在2018年发生。不仅数据中心还在，而且服务器、存储和网络等数据中心基础设施的全球支出正呈现蓬勃增长的态势。2018年可以说是软件定义数据中心的一年，大量自动化和...
摘要：月日晚间，阿里巴巴集团发布年第四季度财年第三季度财报，旗下云计算业务阿里云保持强劲增长，营收增速亮眼。财报显示，阿里云第四季度营收亿元，比去年同期增长，连续第三个季度保持三位数增长。 1月28日晚间，阿里巴巴集团（NYSE:BABA）发布2015年第四季度（2016财年第三季度）财报，旗下云计算业务阿里云保持强劲增长，营收增速亮眼。财报显示，阿里云第四季度营收8.19亿元，比去年同期增长1...
阅读 1409·2021-11-24 10:20
阅读 3651·2021-11-24 09:38
阅读 2296·2021-09-27 13:37
阅读 2198·2021-09-22 15:25
阅读 2271·2021-09-01 18:33
阅读 3490·2019-08-30 15:55
阅读 1785·2019-08-30 15:54
阅读 2084·2019-08-30 12:50
