摘要:大数据处理和所有权导致存储行业现状发生转变。鉴于这些发展动向,云计算在大数据领域可以扮演什么角色呢答案是冷存储,这个领域仍没有得到企业界的充分利用。云计算和虚拟存储在数据集市也存在发展前景。
大数据处理和所有权导致存储行业现状发生转变。本文介绍了存储实践方面最重大的变化。
企业存储环境主要是围绕记录系统构建起来的,侧重于这些问题:为数据记录长度固定的文件购买哪些类型的存储介质和管理系统,所存储数据的性质是实时数据、准实时数据,还是只是偶尔需要访问或完全可以用数据归档保存起来的批量填充的数据等。
自从大数据进入企业数据中心和业务部门,一切改变了――单个的大数据文件可以用数TB、甚至数PB来衡量。Hadoop等分析平台上的大数据并行处理与事务数据的按顺序处理有着明显区别。不出所料,存储方面要考虑的因素随之变化。
这种变化在数据分析和高性能计算领域体现得最为明显。这个领域以Hadoop应用程序为主,它们借助算法分析方法并行处理数PB级数据,用于数据科学及其他复杂查询。就高性能应用程序而言,很难考虑像虚拟化存储或基于云的存储这些概念,因为你只有通过数据中心的物理处理器和存储平台,才能直接处理并存储数据和查询结果。
因此,这种工作具有的计算密集性和存储密集性使数据中心管理人员(包括存储专业人员)不再像过去十年那样,迫切寻求的虚拟化或云计算。作为大数据对象存储特点的单一数据集的庞大性也是如此,它们使用元数据标签来描述非传统数据图像,比如照片、视频、音频记录和文档图像等。
此外,大数据项目的所有权也改变了存储计算。如果公司里面的业务部门在运行大数据项目,其目标就会转向零散的分布式物理存储架构,这些分布式物理存储是网络附加存储(NAS),可以在工作负载需要时,向外扩展到多个存储设备。分布式向外扩展型NAS是基于云的存储或虚拟存储之外的一种选择,它与这些流行的IT趋势形成了鲜明对照。
鉴于这些发展动向,云计算在大数据领域可以扮演什么角色呢?
答案是冷存储(cold storage),这个领域仍没有得到企业界的充分利用。冷存储是极其便宜、速度很慢、驻留在磁盘的数据,存储起来放到归档上,妥善保存起来。在日常的IT中,这些数据很少有机会需要用到,所以如果你把它转移到异地数据存储库很方便,不必让它在你的数据中心或运营系统中占用空间。如果该数据存储库在云端,你就能够从数据中心远程访问它,没必要大老远跑到异地拿起磁盘或磁带。
云计算和虚拟存储在数据集市也存在发展前景。现在许多公司使用数据集市为不同的部门运行批量查询。数据集市中所用的数据大多是批量创建,基本是过去用来查询的传统数据。不同之处在于,用户现在拥有比过去更多的分析报告创建工具和选项用于查询,而且数据管理员更能够生成从不同来源聚合的数据。在这种批量环境下,磁盘存储解决方案用起来就跟过去一样有效。
存储管理员需要应对大数据带来的变化,尤其是如何应对众多极其庞大的大数据文件。这就需要专门的磁盘和处理,在大多数情况下,还需要与云计算和虚拟化项目背道而驰的本地存储。在另一方面,商用冷存储解决方案可能会最终消除这个困境:很少使用的数据驻留在机房的过时磁盘和磁带驱动器上,无人照管。
文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。
转载请注明本文地址:https://www.ucloud.cn/yun/4918.html
摘要:本期算力科创家市北高新篇专题专访了数据港副总裁王海峰,介绍数据中心在大数据中的重要作用。据说都是数据港的客户,在这些巨头的业务板块中数据港扮演了什么角色一种是做我们叫,纯粹的这种商业租用服务。算力说随着大数据行业的发展,对于数据的其承载方数据中心的需求也越高越高,其中成立于2009年的数据港逐渐成长为行业龙头,BAT这样的科技巨头、中国的三大通讯商等企业都是其客户,数据港可谓见证了大数据行业...
摘要:最近接受了彭博的专访,主要谈了公司的发展云计算和经营战略等问题,以下是根据视频整理的文字版供大家参阅。底层面向专家级别的机器学习从业人员。我认为对大多数公司来说真正的宝石是可以用自己的数据来搞的机器学习和。 AWS CEO Andy Jassy 最近接受了彭博(Bloomberg)的专访,主要谈了公司的发展、...
摘要:最早是由谷歌设计,现在作为一个开源平台免费提供给用户。根据联合主席兼谷歌云平台倡导者的说法,拥有一个真正成功的生态系统,利用技术的云原生初创公司肯定能够蓬勃发展。技术领域又一个动荡之年即将结束,如果没有关注企业领域最重要的主题:云计算,你就很难做出关于未来一年的任何预测。企业模式是公有的、私有的、还是多云的?容器扮演什么角色?像Cloud Native Computing Foundatio...
摘要:最近接受了彭博的专访,主要谈了公司的发展云计算和经营战略等问题,以下是根据视频整理的文字版供大家参阅。底层面向专家级别的机器学习从业人员。我认为对大多数公司来说真正的宝石是可以用自己的数据来搞的机器学习和。 AWS CEO Andy Jassy 最近接受了彭博(Bloomberg)的专访,主要谈了公司的发展、云计算、Alexa和经营战略等问题,以下是根据视频整理的文字版供大家参阅。主持人:非...
摘要:全球领先的科技企业腾讯亚马逊将在今年月日聚首第五届互联网安全领袖峰会,简称,探讨全球云安全新趋势。最新议程披露,亚马逊副总裁和首席技术官将出席今年并进行主题演讲。据了解,此次圆桌不仅将聚焦腾讯和亚马逊关于云安全的趋势分享和应用前瞻。 以云服务为代表的产业互联网引领了数字化升级的浪潮。全球领先的科技企业腾讯、亚马逊将在今年7月30-31日聚首第五届互联网安全领袖峰会(Cyber Secu...
阅读 1012·2021-11-18 10:02
阅读 1259·2021-09-23 11:22
阅读 2544·2021-08-21 14:08
阅读 1603·2019-08-30 15:55
阅读 1682·2019-08-30 13:45
阅读 3067·2019-08-29 16:52
阅读 3059·2019-08-29 12:18
阅读 1603·2019-08-26 13:36