spark与hadoopSEARCH AGGREGATION

首页/精选主题/

spark与hadoop

托管Hadoop集群

托管 Hadoop 集群(UHadoop)是基于 Hadoop 框架的大数据综合处理平台,提供开箱即用的 Spark、HBase、Presto、Hive 等大数据生态常见组件,同时可选 Hue、Sqoop、Oozie、Pig 等多种辅助工具。 为满足存储计算分离的需求,UHadoop 现已支持独...

spark与hadoop问答精选

Hadoop与Spark相比有存在优势的方面吗?

问题描述:该问题暂无描述

Object | 820人阅读

Spark和Hadoop对于大数据的关系?

回答:Hadoop生态Apache™Hadoop®项目开发了用于可靠,可扩展的分布式计算的开源软件。Apache Hadoop软件库是一个框架,该框架允许使用简单的编程模型跨计算机集群对大型数据集进行分布式处理。 它旨在从单个服务器扩展到数千台机器,每台机器都提供本地计算和存储。 库本身不是设计用来依靠硬件来提供高可用性,而是设计为在应用程序层检测和处理故障,因此可以在计算机集群的顶部提供高可用性服务,...

娣辩孩 | 1448人阅读

大数据Spark技术是否可以替代Hadoop?

回答:1998年9月4日,Google公司在美国硅谷成立。正如大家所知,它是一家做搜索引擎起家的公司。无独有偶,一位名叫Doug Cutting的美国工程师,也迷上了搜索引擎。他做了一个用于文本搜索的函数库(姑且理解为软件的功能组件),命名为Lucene。左为Doug Cutting,右为Lucene的LOGOLucene是用JAVA写成的,目标是为各种中小型应用软件加入全文检索功能。因为好用而且开源(...

ctriptech | 775人阅读

spark真的要取代hadoop了么,还有阿里的flink未来会是一种趋势么?

回答:大家好,我是LakeShen作为一个软件开发工程师,我从事的方向主要是大数据方向,结合我的工作经验,我个人认为,Spark不会完全取代Hadoop,Hadoop还有很多其他方面的大数据组件,这些组件是Spark所没有的,同时,Flink在未来的发展,会作为实时计算方面的一种发展趋势。下面来说一下我个人的看法:Flink未来的发展首先,Flink是什么?Flink一种流式处理的实时计算引擎,它消费的...

villainhr | 1242人阅读

sql server、my sql、oracle与hadoop,哪个才是未来趋势?到底有什么区别?

回答:SQL server,Mysql,Oracle都可以说是老产品了。就产品本身来说,这三个数据库产品都是成功的。这三者是目前市场占有率最高的关系数据库,而且很有代表性。MySQLMySQL基本是生于互联网,长于互联网。其应用实例也大都集中于互联网方向,MySQL的高并发存取能力并不比大型数据库差,同时价格便宜,安装使用简便快捷,深受广大互联网公司的喜爱。MySql可运行在不同的操作系统下。简单地说,...

caoym | 987人阅读

hadoop任务,给定数据量和处理逻辑(Sql、UDF等),如何预估计算时间与资源?有没有实际案例?

回答:首先明确下定义:计算时间是指计算机实际执行的时间,不是人等待的时间,因为等待时间依赖于有多少资源可以调度。首先我们不考虑资源问题,讨论时间的预估。执行时间依赖于执行引擎是 Spark 还是 MapReduce。Spark 任务Spark 任务的总执行时间可以看 Spark UI,以下图为例Spark 任务是分多个 Physical Stage 执行的,每个stage下有很多个task,task 的...

silenceboy | 1039人阅读

spark与hadoop精品文章

  • Spark VS Hadoop:两大大数据分析系统深度解读

    ...广泛、国人认知最多的Apache开源大数据框架系统:spark Hadoop Spark:速度快、易于使用 Spark以性能见长,但是它也因易用性而小有名气,原因是它随带易于使用的API,支持Scala(原生语言)、Java、Python和Spark SQL。Spark SQL非常类似...

    liangdas 评论0 收藏0
  • Spark 快速入门

    ...用户将Spark部署在大量廉价硬件之上,形成集群。 Spark与Hadoop Spark是一个计算框架,而Hadoop中包含计算框架MapReduce和分布式文件系统HDFS,Hadoop更广泛地说还包括在其生态系统上的其他系统. 为什么使用Spark? Hadoop的MapReduce计算模型存...

    wangshijun 评论0 收藏0
  • 暗角力!开源云平台中的拼图“玩具”

    ...大的市场生态,发展的同时推动主流更加完善技术。明:Hadoop、OpenStack、Docker变身主流开源云平台暗:Spark、CloudStack、Rocket助力开源云平台成长通常在玩具分为各个类别,不同东西针对玩家的兴趣点也不尽相同。就拼图玩具...

    1treeS 评论0 收藏0
  • 飞驰在Mesos的涡轮引擎上

    ...) 为Spark而Mesos 我们的分析团队一直都是在传统的CDH上跑Hadoop生态。对新业务评估时决定拥抱Spark, 但CDH升级困难, Spark版本滞后, 使用起来也远比Hadoop繁琐。最后我们决定基于Mesos从头构建新的数据分析基础环境。 但是Mesos上缺乏...

    xorpay 评论0 收藏0

推荐文章

相关产品

<