资讯专栏INFORMATION COLUMN

Hive 托管Hadoop集群 UHadoop

ernest.wang / 3069人阅读

摘要:执行语句时,任务内存不足怎么办执行语句时,任务内存不足怎么办执行语句时,任务内存不足怎么办如果在日志文件中看到出现错误,可以通过等来增大或可以使用的内存数。

Hive

本篇目录

Hive执行sql任务太慢,是否可以支持hive on spark?执行SQL语句时,map/reduce任务内存不足怎么办?hive-server2 通过jdbc提交任务的时候报文件权限不足执行sql时速度很慢怎么办?

Hive执行sql任务太慢,是否可以支持hive on spark?

UHadoop暂时未支持hive on spark,但可通过使用Spark-sql代替,或者启用Spark-thriftserver,通过beeline进行连接。

执行SQL语句时,map/reduce任务内存不足怎么办?

如果在日志文件中看到出现running beyond physical memory limits错误,可以通过

set mapreduce.map.memory.mb=XXX
set mapreduce.reduce.memory.mb=XXX

等来增大map或reduce可以使用的内存数。如果多个任务都出现这个情况,可以在/home/hadoop/hive/conf/hive-site.xml里加入配置

hive-server2 通过jdbc提交任务的时候报文件权限不足

可以在连接hive的时候使用hadoop用户,以java代码为例:

Connection con = DriverManager.getConnection("jdbc:hive2://ip:10000/default", "hadoop", "");

执行sql时速度很慢怎么办?

Hive默认的优化策略是对select这种简单操作,并不会启动map任务。可以通过在命令中指定hive.fetch.task.conversion=none这个参数,或者配置在/home/hadoop/hive/conf/hive-site.xml中来强制制启动map任务。

举例:

hive -e "set hive.fetch.task.conversion=none;select * from spark_testtable;"

文章版权归作者所有,未经允许请勿转载,若此文章存在违规行为,您可以联系管理员删除。

转载请注明本文地址:https://www.ucloud.cn/yun/127020.html

相关文章

  • 元数据管理 托管Hadoop集群 UHadoop

    摘要:架构架构元数据管理元数据管理元数据管理创建集群时可在控制台开启元数据独立管理。若项目中已开启过元数据独立管理,则新集群开启该功能时,不再创建新的,而是将新集群的元数据存储于已有的中。 元数据管理本篇目录介绍产品架构元数据管理介绍UHadoop 支持将 Hive-Metastore 的数据库独立于 Hadoop 集群部署,也支持多个集群访问同一个 Hive 元数据库,可在控制台对其做管理。产品...

    ernest.wang 评论0 收藏2953
  • 托管Hadoop集群 快速上手 UHadoop

    摘要:也可以将托管集群设置为快捷方式,通过左侧快捷方式菜单栏点击进入。框架集群中仅部署。用于做存储集群,有专属的节点机型。节点管理节点,负责协调整个集群服务。目前仅节点支持绑定。通过云主机内网进行登录。登录密码为集群创建时设置的密码。 快速上手本篇目录创建集群提交任务本文档将带领您如何创建UHadoop集群,并使用UHadoop集群完成数据处理任务。创建集群本章简单介绍了用户使用UHadoop服务...

    ernest.wang 评论0 收藏295
  • Hue开发指南 托管Hadoop集群 UHadoop

    摘要:创建任务创建任务选择这个标签拖动到中。页面权限控制页面权限控制页面权限控制点击管理用户组选择要修改的组名称,设置相应权限并保存 Hue开发指南本篇目录1. 配置工作流2. Hue页面权限控制Hue是面向 Hadoop 的开源用户界面,可以让您更轻松地运行和开发 Hive 查询、管理 HDFS 中的文件、运行和开发 Pig 脚本以及管理表。服务默认已经启动,用户只需要配置外网IP,在防火墙中配...

    ernest.wang 评论0 收藏1340
  • 托管Hadoop集群-故障排查 UHadoop

    摘要:集群运行慢时,通常会在日志中可以查找到明显的异常,或者花费时间长的操作。检查集群节点的运行状态检查集群节点的运行状态管理群集上部署的各种服务。如果主节点遇到性能问题,整个群集都会受到影响。工作的不均衡分配可能会导致处理速度较慢。 故障排查本篇目录任务执行失败排查工具故障描述集群运行速度慢任务执行失败1.查看console输出日志查看任务执行时控制台输出的log,检查是否有ERROR2.查看任...

    ernest.wang 评论0 收藏2025
  • 端口配置 托管Hadoop集群 UHadoop

    摘要:端口配置端口配置端口配置配置名默认配置节点 端口配置 配置名UHadoop默认配置yarn.resourcemanager.zk-addresslocalhost:2181yarn.resourcemanager.address.rm1master1:23140yarn.resourcemanager.address.rm2master2:23140yarn.resourcemanager....

    ernest.wang 评论0 收藏2454

发表评论

0条评论

ernest.wang

|高级讲师

TA的文章

阅读更多
最新活动
阅读需要支付1元查看
<