HDP实操--NameNode开启高可用

九月2年前技术文章1568

为了确定在namenode组件失败后集群中有其他的namenode可以工作,需要对hdp集群配置高可用,当前我们配置的非安全集群的高可用。

前置条件:

(1)确保你的集群至少有3个节点并且至少有3个Apache ZooKeeper servers在运行。

(2)确保你的hdfs和zookeeper不在维护模式中。

 (3)  If you have HBase running, please exit this wizard and stop HBase first.

1、设置nameservice

Ambari的web页面,选择Services > HDFS > Summary。点击Actions,然后选择Enable NameNode HA。在Get Started 窗口,设置nameservice。

图1.png

2、修改hive元数据配置

如果有安装的hive,在部署namenode ha的时候要修改hive metastore中的hdfs路径,将之前的hdfs配置修改成新设置的nameservice,可以执行一下命令:

在hive节点中执行命令查看当前hdfs配置:

hive --config /etc/hive/conf/conf.server --service metatool -listFSRoot

图2.png

更改hdfs的root配置:

#hive --config /etc/hive/conf/conf.server --service metatool -updateLocation [NEW_LOCATION][OLD_LOCATION]

hive --config /etc/hive/conf --service metatool -updateLocation hdfs://mycluster/apps/hive/warehouse hdfs://hdp001:8020/warehouse

图3.png

3、集群中配置zookeeper的失败次数

页面中选择Services > HDFS > Configs > Advanced core-site,设置

ha.failover-controller.active-standby-elector.zk.op.retries=120。

4、增加组件

选择节点对另外的namenode组件和journalnode组件进行部署。

Review页面,确定部署的节点然后点击next

5、create checkpoint

在Manual Steps Required: Create Checkpoint on NameNode 页面,要登录到之前的namenode节点,将namenode节点配置成安全模式并且创建checkpoint,当页面显示checkpoint已经创建的时候,选择next。



Configure Components页面查看安装情况,部署完毕后点击next。

图6.png

6、初始化jn组件

Manual Steps Required: Initialize JournalNodes页面显示要对JournalNodes组件进行初始化,登录之前的namenode节点运行以下命令

图7.png

7、在Start Components页面,监控zk和namenode的启动

图8.png

8、 初始化nn组件

Manual Steps Required: Initialize NameNode HA Metadata,在这一步,需要登录之前的namenode节点和要增加的另一台namenode节点,执行对应命令,确定完成初始化metastore后点击next。

图9.png

9、在Finalize HA Setup页面,监控安装进程。

图10.png


相关文章

运维监控体系总结

总结归纳运维工作中的监控内容。监控目标:明白监控的重要性以及使用监控要实现的业务目标通常包括以下三点:对目标系统进行实时监控监控可以实时反馈目标系统的当前状态 目标系统硬件、软件、业务是否正常、目前处...

ES运维(一)底层数据存储原理

ES运维(一)底层数据存储原理

1、ES底层数据存储原理架构图Segment工作流程:A、 新的文档在内存中组织B、 每隔一段时间,buffer将会被提交:生成一个新的segment(一个额外的新的倒序索引)并被写到磁盘,同时一个新...

HDFS Fsimage分析磁盘目录(文件级别)

HDFS Fsimage分析磁盘目录(文件级别)

首先获取fsimage信息hdfs dfsadmin -fetchImage  /opt/fsimage格式化fsimage 转换为可读文本hdfs oiv -i /opt/fsimage/fsima...

Hive架构图及Hive SQL的执行流程

Hive架构图及Hive SQL的执行流程

1、Hive产生背景MapReduce编程的不便性HDFS上的文件缺少Schema(表名,名称,ID等,为数据库对象的集合)2、Hive是什么Hive的使用场景是什么?基于Hadoop做一些数据清洗啊...

Hive优化之配置参数的优化(一)

Hive优化之配置参数的优化(一)

 Hive是大数据领域常用的组件之一,主要是大数据离线数仓的运算,关于Hive的性能调优在日常工作和面试中是经常涉及的一个点,因此掌握一些Hive调优是必不可少的一项技能。影响Hive效率的...

CPU--上下文切换

CPU--上下文切换

一、概述1、Linux 是一个多任务操作系统,它支持远大于 CPU 数量的任务同时运行。当然,这些任务实际上并不是真的在同时运行,而是因为系统在很短的时间内,将 ...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。