CDH实操--kudumaster迁移

九月3年前技术文章1461


1 概述

本次kudumaster迁移,中间不需要停kudu集群(会涉及滚动重启kudu角色);
注:若因为任务持续运行导致kudu停止超时可手动一台台停止-启动

2 master迁移

图1.png

将cdh2中的master节点迁移到cdh3中。(注意leader、follow,将follow节点进行迁移)

2.1 将每个master的记录下来

#操作前先停掉待迁移的master

sudo -u kudu kudu fs dump uuid --fs_wal_dir=/data/kmaster/wal/  --fs_data_dirs=/data/kmaster/data/  2>/dev/null

图2.png

2.2 存活的一个master上执行

sudo -u kudu kudu local_replica cmeta print_replica_uuids --fs_wal_dir=/data/kmaster/wal/ --fs_data_dirs=/data/kmaster/data/ 00000000000000000000000000000000 2>/dev/null

2.3 根据前两步确定dead master的uuid


2.4 在新master机器上执行,uuid为dead master的标识

mkdir -p /data/kmaster/data/
mkdir -p /data/kmaster/wal/
chown kudu:kudu -R /data/kmaster
sudo -u kudu kudu fs format --fs_wal_dir=/data/kmaster/wal/  --fs_data_dirs=/data/kmaster/data/ --uuid=817b421e254943179c6f02ff333db29f


图3.png

   

2.5 将一台存活master的元数据拷贝过来,用kudu用户执行

sudo -u kudu kudu local_replica copy_from_remote --fs_wal_dir=/data/kmaster/wal/  --fs_data_dirs=/data/kmaster/data/  00000000000000000000000000000000 cdh1:7051

图4.png

2.6 新master和存活master上更新master list

每台都执行下面命令

sudo -u kudu kudu local_replica cmeta rewrite_raft_config --fs_wal_dir=/data/kmaster/wal/  --fs_data_dirs=/data/kmaster/data/  00000000000000000000000000000000 275d0ef30feb4c59a09ebf38d52fafdb:cdh1:7051  817b421e254943179c6f02ff333db29f:cdh3:7051

图5.png

在之前的kudumastrer节点cdh1中执行报错,要先关掉该master服务,在去执行。

2.7 CM界面删除已停掉的待替换master,新master和之前存活的master一台台重启,对应的tserver显示过期配置,重启。

图8.png

2.8 检查master状态,需要在每个master管理页面看到的master节点列表是一致的

图9.png

2.9 执行健康检查脚本

  sudo -u kudu kudu cluster ksck cdh1,cdh3

图10.png

2.10 修改之前表的表属性,与当前的master节点一致。

在hive元数据mysql所在库中执行

UPDATE TABLE_PARAMS SET PARAM_VALUE =   'cdh1,cdh3' WHERE PARAM_KEY = 'kudu.master_addresses' AND PARAM_VALUE = 'cdh1,cdh2';

impala-shell中刷新元数据

方法1、执行INVALIDATE METADATA;(这个会消耗大量性能)

 INVALIDATE METADATA;

方法2、重启impala catalog


相关文章

Hive优化之Spark执行引擎的参数优化(二)

Hive优化之Spark执行引擎的参数优化(二)

        Hive是大数据领域常用的组件之一,主要是大数据离线数仓的运算,关于Hive的性能调优在日常工作和面试中...

chengying-6.0登入接口逆向

chengying-6.0登入接口逆向

版本更新首先是登入的加密url:http://172.16.121.70/login参数1. username:admin@dtstack.com2. password:614bb9438210c69...

ES运维(五)聚合分析流程及精准度

ES运维(五)聚合分析流程及精准度

1、 概述ES是一个近实时的搜索引擎,提供近实时海量数据的聚合分析功能,但这个海量数据聚合分析是会损失一定的精准度来满足实时性能需要的。 2、 分布式系统的近似统计算法如下图,在分布式数据分...

ES运维(二)字段类型与内存管理

ES运维(二)字段类型与内存管理

一、ES常见字段类型1、 概述字段是数据存储的最小微粒,根据数据的性质不同将数据分成不同的字段类型,熟悉不同字段类型的特性,对索引的Mapping设计、查询调优都极其重要。2、 关键参数In...

CDH实操--客户端安装

CDH实操--客户端安装

概述安装CDH客户端,主要是方便在CDH部署节点以外,通过客户端的方式连接CDH上的hdfs,hive和hbase服务1、安装jdk(适配CDH即可,一般1.8)2、获取安装包3、部署安装包把安装包解...

Gartner权威报告解读|应用可观测性列为2023年重要战略技术趋势!

Gartner于今日发布企业机构在2023年需要探索的十大战略技术趋势。Gartner杰出研究副总裁Frances Karamouzis表示:“为了在经济动荡时期增加企业机构的盈利,首席信息官和IT高...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。