hiveserver2高可用

恩慈1年前技术文章599

一、安装hiveserver2服务

步骤1. 将正常使用的hive目录复制到安装hiveserver2的节点(hd3节点)

scp -r /opt/hive hd3:/opt/

二、配置hive-site.xml

编辑hive配置文件/opt/hive/conf/hive-site.xml

 

1.删除参数

步骤1. 在所有hiveserver2节点删除如下内容 

      <property>

       <name>hive.server2.active.passive.ha.enable</name>

            <value>true</value>;

       </property>

2.添加参数

     <property>

         <name>hive.server2.thrift.bind.host</name>

         <value>172.16.104.226</value>

     </property>

iphiveserver2本机ip

3.确认参数

在所有hiveserver2节点确认如下参数是否一致不一致请修改

   <property>

        <name>hive.server2.zookeeper.namespace</name>

        <value>hiveserver2_zk</value>

    </property>

------------------------

    <property>

        <name>hive.server2.support.dynamic.service.discovery</name>

        <value>true</value>

    </property>

 

 

 

三、创建认证文件

步骤1. 登陆freeipa依次点击身份---->服务---->添加hd3principal

如下图红框中的内容其中hive为服务名称hd3.ststack.com为主机名DRSTACK.COM为域名请根据实际修改

image.png 

 

步骤2. 登陆hd3节点

 

步骤3. 执行kinit admin

ipa-getkeytab -s hd.dtstack.com -p hive/hd3.dtstack.com@DTSTACK.COM -k /etc/security/keytab/hive.keytab

 

步骤4. 修改keytab权限为644属组为hive:hive

chmod 644 /etc/security/keytab/hive.keytab

chown hive:hive /etc/security/keytab/hive.keytab

image.png 

 

四、添加ranger插件

步骤1. 进入原hiveserver2安装目录

步骤2. scp -r /opt/ranger-2.3.0-hive-plugin hd3:/opt/

步骤3. 编辑 install.properties

vi /opt/ranger-2.3.0-hive-plugin/ install.properties

修改红框中的主机名为当前主机名image.png 

 

步骤4. 执行初始化脚本enable-hive-plugin.s

./enable-hive-plugin.s

 

步骤5. 检查文件是否正常生成

image.png 

 

步骤6. 登陆ranger界面,点击Audit---->PLugins查看权限是否同步

image.png 

五、启动hiveserver2

步骤1. 执行如下命令启动hiveserver2

sudo -u hive /opt/hive/bin/hive --service hiveserver2>/var/log/hive/hiveserver2.log 2>&1 &

 

六、验证

步骤1. 登陆zk节点

cd /opt/zookeeper/bin

./zkCli.sh -server hd2

 

步骤2. 执行ls /hiveserver2_zk结果如下图说明已经成功

image.png 

 

步骤3. 登陆节点执行kinit认证

image.png 

步骤4. 执行beeline命令查看是否可用

beeline -u 'jdbc:hive2://hd1:2181,hd3:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2_zk'

        image.png


相关文章

ReadConcern与WriteConcern

一、ReadConcern1、ReadConcern vs ReadPreferenceReadPreference 主要控制从副本集哪个节点来读取数据,该参数可以实现读写分离、就近读取的功能prim...

SQLServer执行计划

SQLServer执行计划

一、执行计划概览RDS SQLServer 执行计划可以在性能分析中查看,也可以在登陆数据库后查看执行计划。(1)在 DMS 登陆数据库后查看,情况如下: 具体执行计划内容如下: (2)在性能分析中找...

数据湖Iceberg

数据湖Iceberg

1、概述         Iceberg 是一个面向海量数据分析场景的开放表格式(Table Format)。表格式(Table  Format)可以理解为元数据以及数据文件的一种组织方式,处于计算框...

RAID磁盘阵列详解

RAID磁盘阵列详解

1 RAID原理无论是DAS、NAS还是SAN,都是存储系统,一个存储系统可以包含多块磁盘。不同磁盘之间的组织排列,就是磁盘阵列技术,也就是RAID技术。RAID磁盘阵列技术的核心思想主要有两个,包括...

Java-API对HDFS的操作(IDEA版)

Java-API对HDFS的操作(IDEA版)

前期工作首先就是安装maven在win系统下不配置hadoop环境,直接运行代码会报错,显示缺少winutils.exe 和 hadoop.dll 两个文件首先添加pom.xml文件  <dep...

使用Sqoop将数据从Hive导入MySQL(一)

使用Sqoop将数据从Hive导入MySQL(一)

使用Sqoop将数据从Hive导入MySQL首先查看csv数据类型创建类似的hive表并导入数据CREATE TABLE data (    province STRING,    code INT,...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。