hiveserver2高可用

恩慈1年前技术文章451

一、安装hiveserver2服务

步骤1. 将正常使用的hive目录复制到安装hiveserver2的节点(hd3节点)

scp -r /opt/hive hd3:/opt/

二、配置hive-site.xml

编辑hive配置文件/opt/hive/conf/hive-site.xml

 

1.删除参数

步骤1. 在所有hiveserver2节点删除如下内容 

      <property>

       <name>hive.server2.active.passive.ha.enable</name>

            <value>true</value>;

       </property>

2.添加参数

     <property>

         <name>hive.server2.thrift.bind.host</name>

         <value>172.16.104.226</value>

     </property>

iphiveserver2本机ip

3.确认参数

在所有hiveserver2节点确认如下参数是否一致不一致请修改

   <property>

        <name>hive.server2.zookeeper.namespace</name>

        <value>hiveserver2_zk</value>

    </property>

------------------------

    <property>

        <name>hive.server2.support.dynamic.service.discovery</name>

        <value>true</value>

    </property>

 

 

 

三、创建认证文件

步骤1. 登陆freeipa依次点击身份---->服务---->添加hd3principal

如下图红框中的内容其中hive为服务名称hd3.ststack.com为主机名DRSTACK.COM为域名请根据实际修改

image.png 

 

步骤2. 登陆hd3节点

 

步骤3. 执行kinit admin

ipa-getkeytab -s hd.dtstack.com -p hive/hd3.dtstack.com@DTSTACK.COM -k /etc/security/keytab/hive.keytab

 

步骤4. 修改keytab权限为644属组为hive:hive

chmod 644 /etc/security/keytab/hive.keytab

chown hive:hive /etc/security/keytab/hive.keytab

image.png 

 

四、添加ranger插件

步骤1. 进入原hiveserver2安装目录

步骤2. scp -r /opt/ranger-2.3.0-hive-plugin hd3:/opt/

步骤3. 编辑 install.properties

vi /opt/ranger-2.3.0-hive-plugin/ install.properties

修改红框中的主机名为当前主机名image.png 

 

步骤4. 执行初始化脚本enable-hive-plugin.s

./enable-hive-plugin.s

 

步骤5. 检查文件是否正常生成

image.png 

 

步骤6. 登陆ranger界面,点击Audit---->PLugins查看权限是否同步

image.png 

五、启动hiveserver2

步骤1. 执行如下命令启动hiveserver2

sudo -u hive /opt/hive/bin/hive --service hiveserver2>/var/log/hive/hiveserver2.log 2>&1 &

 

六、验证

步骤1. 登陆zk节点

cd /opt/zookeeper/bin

./zkCli.sh -server hd2

 

步骤2. 执行ls /hiveserver2_zk结果如下图说明已经成功

image.png 

 

步骤3. 登陆节点执行kinit认证

image.png 

步骤4. 执行beeline命令查看是否可用

beeline -u 'jdbc:hive2://hd1:2181,hd3:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2_zk'

        image.png


相关文章

ES运维(七)添加sql插件

ES运维(七)添加sql插件

一、概述ElasticSearch安装SQL插件下载地址(中国大佬开发)二、集成sql插件1、下载es-sql插件下载地址: https://github.com/NLPchina/elastics...

hdfs数据迁移

hdfs数据迁移

通过使用distcp进行数据全量迁移DistCp(分布式拷贝)是用于大规模集群内部和集群之间拷贝的工具。 它使用Map/Reduce实现文件分发,错误处理和恢复,以及报告生成。 它把文件和目录的列表作...

Hive合并小文件:hive归档(archive)

Hive合并小文件:hive归档(archive)

一、概述       在HDFS中数据和元数据分别由DataNode和NameNode负责,这些元数据每个对象一般占用大约150个字节。大量的小文件相对于大文件会占用大量的NameNode内存。对Na...

Keepalived安装部署

Keepalived安装部署

安装keepalivedyum 安装keepalivedyum install keepalivedkeepalived.conf配置文件进行调整,其中state设置主备状态,interface设置对...

FQA-Alluxo web ui出现Server Configuration Check failed

FQA-Alluxo web ui出现Server Configuration Check failed

1、背景在部署Alluxio高可用集群后,alluxio web页面出现Server Configuration Check failed2、解决办法./bin/alluxio fsadmin doc...

flink算子优化

flink算子优化

这里先看两个任务的逻辑执行图:图一:全部打散的任务执行图图二:使用slot资源共享的任务执行图图一和图二中的两个任务是同一个任务,不同点是图一将所有的算子全部打散,在代码中使用了以下逻辑:,或者就是禁...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。