hiveserver2高可用

恩慈2年前技术文章807

一、安装hiveserver2服务

步骤1. 将正常使用的hive目录复制到安装hiveserver2的节点(hd3节点)

scp -r /opt/hive hd3:/opt/

二、配置hive-site.xml

编辑hive配置文件/opt/hive/conf/hive-site.xml

 

1.删除参数

步骤1. 在所有hiveserver2节点删除如下内容 

      <property>

       <name>hive.server2.active.passive.ha.enable</name>

            <value>true</value>;

       </property>

2.添加参数

     <property>

         <name>hive.server2.thrift.bind.host</name>

         <value>172.16.104.226</value>

     </property>

iphiveserver2本机ip

3.确认参数

在所有hiveserver2节点确认如下参数是否一致不一致请修改

   <property>

        <name>hive.server2.zookeeper.namespace</name>

        <value>hiveserver2_zk</value>

    </property>

------------------------

    <property>

        <name>hive.server2.support.dynamic.service.discovery</name>

        <value>true</value>

    </property>

 

 

 

三、创建认证文件

步骤1. 登陆freeipa依次点击身份---->服务---->添加hd3principal

如下图红框中的内容其中hive为服务名称hd3.ststack.com为主机名DRSTACK.COM为域名请根据实际修改

image.png 

 

步骤2. 登陆hd3节点

 

步骤3. 执行kinit admin

ipa-getkeytab -s hd.dtstack.com -p hive/hd3.dtstack.com@DTSTACK.COM -k /etc/security/keytab/hive.keytab

 

步骤4. 修改keytab权限为644属组为hive:hive

chmod 644 /etc/security/keytab/hive.keytab

chown hive:hive /etc/security/keytab/hive.keytab

image.png 

 

四、添加ranger插件

步骤1. 进入原hiveserver2安装目录

步骤2. scp -r /opt/ranger-2.3.0-hive-plugin hd3:/opt/

步骤3. 编辑 install.properties

vi /opt/ranger-2.3.0-hive-plugin/ install.properties

修改红框中的主机名为当前主机名image.png 

 

步骤4. 执行初始化脚本enable-hive-plugin.s

./enable-hive-plugin.s

 

步骤5. 检查文件是否正常生成

image.png 

 

步骤6. 登陆ranger界面,点击Audit---->PLugins查看权限是否同步

image.png 

五、启动hiveserver2

步骤1. 执行如下命令启动hiveserver2

sudo -u hive /opt/hive/bin/hive --service hiveserver2>/var/log/hive/hiveserver2.log 2>&1 &

 

六、验证

步骤1. 登陆zk节点

cd /opt/zookeeper/bin

./zkCli.sh -server hd2

 

步骤2. 执行ls /hiveserver2_zk结果如下图说明已经成功

image.png 

 

步骤3. 登陆节点执行kinit认证

image.png 

步骤4. 执行beeline命令查看是否可用

beeline -u 'jdbc:hive2://hd1:2181,hd3:2181/;serviceDiscoveryMode=zooKeeper;zooKeeperNamespace=hiveserver2_zk'

        image.png


相关文章

Redis Sentinel与Cluster安装部署(三)

4.3redis-cluster-resharding重新分配槽1、查看当前集群节点状态信息 # redis-cli --cluster check 172.32.1.59:7000 -a dt20...

LINUX 安全运维-用户

Linux提供了各种不同的用户和角色,而有些用户和角色,系统根本不需要,应该删除他们,因为帐号越多,系统就越不安全!黑客可能利用他们,威胁服务器的安全。删除不需要的用户:for i in {adm,l...

Hadoop生产调优

一、NameNode内存生产配置1.NameNode内存计算每个文件块大概占用150byte,一台服务器128G内存为例,能存储多少文件块呢?128 * 1024 * 1024 * 1024  / 1...

华为云创建udf

如何使用 1.把以上程序打包成AddDoublesUDF.jar,并上传到HDFS指定目录下(如“/user/hive_examples_jars/”)且创建函数的用户与使用函数的用户有该文件的可读...

Apache hive 对接达梦数据库FQA

Apache hive 对接达梦数据库FQA

对接中遇到的问题问题1解决办法定义dm_svc.confIME_ZONE=(480) LANGUAGE=(cn) HIVE=(172.16.104.165:5236) [HIVE] KEYWO...

kubernetes调度和调度器

一、Kubernetes调度Scheduler 是 kubernetes 的调度器,主要的任务是把定义的 pod 分配到集群的节点上。听起来非常简单,但有很多要考虑的问题:公平:如何保证每个节点都能被...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。