企业级大数据安全架构(六)

楼高2年前技术文章593

本节详细介绍企业级大数据架构中的第六部分,数据授权和审计管理

1.Ranger简介

Apache Ranger是一款被设计成全面掌管Hadoop生态系统的数据安全管理框架,为Hadoop生态系统众多组件提供一个统一的数据授权和管理界面,

管理员只需要对接一个Ranger管理系统,就可以对整个Hadoop生态系统进行数据管理,数据授权和审计。


2.安装Ranger和Ranger KMS

需要先创建ranger库

CREATE DATABASE ranger DEFAULT CHARACTER SET utf8;

CREATE USER 'ranger'@'localhost' IDENTIFIED BY 'hdp123456';

GRANT ALL PRIVILEGES ON *.* TO 'ranger'@'localhost';

CREATE USER 'ranger'@'%' IDENTIFIED BY 'hdp123456';

GRANT ALL PRIVILEGES ON *.* TO 'ranger'@'%';

GRANT ALL PRIVILEGES ON *.* TO 'ranger'@'localhost' WITH GRANT OPTION;

GRANT ALL PRIVILEGES ON *.* TO 'ranger'@'%' WITH GRANT OPTION;

FLUSH PRIVILEGES;

 

需要先创建rangerkms库

CREATE DATABASE rangerkms DEFAULT CHARACTER SET utf8;

CREATE USER 'rangerkms'@'localhost' IDENTIFIED BY 'hdp123456';

GRANT ALL PRIVILEGES ON *.* TO 'rangerkms'@'localhost';

CREATE USER 'rangerkms'@'%' IDENTIFIED BY 'hdp123456';

GRANT ALL PRIVILEGES ON *.* TO 'rangerkms'@'%';

GRANT ALL PRIVILEGES ON *.* TO 'rangerkms'@'localhost' WITH GRANT OPTION;

GRANT ALL PRIVILEGES ON *.* TO 'rangerkms'@'%' WITH GRANT OPTION;

FLUSH PRIVILEGES;

下面以Ambari安装组件为例:

image.png


image.png

image.png


image.png


image.png

image.png

image.png

image.png

image.png

image.png

image.png


3.FAQ

(1)测试联通性时报Access denied for user

image.png

Root用户没有权限导致的
给root用户添加权限后测试通过

GRANT ALL PRIVILEGES ON *.* TO 'root'@'%' IDENTIFIED BY 'hdp123456'


(2)Access denied for user 'root'@'%' to database 'rangerkms' ErrorCode: 1044

登录mysql查看权限
mysql> SELECT host,user,authentication_string,Grant_priv,Super_priv FROM mysql.user;

image.png

可以看到授权的权限没有打开,修复下

打开权限
UPDATE mysql.user SET Grant_priv='Y', Super_priv='Y' WHERE User='root';
FLUSH PRIVILEGES;

4.Ranger配置

4.1 HDFS配置

4.1.1在ranger中选择开启要开ranger相对于的组件

image.png

4.1.2选择对应组件添加相关配置

image.png

4.1.3参数配置

image.png

4.1.4测试联通性之后保存

image.png

参数说明

参数

说明

Service Name

自定义

Username

自定义

Password

自定义。

Namenode URL

非高可用集群:hdfs://emr-header-1:9000。

高可用集群:hdfs://emr-header-1:8020。

Authorization Enabled

标准集群选择No;高安全集群选择Yes。

Authentication Type

Simple:表示标准集群。

Kerberos:表示高安全集群。

dfs.datanode.kerberos.principal

标准集群时不填写;高安全集群时填写hdfs/_HOST@EMR.${id}.com。

 

dfs.namenode.kerberos.principal


dfs.secondary.namenode.kerberos.principal


Add New Configurations



说明 您可以登录服务器执行hostname命令,hostname中的数字即为${id}。

Namenode URL参数查看

image.png

image.png


4.1.5权限配置示例

例如,授予test用户/user/foo路径的Write和Execute权限。

a.进入Ranger UI页面

b.在Ranger UI页面,单击配置好的hdp-hadoop。

image.png


c.单击右上角的Add New Policy。

d.配置相关参数。

e.单击Add。

e.单击Add。

参数

说明

Policy Name

策略名称,可以自定义。

Resoure Path

资源路径。

recursive

子目录或文件是否集成权限。

Select Group

指定添加此策略的用户组。

Select User

指定添加此策略的用户。

Permissions

选择授予的权限。

添加Policy后,实现了对test用户的授权。test用户即可访问/user/foo的HDFS路径。

说明 添加、删除或修改Policy后,需要等待约一分钟至授权生效。

标签: 大数据安全

相关文章

企业级大数据安全架构(九)

企业级大数据安全架构(九)

一、FreeIPA管理员密码忘记后如何修改1.1重置Directory Server管理员密码1.1.1停止directory server服务[root@ipa schema]# start-dir...

 企业级大数据安全架构(七)

企业级大数据安全架构(七)

在企业级大数据安全方案中,本节主要介绍服务安全问题,引入kerberos认证机制,目前直接对接kerberos使用较多,这里我们使用FreeIPA来集成kerberosFreeIPA官网下载地址:ht...

企业级大数据安全架构(十一)

企业级大数据安全架构(十一)

一、Kerberos接入dophinscheduler建议将dophinscheduler集成到Ambari安装部署,在Ambari上面开启kerberos1.安装准备编译从GitHub获取dolph...

企业级大数据安全架构(十)

企业级大数据安全架构(十)

一、DBeaver连接Kerberos认证下的hive1.配置本地hosts因为Kerberos认证过程及集群服务中,很多是以主机名的形式进行访问的,所以工作机要设置hosts. 域名映射,我们通过部...

企业级大数据安全架构(八)

企业级大数据安全架构(八)

前面第七章详细介绍了部署FreeIPA来做kerberos认证,这节接着介绍FreeIPA高可用部署1.FreeIPA高可用配置说明:在安装完一台ipa-server之后,在另一个备份节点部署ipa-...

企业级大数据安全架构(三)

企业级大数据安全架构(三)

一、Ambair修改集群节点hostname在后面安装FreeIPA,需要机器名带全域名,如果我们之前集群节点机器名不是全域名可以按照下面方法在Ambari上修改所有节点机器名1.部署节点说明本次测试...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。