Ambari部署

芒果1年前技术文章378

Ambari 官方资料入口:
Ambari 相关 rpm 包:
HDP 相关 rpm 包:
Ambari 相关软件版本适配表:

本文采用的是3台节点的安装
硬件环境
节点类型操作系统ip地址主机名
主节点Centos-7172.16.104.170Hadoop01
从节点Centos-7172.16.104.171Hadoop02
从节点Centos-7172.16.104.172Hadoop03
软件环境 

软件环境版本号
JDKjdk1.8.0_321
Mysql5.7.29
Ambari2.7.5.0
HDP3.1.5.0
修改主机名(三台主机分别修改主机名)
# 使用hostnamectl命令修改主机名,执行该命令后立即生效,但必须需要重启Xshell连接
# 以其中一台为例,代码如下
hostnamectl set-hostname hadoop01
# 其余的机器也使用hostnamectl命令修改主机名
...(略)

修改hosts文件
# 添加机器ip与主机名映射
vim /etc/hosts

关闭防火墙和selinux
# 查看防火墙状态
systemctl status firewalld
# 查看开机是否启动防火墙服务
systemctl is-enabled firewalld
# 关闭防火墙
systemctl stop firewalld
systemctl disable firewalld
# 再次查看防火墙状态和开机防火墙是否启动
systemctl status firewalld
systemctl is-enabled firewalld
禁用selinux
# 永久性关闭selinux(重启服务器生效)
sed -i 's/SELINUX=enforcing/SELINUX =disabled/' /etc/selinux/config
# 临时关闭selinux(立即生效,重启服务器失效)
setenforce 0
# 查看selinux状态
getenforce
# disabled为永久关闭,permissive为临时关闭,enforcing为开启
免密登陆
各个主机均执行以下操作:
## 生成密钥对
ssh-keygen -t rsa   ## 一路回车即可
## 进入.ssh目录,如果目录不存在则创建
cd ~/.ssh
## 将公钥导入至authorized_keys
cat id_rsa.pub >> authorized_keys
## 修改文件权限
chmod 700 ~/.ssh
chmod 600 authorized_keys
扔钥匙多主机免密这块就略过了
同时省略了 安装JDK和安装Mysql的步骤
登入Mysql 
mysql -u root -p
新增ambari用户并增加权限
mysql -uroot -proot123
CREATE USER 'ambari'@'%' IDENTIFIED BY 'ambari';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'%';
CREATE USER 'ambari'@'localhost' IDENTIFIED BY 'ambari';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'localhost';
CREATE USER ‘ambari'@'hdp01' IDENTIFIED BY 'ambari';
GRANT ALL PRIVILEGES ON *.* TO 'ambari'@'hdp01';  //本地主机名
FLUSH PRIVILEGES;
使用ambari用户登陆并创建数据库
mysql -uambari -pambari
CREATE DATABASE ambari;
exit;
安装httpd和wget服务
# 安装httpd
yum -y install httpd.x86_64
systemctl enable httpd.service
systemctl start httpd.service
# 安装wget
yum -y install wget
ambari和hdp包自行获取哈  
然后把包放在/var/www/html/
新建repo文件
新建ambari.repo文件
[ambari]
name=ambari
baseurl=http://hadoop01/ambari/centos7/2.7.5.0-72/
enabled=1
gpgcheck=0
放入/etc/yum.repos.d/目录下。
在主节点安装ambari-server
安装
yum -y install ambari-server
将mysql-connector-java.jar包拷贝到/usr/share/java目录下
修改配置文件
echo server.jdbc.driver.path=/usr/share/java/mysql-connector-java.jar >> /etc/ambari-server/conf/ambari.properties
安装ambari-server
ambari-server setup
如下是打印输出:
[root@hadoop01 yum.repos.d]# ambari-server setup
Using python  /usr/bin/python
Setup ambari-server
Checking SELinux...
SELinux status is 'disabled'
Customize user account for ambari-server daemon [y/n] (n)? y
Enter user account for ambari-server daemon (root):
Adjusting ambari-server permissions and ownership...
Checking firewall status...
Checking JDK...
[1] Oracle JDK 1.8 + Java Cryptography Extension (JCE) Policy Files 8
[2] Custom JDK
==============================================================================
Enter choice (1): 2
WARNING: JDK must be installed on all hosts and JAVA_HOME must be valid on all hosts.
WARNING: JCE Policy files are required for configuring Kerberos security. If you plan to use Kerberos,please make sure JCE Unlimited Strength Jurisdiction Policy Files are valid on all hosts.
Path to JAVA_HOME: /opt/software/jdk1.8.0_321
Validating JDK on Ambari Server...done.
Check JDK version for Ambari Server...
JDK version found: 8
Minimum JDK version is 8 for Ambari. Skipping to setup different JDK for Ambari Server.
Checking GPL software agreement...
GPL License for LZO: https://www.gnu.org/licenses/old-licenses/gpl-2.0.en.html
Enable Ambari Server to download and install GPL Licensed LZO packages [y/n] (n)? y
Completing setup...
Configuring database...
Enter advanced database configuration [y/n] (n)? y
Configuring database...
==============================================================================
Choose one of the following options:
[1] - PostgreSQL (Embedded)
[2] - Oracle
[3] - MySQL / MariaDB
[4] - PostgreSQL
[5] - Microsoft SQL Server (Tech Preview)
[6] - SQL Anywhere
[7] - BDB
==============================================================================
Enter choice (1): 3
Hostname (localhost): hadoop03
Port (3306): 3306
Database name (ambari):
Username (ambari):
Enter Database Password (bigdata):
Re-enter password:
Configuring ambari database...
Configuring remote database connection properties...
WARNING: Before starting Ambari Server, you must run the following DDL directly from the database shell to create the schema: /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
Proceed with configuring remote database connection properties [y/n] (y)? y
Extracting system views...
ambari-admin-2.7.5.0.72.jar
....
Ambari repo file doesn't contain latest json url, skipping repoinfos modification
Adjusting ambari-server permissions and ownership...
Ambari Server 'setup' completed successfully.
[root@hadoop01 yum.repos.d]#
初始化mysql数据库
mysql -uambari -pambari
use ambari;
source /var/lib/ambari-server/resources/Ambari-DDL-MySQL-CREATE.sql
这里注意一下
卸载SmartSense包
HDP这边有个组件 是SmartSense 这个是一个收费的东西 HDP为了赚money的一个组件 我们要先给他干掉
首先把这些包查出来15023DB5-9EF7-4303-B60E-A17F11F157B7.png删掉
rm -rf /var/lib/ambari-server/resources/stacks/HDP/2.1/services/SMARTSENSE
rm -rf /var/lib/ambari-server/resources/stacks/HDP/3.0/services/SMARTSENSE
rm -rf /var/lib/ambari-agent/cache/stacks/HDP/2.1/services/SMARTSENSE
rm -rf /var/lib/ambari-agent/cache/stacks/HDP/3.0/services/SMARTSENSE
87994315-EC17-4A79-B426-68D38BFB3EFF.png
启动ambari-server 

ambari-server start
如果启动过程失败,可以去/var/log/ambari-server/ambari-server.log查看报错信息,一般是由于数据库配置不好导致ambari启动失败。
登陆浏览器访问: http://hadoop01:8080/,利用界面部署集群。
默认登陆账号/密码为:admin/admin。 

3EC9A6F4-C4B0-435C-90C0-606D548C4D4F.png 开始部署

E1085051-072E-417C-950D-0872EDA3D40A.png


Get started
下一步
这里写入集群名称。 

C153C14F-C28D-45F2-9DD5-C22577FB0453.png

Select Version
然后就是HDP的版本信息了
可以选择环境上的 也可以使用 默认的大版本 基本上一样 


5A1052A5-3D90-476F-9587-59956B7380E7.png

往下面划  选择使用本地的源

251CF93D-09E3-49BD-85DB-5D12342195EC.png

这里选择本地的源文件 (不要使用公共的存储库 会存在一些问题)
在安装的时候 他会把HDP、HDP-GPL、HDP-UTILS 写入mysql中的repo_definition.
我们可以看下:select * from repo_definition;

Install Options
下一步 


94E7648E-0124-4C92-8844-3D150226D908.png

1:输入主机名 cat /etc/hosts
2:输入私钥 cat ~/.ssh/id_rsa
也就是框的这一段 

3:用户名以及端口 因为本文使用root 的 所以上面的私钥也是root 的。
      

Confirm Hosts

59A3360E-1CBF-4101-8BD9-5394D85A4C55.png


这里是在检测agent环境 很多异常错误 会在这里产生 (其实在这一步 你的ambari-agent就给你安装了)
大家也可以去看下


4E5D1268-EBC2-4CBF-B384-78370D490071.png

日志中就会有hostlist 也就是之前那里填写的那些

然后就会检查主机环境

我这边没有遇到什么错误 检查通过了 有问题的可以留言 我们可以一起看看的

DCC3452B-090C-46AD-9C08-61AB7595880B.png

Choose Services
下一步
然后就选择要安装的服务

AF1C06EB-0D8E-47B6-8C93-45A423753E72.png

Assign Masters
然后规划节点的实例  

02910C69-08F4-40C7-9618-5B766BD3FE4E.png


Assign Slaves and Clients

这里客户端 我全都装了 装了3个

BF0FA939-A6E1-4EF0-86F2-D484387DB2B6.png

Customize Services
下一步 这里就是组件的一些相关信息了:(配置相关信息)

DECEAEE7-9670-4F96-9EE3-6574BB40A7A1.png

下一步 接下来就是更加详细的一些信息了

EF410F23-5686-45A4-A55D-EF6B1F377D7C.png

Review
下一步 接下来就是安装组件的信息了:

7DF6F87F-3406-4709-B977-C94DF70AB8BC.png


Install,Start and Test

犹豫环境内存紧张 太卡了 我更改了只安装zk


79390349-627B-495B-A555-B07EB03FCD5F.png

安装完成了

B3CBDB47-8431-47AE-B828-783BE8FE6D62.png

点击完成 
就可以看到界面啦(没有监控信息是因为没有安装Ambari Metrics


5036CDD0-C521-4692-B153-1A206F33D846.png

安装了hdfs和yarn、Ambari Metrics。
因为安装了Ambari Metrics 所以可以看到监控了

5AA06E32-5837-4FDB-B366-F4222D2A4631.png




相关文章

ranger对接hbase

ranger对接hbase

前提:本文是基于集群中已经部署了ranger组件和hbase组件的情况下,增加ranger对hbase组件的对接。安装部署1、ranger-hbase插件安装使用ranger2.3版本对接插件。将插件...

oracle字符集简介

一、字符集介绍字符集和国家字符集字符集在创建数据库实例时指定,可以指定字符集(CHARACTER SET)和国家字符集(NATIONAL CHARACTER SET)。1、字符集(CHARACTER...

ElasticSearch开启xpack

ElasticSearch开启xpack

ES开启xpack1、生成ca证书(用户名和密码不用设置,一路回车,生成证书文件elastic-stack-ca.p12,生成kibana证书的时候也需要该ca证书)/opt/dtstack/es-6...

MySQL运维实战(7.1) 开启GTID复制

MySQL从5.6版本开始支持GTID复制。开启GTID之后,主库上执行的每一个事务都有一个全局唯一的ID。GTID由两部分组成:server_uuid和事务序列号。初始化数据库时,会生成一个全局唯一...

Kubevela源码解读(一):application_controller解读

application_controller是kubevela最主要的一个控制器,作用就是将用户创建的applicaion转化为实际需要创建的资源对象,通过本文可以:1、了解cue模版在kubevel...

 MySQL运维实战之Clone插件(10.1)使用Clone插件

MySQL运维实战之Clone插件(10.1)使用Clone插件

clone插件介绍mysql 8.0.17版本引入了clone插件。使用clone插件可以对本地l或远程的mysql实例进行clone操作。clone插件会拷贝innodb存储引擎表,clone得到的...

发表评论    

◎欢迎参与讨论,请在这里发表您的看法、交流您的观点。