目录

纯Docker部分

Docker结合Hadoop部分

环境搭建篇

Docker入门传送门

基于传统的hadoop搭建方式，将hadoop搭建前的虚拟物理机准备部分使用docker容器替代，后续 配置文件操作依然为传统方式。

规划为一主机二从机：

masterslave1slave2
namenodedatanodedatanode

纯Docker部分

1、启动Docker

#启动systemctl start docker#检查是否活跃systemctl status docker

 2、搜索镜像

#以搜索centos为例，后标有official的为官方镜像docker search centos

 3、拉取镜像

#拉取centos7镜像，centos后接:7代表拉取的版本，未添加则默认最新版本:latest，为centos8镜像docker pull centos:7

4、查看镜像

#查看拉取下来的镜像（本地）#存在下图红框所示，即说明下载成功docker images

 5、自建立docker bridge(网桥)

#为了将后续hadoop集群规划在同一网段里#可以将新的网桥命名为hadoopdocker network create hadoop#查看是否创建成功docker network ls#查看具体信息docker network inspect hadoop

Docker结合Hadoop部分

1、创建并运行容器

-dit-h–name–network–privileged=true
后台且运行容器内主机名容器名要加入的网桥root完整权限
#基于上述centos7镜像，新建master容器docker run -dit -h="master" --name="master" --network=hadoop -p 50070:50070 --privileged=true centos:7 init#slave1容器docker run -dit -h="slave1" --name="slave1" --network=hadoop --privileged=truecentos:7 init#slave2容器docker run -dit -h="slave2" --name="slave2" --network=hadoop --privileged=truecentos:7 init#查看运行状况docker ps

 2、进入master容器

#在进入master容器之前，先查看一下三台容器是否都加入了自定义的网桥（hadoop）内docker network inspect hadoop#记住三台容器对应的IP，下图所示

#进入master容器docker exec -it master /bin/bash#设置root密码(下为命令，非密码)passwd

3、安装需要的软件包

#安装net-tools,以便使用ifconfig命令(可选)，#注意：ip addr命令在docker内的centos里不可用yum install -y net-tools#安装vim,增强版vi(可选)yum install -y vim#安装which，否则hadoop运行时命令会报错（限docker环境,必装）yum install -y which#安装ssh，免密登录所需(必装)yum install -y openssh openssh-server openssh-clients#启动sshd服务systemctl start sshd#安装完毕，退出执行步骤2.4exit

        注：

#以上命令可简化为一行命令(^_^):

yum install -y net-tools vim which openssh openssh-server openssh-clients

4、进入从机，重复2.3步骤

#进入slave1docker exec -it slave1 /bin/bash#设置root密码passwd#执行2.3完毕退出exit#进入slave2docker exec -it slave2 /bin/bash#设置root密码passwd#执行2.3完毕退出exit

5、配置hosts文件

（同一网桥下不用配置hosts，可直接通过主机名访问。）√

vi /etc/hosts#如果有以下提示，回车后按e即可继续配置E325: ATTENTIONFound a swap file by the name "/etc/.hosts.swp"#将2.2记录下来的ip对应主机名添加至hosts文件内#例如：在master主机下172.18.0.2 master #已拥有172.18.0.3 slave1 #需添加172.18.0.4 slave2 #需添加#将该hosts文件发送给slave1，slave2

6、传输搭建所需安装包

#将宿主机/opt下的安装包移动至3个容器节点中#docker cp /opt/xxx.tar.gz master:/opt/#例如：docker cp /opt/jdk-8u121-linux-x64.tar.gz master:/opt/docker cp /opt/hadoop-2.7.7.tar.gz master:/opt/......

环境搭建篇

文章链接

Hadoop伪分布式的搭建详情

https://tuomasi.blog.csdn.net/article/details/118650350″ />Hadoop完全分布式的搭建详情

https://tuomasi.blog.csdn.net/article/details/118851554?spm=1001.2014.3001.5502

Zookeeper集群的搭建（单机、伪分布式、集群）

https://tuomasi.blog.csdn.net/article/details/119059186?spm=1001.2014.3001.5502

Spark的安装与部署详情（Local模式，Standalone模式，Spank on YARN模式）

https://tuomasi.blog.csdn.net/article/details/119005751?spm=1001.2014.3001.5502

HadoopHA环境搭建（保姆篇，手把手搭建）

https://tuomasi.blog.csdn.net/article/details/119838463?spm=1001.2014.3001.5502

Centos安装yum,wegt(完全配置篇)

https://tuomasi.blog.csdn.net/article/details/120467143?spm=1001.2014.3001.5502

Centos安装mysql(rpm终结版)

https://tuomasi.blog.csdn.net/article/details/120476116?spm=1001.2014.3001.5502

centos安装hive3.1.2（精讲篇）

https://tuomasi.blog.csdn.net/article/details/120554242?spm=1001.2014.3001.5502

hbase集群的搭建（HBase Shell）

https://tuomasi.blog.csdn.net/article/details/120787788?spm=1001.2014.3001.5502

centos安装sqoop（使用Sqoop完成MySQL和HDFS之间的数据互导）

https://tuomasi.blog.csdn.net/article/details/121039263?spm=1001.2014.3001.5502

centos安装pig（Pig的应用）

https://tuomasi.blog.csdn.net/article/details/121156854?spm=1001.2014.3001.5502

centos安装kafka，集群模式（生产者消费者部署测试）

https://tuomasi.blog.csdn.net/article/details/121181238?spm=1001.2014.3001.5502

centos安装storm(集群模式)

https://tuomasi.blog.csdn.net/article/details/121187833?spm=1001.2014.3001.5502

centos安装flume(集群模式)

https://tuomasi.blog.csdn.net/article/details/121227635?spm=1001.2014.3001.5502

Ubuntu搭建hadoopHA高可用（从零开始）

https://tuomasi.blog.csdn.net/article/details/122267734?spm=1001.2014.3001.5502

Hadoop HA部署（MINI版）

https://tuomasi.blog.csdn.net/article/details/121566611?spm=1001.2014.3001.5502

Spark组件部署（MINI版）

https://tuomasi.blog.csdn.net/article/details/121615781?spm=1001.2014.3001.5502

Kafka组件部署（MINI版）

https://tuomasi.blog.csdn.net/article/details/121647743?spm=1001.2014.3001.5502

Storm 组件安装部署（MINI版）

https://tuomasi.blog.csdn.net/article/details/121659323?spm=1001.2014.3001.5502

Docker入门参考：

一零零七、Docker快速入门_托马斯-酷涛的博客-CSDN博客Docker的主要目标是“Build，Ship and Run Any App,Anywhere”，也就是通过对应用组件的封装、分发、部署、运行等生命周期的管理，使用户的APP（可以是一个WEB应用或数据库应用等等）及 其运行环境能够做到“一次镜像，处处运行”。将应用打包成镜像，通过镜像成为运行在Docker容器上面的实例，而 Docker容器在任何操作系统 上都是一致的，这就实现了跨平台、跨服务器。只需要一次配置好环境，换到别的机子上就可以一键部署好，大大简化了操作。…https://tuomasi.blog.csdn.net/article/details/125121724″ />你的生活没有那么多观众

你有多努力，这个世界就有多特殊