CHENSIR

基于Docker快速搭建EFK日志中心

2023-03-22T01:00:00.000Z

需要集中的日志系统的原因

目前现状，每个服务生产上有三台，定位生产问题，需要连上一台机器，然后使用 cd / tail / less / grep / sed / awk 等 linux命令去日志里查找故障原因。如果在这台机器没搜索到线索，就去另外两台机器上查日志。

但在分布式系统中，众多服务分散部署在数十台甚至上百台不同的服务器上，想要快速方便的实现查找、分析和归档等功能，使用Linux命令等传统的方式查询到想要的日志就费事费力，更不要说对日志进行分析与归纳了。

为解决大量日志归档，文件搜索慢，如何多维度查询就得需要集中化日志管理，将所有服务器上的日志收集汇总，常见的解决思路就是建立集中式日志收集系统。

EFK

Elasticsearch：负责存储日志。Elasticsearch 是个开源分布式搜索引擎，提供搜集、分析、存储数据三大功能。它的特点有：分布式，零配置，自动发现，索引自动分片，索引副本机制，restful 风格接口，多数据源，自动搜索负载等。
FileBeat：负责收集日志。
- Filebeat 隶属于 Beats。目前 Beats 包含六种工具：
  Packetbeat（搜集网络流量数据）
  Metricbeat（搜集系统、进程和文件系统级别的 CPU 和内存使用情况等数据）
  Filebeat（搜集文件数据）
  Winlogbeat（搜集 Windows 事件日志数据）
  Auditbeat（轻量型审计日志采集器）
  Heartbeat（轻量级服务器健康采集器）
Kibana：负责展示日志。Kibana可以为 Logstash 、Beats和 ElasticSearch 提供的日志分析友好的 Web 界面，可以帮助汇总、分析和搜索重要数据日志。

注意：EFK 系统下的各个组件都非常吃内存，后期根据业务需要，EFK 的架构可进行扩展，当 FileBeat 收集的日志越来越多时，为防止数据丢失，可引入 Redis，而 ElasticSearch 也可扩展为集群，并使用 Head 插件进行管理，所以要保证服务器有充足的运行内存和磁盘空间。

EFK 与 ELK 区别

EFK 和 ELK 只有一个区别，收集日志的组件由 Logstash 替换成了 FileBeat，因为 Filebeat 相对于 Logstash 来说有2个好处：

侵入低，无需修改 elasticsearch 和 kibana 的配置；
性能高，IO 占用率比 logstash 小太多；

快速部署

离线安装Docker

# 1.下载Docker安装包(二进制) docker-19.03.1.tgz  https://download.docker.com/linux/static/stable/x86_64/ 
yum install -y wget
wget https://download.docker.com/linux/static/stable/x86_64/docker-19.03.1.tgz

# 2.解压docker-19.03.1.tgz
tar -zxvf docker-19.03.1.tgz

# 3.复制docker目录下所有文件到/usr/bin目录下（/usr/bin是环境变量目录，在任意目录下都执行docker命令）
cp docker/* /usr/bin

# 4.添加docker到系统服务
vi /etc/systemd/system/docker.service
# 添加内容如下
[Unit]
Description=Docker Application Container Engine
Documentation=https://docs.docker.com
After=network-online.target firewalld.service
Wants=network-online.target
[Service]
Type=notify
# the default is not to use systemd for cgroups because the delegate issues still
# exists and systemd currently does not support the cgroup feature set required
# for containers run by docker
ExecStart=/usr/bin/dockerd
ExecReload=/bin/kill -s HUP 
# Having non-zero Limit*s causes performance problems due to accounting overhead
# in the kernel. We recommend using cgroups to do container-local accounting.
LimitNOFILE=infinity
LimitNPROC=infinity
LimitCORE=infinity
# Uncomment TasksMax if your systemd version supports it.
# Only systemd 226 and above support this version.
#TasksMax=infinity
TimeoutStartSec=0
# set delegate yes so that systemd does not reset the cgroups of docker containers
Delegate=yes
# kill only the docker process, not all processes in the cgroup
KillMode=process
# restart the docker process if it exits prematurely
Restart=on-failure
StartLimitBurst=3
StartLimitInterval=60s
[Install]
WantedBy=multi-user.target

# 5.赋予docker.service 可执行权限，并设置开机自启
# 赋予可执行权限
chmod +x /etc/systemd/system/docker.service
#设置开机自启并启动
systemctl enable --now docker.service

# 6.设置镜像源和docker主目录
# 在 docker 19.xx 版本以后使用data-root来代替graph
sudo tee /etc/docker/daemon.json <<-'EOF'
{
  "registry-mirrors": ["https://img.chensir.ink"],
  "graph": "/hsadata/docker" # docker主目录 存储images等
}
EOF

# 重启docker：
systemctl restart docker

部署Elasticsearch

部署Kibana

部署FileBeat（非docker）

离线yum源

2022-09-24T20:20:35.000Z

由于大部分的主要业务都在专网，内网环境下运行，无法使用yum安装升级和更新，服务器少的情况下可以使用离线安装，但随着服务器规模上升，还是需要使用统一的自建yum源更方便。

什么是yum源

yum是在ReddHat中的一个包管理器。基于RPM包管理，能够从指定服务器自动下载RPM包并安装，可以自动处理依赖关系，能够一次安装所有依赖的软件包，无需一次一次的下载安装。yum源就是存放rpm包以及依赖关系的服务器，一般公共网络的yum源：163、souhu、阿里、中国科技大学、清华等。

yum源标识(repo id)

base：之操作系统镜像源，包含了ISO镜像内的所有软件包
updates：包含了系统更新，升级的软件包
extras：扩充的软件包合集
epel：为“红帽系”的错做系统提供额外的软件包，适用于RHEL、CentOS和Scientific Linux
自定义repo id
以K8S yum源为例，[repo id]本地可以随意定义，主要是看baseurl连接的源，当多个repo id重复时，会以最后加载的为准

搭建离线yum源

注意：需要准备一台可以连接互联网的服务器，安装所需依赖环境和软件包

# 安装所需软件
# createrepo:用于生成yum源各软件之间的依赖索引
# yum-utils:安装后可使用yumdownloader命令下载所需如软件包
# reposync:Reposync用于将远程yum存储同步到本地，使用yum检索包的目录
yum install -y wget yum-utils createrepo
rm -rf /etc/yum.repos.d/*
# 配置yum源 以阿里Centos7的yum源为例
wget -O /etc/yum.repos.d/CentOS-Base.repo https://mirrors.aliyun.com/repo/Centos-7.repo
sed -i -e '/mirrors.cloud.aliyuncs.com/d' -e '/mirrors.aliyuncs.com/d' /etc/yum.repos.d/CentOS-Base.repo
wget -O /etc/yum.repos.d/epel.repo https://mirrors.aliyun.com/repo/epel-7.repo
wget -O /etc/yum.repos.d/docker-ce.repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

cat < /etc/yum.repos.d/kubernetes.repo
[kubernetes]
name=Kubernetes
baseurl=https://mirrors.aliyun.com/kubernetes/yum/repos/kubernetes-el7-x86_64/
enabled=1
gpgcheck=0
repo_gpgcheck=0
gpgkey=https://mirrors.aliyun.com/kubernetes/yum/doc/yum-key.gpg https://mirrors.aliyun.com/kubernetes/yum/doc/rpm-package-key.gpg
EOF

# 全量离线yum源
# 查看已经配好的网络源id
yum repolist


# 按照源id将网络源拉取到本地
reposync -r base -p /data/yum/
reposync -r epel -p /data/yum/
reposync -r extras -p /data/yum/
reposync -r updates -p /data/yum/
reposync -r kubernetes -p /data/yum/
reposync -r docker-ce-stable -p /data/yum/

# 生成repodata索引依赖
createrepo /data/yum/base
createrepo /data/yum/epel
createrepo /data/yum/extras
createrepo /data/yum/updates
createrepo /data/yum/kubernetes
createrepo /data/yum/docker-ce-stable

# 在Packages同级目录中可以看到生成的repodata目录
# 使用测试
# 备份/etc/yum.repo.d/中的其他文件，手动添加
[Centos7-base]
name=centos-base
baseurl=file:///opt/base/base
gpgcheck=0
enabled=1

#其他repo id按照同样格式书写
[kubernetes] 
name=k8s
baseurl=http://192.168.12.12/yum/kubernetes
......
# 注意：baseurl可以使用file、ftp或http，目录路径要写到Package和repodata目录

# 测试
yum repolist

# 将本地的rpm包和依赖包压缩打包，放入内网环境，这样其他服务器也可以通过添加自定义repo文件连接yum源仓库了

# 安装nginx使其他机器也可以使用
yum install -y nginx
systemctl enable --now nginx
# 配置文件如下 /etc/nginx/default.d/yum.conf
location / {
    root /data/yum;
    index index.html;
    autoindex on;
}
# 使配置文件生效
systemctl reload nginx

# 其他机器修改yum源地址
mkdir /etc/yum.repos.d/bak
mv /etc/yum.repos.d/* /etc/yum.repos.d/bak

#  编辑内容如下 /etc/yum.repos.d/private-yum.repo
[base]
name=CentOS-Base
baseurl=http://10.0.0.28/base/
gpgcheck=0
enabled=1

[updates]
name=CentOS-Updates
baseurl=http://10.0.0.28/updates/
gpgcheck=0
enabled=1

[extras]
name=CentOS-Extras
baseurl=http://10.0.0.28/extras
gpgcheck=0
enabled=1

[epel]
name=CentOS-Contrib
baseurl=http://10.0.0.28/epel
gpgcheck=0
enabled=1

[docker-ce-stable]
name=CentOS-docker-ce-stable
baseurl=http://10.0.0.28/docker-ce-stable
gpgcheck=0
enabled=1

[kubernetes]
name=CentOS-docker-ce-stable
baseurl=http://10.0.0.28/kubernetes
gpgcheck=0
enabled=1

# 使yum源生效
yum clean all
yum makecache

# 拉取指定服务rpm包和依赖
yumdownloader --resolve --destdir=./docker_rpms/ docker
# 生成repodata索引依赖
createrepo ./docker_rpms
# 测试
cat <> /etc/yum.repos.d/test.repo
[docker]
name=dokcer-ce
baseurl=file:///root/docker_rpms
gpgcheck=0
enabled=1
EOF

yum repolist

企业级容器技术 Docker

2022-09-12T07:51:13.000Z

Docker介绍和基础操作

Docker介绍

容器历史

1、Chroot Jail 就是常见的chroot命令的用法。它在1979年的时候就出现了，被认为是最早的容器化技术之一。它可以把一个进程的文件系统隔离起来。

2、The FreeBSD Jail （监狱）实现了操作系统级别的虚拟化，他是操作系统级别虚拟化技术的先驱之一。2000年，伴随FreeBSD4.0版的发布

3、Linux VServer http://linux-vserver.org 使用添加到Linux内核的系统级别的虚拟化功能实现的专用虚拟服务器。允许创建许多独立的虚拟专用服务器（VPS），这些虚拟专用服务器在单个物理服务器上全速同时运行，从而有效地共享硬件资源。VPS提供与传统Linux服务器几乎相同的操作系统环境。可以在这样的VPS上启动所有服务（例如ssh，邮件，Web和数据库服务器），而无需（或者在特殊情况下只需进行很少的修改），就像在任何真实服务器上一样。每个VPS都有自己的用户账户数据库和root密码，并且与其他虚拟机服务器隔离，但它们共享相同的硬件资源。

4、Solaris Containers 也是操作系统级别的虚拟化技术，专为X866和SPARC系统设计。Solaris容器是系统资源控制和通过“区域”提供边界隔离的组合。

5、OpenVZ 是一种Linux中操作系统级别的虚拟化技术。它允许创建多个安全隔离的Linux容器，即VPS。

6、Process Containers 由Google的工程师开发，一般被称为cgroups。

7、LXC 为Linux Container的简写。可以提供轻量级的虚拟化，以便隔离进程和资源，而且不需要提供指令解释机制以及全虚拟化的其他复杂性。容器有效地将由单个操作系统管理的资源划分到孤立的组中，以更好地在孤立的组之间平衡有冲突的资源使用需求。Linux Container 提供了在单一可控主机节点上支持多个相互隔离的server Container同时执行的机制。Linux COntainer有点像chroot，提供了一个拥有自己进程和网络空间的虚拟环境，但又有别于虚拟机，因为lxc是一种操作系统层次上的资源虚拟化。

8、Warden 在最初阶段，Warden使用LXC作为容器运行时。如今已被CloudFoundy取代。

9、LMCTFY 是Google的容器技术栈的开源版本。Google的工程师一直在与docker的libertainer团队合作，并将libertainerde核心概念进行抽象并移植到此项目中，该项目的进展不明，估计会被libcontainer取代。

10、Docker 是一个可以将应用及其依赖打包到几乎可以在任何服务器上运行的容器工具。

11、RKT 是Rocket的缩写，他是一个专注安全和开放标准的应用程序引擎。

总上所述，docker并不是第一个容器化技术，但它确实最知名的一个。

Docker是什么

Docker（码头工人）是一个开源项目，诞生于2013年初，最初是dotCloud公司（后由于Docker开源后大受欢迎就将公司名改为Docker Inc，总部位于美国加州的旧金山）内部的一个开源的PAAS服务的业余项目。它基于Google公司推出的Go语言实现。项目后来加入了Linux基金会，遵从了Apache2.0协议，项目代码在GitHub上进行维护。

Docker是基于Linux内核实现，Docker是最早采用LXC技术，LXC是Linux原生支持的容器技术，可以提供轻量级的虚拟化，可以说docker就是基于LXC发展起来的，提供LXC的高级封装，标准的配置方法，在LXC的基础上，docekr提供了一系列更强大的功能。而虚拟化技术KVM基于模块实现，后来Docker改为自己研发并开源的runc技术运行容器，彻底抛弃了LXC。

Docker相比虚拟机的交付速度更快，资源消耗更低，Docker采用客户端/服务端架构，使用远程API来管理和创建容器，其可以轻松的创建一个轻量级的、可移植的、自给自足的容器，docker的三大理念是build（构建）、ship（运输）、run（运行），Docker遵从Apache2.0协议，并通过（namespace及cgroup等）来提供容器的资源隔离与安全保障等，所以Docker容器在运行时不需要类似虚拟机（空运行的虚拟机占用物理机6%~8%性能）的额外资源开销，因此可以大幅提高资源利用率，总而言之Docker是一种用了新颖方式实现的轻量级虚拟机，类似于VM，但是在原理和应用上和VM的差别还是很大的，并且Docker的专业叫法是应用容器（Application Container）。

Docker的主要目标：Build，Ship and Run Any App，Anywhere，即通过对应用组件的封装（Packaging）、分发（Distribution）、部署（Deployment）。运行（Runtime）等生命周期的管理，达到应用组件级别的“一次封装，到处运行”。这里的应用组件，既可以是一个Web应用，也可以是一套数据库服务，甚至是一个操作系统。将应用运行在Docker容器上，可以实现跨平台，跨服务器，只需一次配置准备好相关的应用环境，即可实现到处运行，保证研发和生产环境的一致性，解决了应用和运行环境的兼容性问题，从而极大提升了部署效率，减少故障的可能性。

使用Docker容器化封装应用程序的意义：

统一基础设施环境-docker环境
- 硬件的组成配置
- 操作系统的版本
- 运行时环境的异构
统一程序打包（装箱）方式-docker镜像
- Java程序
- python程序
- nodejs程序
统一程序部署（运行）方式-docker容器
- java -jar……—>docker run ……
- python manage.py……—>docker run ……
- npm run dev ……—>docker run ……

Docker和虚拟机，物理主机

容器和虚拟机比较

传统虚拟机是虚拟出一个主机硬件，并且运行一个完整的操作系统，然后在这个操作系统上安装和运行软件
容器内的应用直接运行在宿主机的内核之上，容器并没有自己的内核，也不需要虚拟硬件，相当轻量化
每个容器间是互相隔离，每个容器内都有一个属于自己的独立文件系统，独立的进程空间，网络空降，用户空间等，所以在同一个宿主机上的多个容器之间彼此不会互相影响

容器和虚拟机比较

资源利用率更高：开销更小，不需要启动单独的虚拟机OS内核占用硬件资源，可以将服务器性能压榨到极致，虚机一般会有5%~20%的损耗，容器运行基本无损耗，所以生产中一台物理机只能运行数十个虚拟机，但是一般可以运行数百个容器
启动速度更快：可以在数秒内完成启动
占用空间更小：容器一般占用的磁盘空间以MB为单位，而虚拟机以GB
集成性更好：和CI/CD（持续集成/持续部署）相关技术结合性更好，实现打报警箱发布测试可以一键运行，做到自动化并快速的部署管理，实现高效的开发生命周期

使用虚拟机是为了更好的实现服务运行环境隔离，每个虚拟机都有独立的内核，虚拟化可以实现不同操作系统的虚拟机，但是通常一个虚拟机只运行一个服务，很明显资源利用率比较低且造成不必要的性能损耗，我们创建虚拟机的目的是为了运行应用程序，比如Nginx、PHP、Tomcat等web程序，使用虚拟机无疑带来了一些不必要的资源开销，但是容器技术则基于减少中间运行环节带来较大的性能提升。

根据实验，一个运行着Centos的KVM虚机启动后，在不做优化的情况下，虚机自己就占用100~200M内存。此外，用户应用运行在虚机里，它对宿主机操作系统的调用就不可避免地要经过虚拟化软件的拦截和处理，这本身又是一层性能损耗，尤其对计算资源、网络和磁盘I/O的损耗非常大。

比如。一台96G内存的物理服务器，为了运行java程序的虚拟机一般需要分配4核8G的资源，只能运行13台左右的虚机，但是改为在docker容器上运行Java程序，每个容器只需要分配4G内存即可，同样的物理服务器就可以运行25个左右的容器，运行数量相当于提高一倍，可以大幅节省IT支出，通常情况下至少可以节约一半以上的物理设备

Docker的组成

Docker主机（Host）：一个物理机或虚拟机，用于运行Docker服务进程和容器，也称为宿主机，node节点
Docker服务端（Server）：Docker守护进程，运行Docker容器
Docker客户端（Client）：客户端使用docker命令或其他工具调用docker API
Docker镜像（Images）：镜像可以理解为创建实例使用的模板，本质上就是一些程序文件的集合
Docker仓库（Registry）：保存镜像的仓库，可以搭建私有仓库harbor
Docker容器（Container）：容器是从镜像生成对外提供服务的一个或一组服务，其本质就是将镜像中的程序启动后生成进程

Namespace

一个宿主机运行了N个容器，多个容器共用一个OS，必然带来以下问题：

怎样保证每个容器都有不同的文件系统并且互不影响？
一个docker主进程内的各个容器都是其子进程，那么如何实现同一个主进程下不同类型的子进程？各个容器子进程间能相互通信（内存数据）吗？
每个容器怎么解决IP及端口分配的问题？
多个容器的主机名能一样吗？
每个容器都要不要有root用户？怎么解决账户重名问题？

namespace是Linux系统的底层概念，在内核层实现，即有一些不同类型的命名空间被部署在核内，各个docker容器运行在同一个docker主进程并且共用同一个宿主机系统内核，各docker容器运行在宿主机的用户空间，每个容器都要有类似于虚拟机一样的相互隔离的运行空间，但是容器技术是在一个进程内实现运行指定服务的运行环境，并且还可以保护宿主机内核不受其他进程的干扰和影响，如文件系统，网络空间，进城空间，目前主要通过以下技术实现容器运行空间的相互隔离：

隔离类型	功能	系统调用参数	内核版本
MNT Namespace（mount）	提供磁盘挂载点和文件系统的隔离能力	CLONE_NEWNS	2.4.19
IPC Namespace（Inter Process Communication）	提供进程间通信的隔离能力，包括信号量，消息队列和共享内存	CLONE_NEWIPC	2.6.19
UTS Namespace（UNIX Timesharing System）	提供内核，主机名和域名隔离能力	CLONE_NEWUTS	2.6.19
PID Namespace （Process Identification）	提供进程隔离能力	CLONE_NEWPID	2.6.24
Net Namespace（network）	提供网络隔离能力，包括网络设备，网络栈，端口等	CLONE_NEWNET	2.6.29
User Namespace（user）	提供用户隔离能力，包括用户和组	CLONE_NEWUSER	3.8

MNT Namespace

每个容器都要有独立的根文件系统有独立的用户空间，以实现在容器里面启动服务并且使用容器的运行环境，即一个宿主机是ubuntu的服务器，可以在里面启动一个centos运行环境的容器并且在容器里面启动一个nginx服务，此nginx运行时使用的运行环境就是centos系统目录的运行环境，但是在容器里面是不能访问宿主机的资源，宿主机是使用了chroot技术把容器锁定到一个指定的运行目录里面。

IPC Namespace

一个容器内的进程通信，允许一个容器内的不同进程（内存、缓存等）数据访问，但是不能跨容器直接访问其他容器的数据。

UTS Namespace

UTS namespace （UNIX Timesharing System 包含了运行内核的名称、版本、底层体系结构类型等信息）用于系统标识，其中包含了主机名hostname和域名domainname，它使得一个容器拥有属于自己主机名标识，这个主机名标识独立于宿主机系统和其他上的机器。

PID Namespace

Linux系统中，有一个PID为1的进程（init/systemd）是其他所有进程的父进程，那么在每个容器内也要有一个父进程来管理下属的子进程，那么多个容器的进程通PID namespace进程隔离（比如PID编号重复、容器内的主进程生成与回收子进程等）

NET Namespace

每一个容器都类似于虚拟机一样有自己的网卡、监听端口、TCP/IP协议栈等，Docker使用network namespace启动一个vethX接口，这样你的容器将拥有它自己的桥接IP地址，通常是docker0，而docker0实质就是Linux的虚拟网桥，网桥是在OSI七层模型的数据链路层的网络设备，通过mac地址对网络进行划分，并且在不同网络直接传递数据。

User Namespace

各个容器内可能会出现重名的用户和用户组名称，或重复的用户UID或者GID，那么怎么隔离各个容器内的用户空间呢？

User Namespace允许在各个宿主机的各个容器空间内创建相同的用户名以及相同的用户UID和GID，只是会把用户的作用范围限制在每个容器内，即A容器和B容器可以有相同的用户名称和ID账户，但是此用户的有效范围仅是当前容器内，不能访问另外一个容器内的文件系统，级相互隔离、互不影响、永不相见。

Control groups

Linux Cgroups的全称是Linux Control Groups，是Linux内核的一个功能，最早由Google的工程师（主要是Paul Menage和Rohit Seth）在2006年发起，最早的名称为进程容器（process containers）。在2007年时，因为在Linux内核中，容器（container）这个名词有许多不同的意义，为避免混乱，被重命名为cgroup，并且被合并到2.6.24版的内核中去。自那以后，又添加了很多功能。

如果不对一个容器做任何资源限制，则宿主机会允许其占用无限大的内存空间，有时候会因为代码bug程序会一直申请内存，直到把宿主机内存占完，为了避免此类的问题出现，宿主机有必要对容器进行资源分配限制，比如CPU、内存等。

Cgroups最主要的作用，就是限制一个进程组能够使用的资源上限，包括CPU、内存、磁盘、网络带宽等。此外，还能够对进程进行优先级设置，资源的计量以及资源的控制（比如：将进程挂起和恢复等操作）。

验证系统 cgroups

Cgroups在内核层默认已经开启，从Centos和Ubuntu不同版本对比，显然内核较新的支持的功能更多。

Centos7.4 cgroups：

[root@jk-k8s ~]# cat /etc/redhat-release
CentOS Linux release 7.4.1708 (Core)
[root@jk-k8s ~]#
[root@jk-k8s ~]# grep CGROUP /boot/config-3.10.0-693.el7.x86_64
CONFIG_CGROUPS=y
# CONFIG_CGROUP_DEBUG is not set
CONFIG_CGROUP_FREEZER=y
CONFIG_CGROUP_PIDS=y
CONFIG_CGROUP_DEVICE=y
CONFIG_CGROUP_CPUACCT=y
CONFIG_CGROUP_HUGETLB=y
CONFIG_CGROUP_PERF=y
CONFIG_CGROUP_SCHED=y
CONFIG_BLK_CGROUP=y
# CONFIG_DEBUG_BLK_CGROUP is not set
CONFIG_NETFILTER_XT_MATCH_CGROUP=m
CONFIG_NET_CLS_CGROUP=y
CONFIG_NETPRIO_CGROUP=y
[root@jk-k8s ~]#

cgroups中内存模块

[root@jk-k8s ~]# grep MEMCG /boot/config-3.10.0-693.el7.x86_64
CONFIG_MEMCG=y
CONFIG_MEMCG_SWAP=y
CONFIG_MEMCG_SWAP_ENABLED=y
CONFIG_MEMCG_KMEM=y

cgroups具体实现

blkio：块设备IO限制
cpu：使用调度程序为cgroup任务提供CPU访问
cpuacct：产生cgroup任务的CPU资源报告
cpuset：如果是多核心的cpu，这个子系统会为cgroup任务分配单独的cpu和内存
devices：允许或拒绝cgroup任务对设备访问
freezer：暂停和恢复cgroup任务
memory：设置每个cgroup的内存限制以及产生内存资源报告
net_cls：标记每个网络包以供cgroup方便使用
ns：命名空间子系统
perf_event：增加了对每group的检测跟踪的能力，可以检测属于某个特定的group的所有线程以及运行在特定CPU上的线程

查看系统cgroups

[root@jk-k8s ~]# ll /sys/fs/cgroup/
总用量 0
drwxr-xr-x 5 root root  0 8月  19 09:46 blkio
lrwxrwxrwx 1 root root 11 8月  19 09:46 cpu -> cpu,cpuacct
lrwxrwxrwx 1 root root 11 8月  19 09:46 cpuacct -> cpu,cpuacct
drwxr-xr-x 5 root root  0 8月  19 09:46 cpu,cpuacct
drwxr-xr-x 3 root root  0 8月  19 09:46 cpuset
drwxr-xr-x 5 root root  0 8月  19 09:46 devices
drwxr-xr-x 3 root root  0 8月  19 09:46 freezer
drwxr-xr-x 3 root root  0 8月  19 09:46 hugetlb
drwxr-xr-x 5 root root  0 8月  19 09:46 memory
lrwxrwxrwx 1 root root 16 8月  19 09:46 net_cls -> net_cls,net_prio
drwxr-xr-x 3 root root  0 8月  19 09:46 net_cls,net_prio
lrwxrwxrwx 1 root root 16 8月  19 09:46 net_prio -> net_cls,net_prio
drwxr-xr-x 3 root root  0 8月  19 09:46 perf_event
drwxr-xr-x 3 root root  0 8月  19 09:46 pids
drwxr-xr-x 5 root root  0 8月  19 09:46 systemd
[root@jk-k8s ~]#
[root@jk-k8s ~]# cat /sys/fs/cgroup/cpu/docker/5a1b43275caa1f8c9fff9ea8ccd3813d4a25acf698f15a3ec5eacd77948833b5/cpuacct.usage
109845268
[root@jk-k8s ~]#
[root@jk-k8s ~]# cat /sys/fs/cgroup/memory/docker/5a1b43275caa1f8c9fff9ea8ccd3813d4a25acf698f15a3ec5eacd77948833b5/memory.limit_in_bytes
9223372036854771712
[root@jk-k8s ~]# cat /sys/fs/cgroup/memory/docker/5a1b43275caa1f8c9fff9ea8ccd3813d4a25acf698f15a3ec5eacd77948833b5/memory.max_usage_in_bytes
12566528
[root@jk-k8s ~]#

容器管理工具

LXC

官网：https://linuxcontainers.org

Linux Container 可以提供轻量级的虚拟化功能，以便隔离进程和资源，包括一系列容器的管理工具软件，如，lxc-create，lxc-start，lxc-attach等，但这技术功能不完善，目前较少使用。

docker

docker相当于增强版的LXC，功能更为强大和易用，也是当前最主流的容器前端管理工具

docker先启动一个容器也需要一个外部模板，也称为镜像，docker的镜像可以保存在一个公共的地方共享使用，只要把镜像下载下来就可以使用，最主要的是可以在镜像基础之上做自定义配置并且可以再把其提交为一个镜像，一个镜像可以被启动为多个容器。

docker的镜像是分层的，镜像底层为库文件且只读层即不能写入也不能删除数据，从镜像加载启动为一个容器后会生成一个可写层，其写入的数据会复制到宿主机上对应容器的目录，但是容器内的数据在删除容器后也会被随之删除。

pouch

https://github.com/alibaba/pouch

Pouch（小袋子）起源于2011年，并于2017年11月19日上午，在中国开源年会现场，阿里巴巴正式开源了基于Apache2.0协议的容器技术Pouch。Pouch是一款轻量级的容器技术，拥有快速高效、可移植性高、资源占用少等特性，主要帮助阿里更快的做到内部业务的交付，同时提高超大规模下数据中心的物理资源利用率

目前的容器方案大多基于Linux内核提供的cgroup和namespace来实现隔离，然后这样轻量级方案存在弊端：

容器间，容器与宿主机间，共享一个内核
内核实现的隔离资源，维度不足

面对如此的内核现状，阿里巴巴采取了三个方面的工作，来解决容器的安全问题：

增强容器的隔离维度，比如网络带宽、磁盘使用量
给内核提交patch，修复容器的资源可见性问题，cgroup方面的bug
实现基于Hypervisor的容器，通过创建新内核来实现容器隔离

Podman

https://podman.io

虽然目前docker是管理Linux容器最好的耳工具，注意没有之一，但是podman的横空出现即将改变这一点

什么是Podman？

Podman即Pod Manager tool，从名称上可以看出和kubernets的pod的密切联系，不过就其功能来说，简言之：alias docker = podman，是centos8新集成的功能，或许不就的未来会替代docker

Podman是一个为Kubernetes而生的开源的容器管理工具，原来是CRI-O（即容器运行时接口CRI和开放容器计划OCI）项目的一部分，后来被分离成一个单独的项目叫libpod。其可在大多数Linux平台上使用，它是一种无守护程序的容器引擎，用于在Linux系统上开发，管理和运行任何符合Open Container Initiative（OCI）标准的容器和容器镜像。

Podman提供了一个与docker兼容的命令前端，Podman里面87%的指令都和docker cli相同，因此可以简单地为docker cli别名，即“alias docker = podman”，事实上，podman使用的一些库也是docker的一部分。

Podman和docker不同之处

docker需要在系统上运行一个守护进程（docker daemon），这会产生一定的开销，而podman不需要
启动容器的方式不同：
docker cli 命令通过 API 跟 docker engine（引擎）交互告诉它我想创建一个 container，然后 docker engine 才会调用 OCI containner runtime（runc）来启动一个container。这代表container的process（进程）不会是docker cli 的chlid process（子进程）而是Docker Engine 的 child process。
Podman是直接给OCI container runtime（runc）进行交互来创建container的，所以container process 直接是podman的child process。
因为docker有docker daemon，所以docker启动的容器支持 –restart策略，但是podman不支持
docker需要使用root用户来创建容器，这可能会产生安全风向，尤其是当用户知道docker run命令的 –privileged选项时。podman既可以由root用户运行，也可以由非特权用户运行
docker在Linux上作为守护进程运行扼杀了容器社区的创新。如果要更改容器的工作方式，则需要更改docker守护程序并将这些更改推送到上游。没有守护进程，容器基础结构更加模块化，更容易进行更改。podman的无守护进程架构更加灵活和安全。

Docker的优势

快速部署：短时间内可以部署成百上千个应用，更快速交付到线上
高效虚拟化：不需要额外hypervisor支持，基于Linux内核实现应用虚拟化，相比虚拟机大幅提高性能和效率
节省开支：提高服务器利用率，降低IT支持
简化配置：将运行环境打包保存至容器，使用时直接启动即可
环境统一：将开发，测试，生产的应用运行环境进行标准化统一，减少环境不一样带来的各种问题
快速迁移和扩展：可实现跨平台运行物理机、虚拟机、公有云等环境，良好的兼容性可以方便将应用从A宿主机迁移到B宿主机，甚至是A平台迁移到B平台
更好的实现面向服务的架构，推荐一个容器只运行一个应用，实现分布的应用模型，可以方便的进行横向扩展，符合开发中高内聚，低耦合的要求，减少不同服务器之间的相互影响

Docker的缺点

多个容器共用宿主机的内核，各应用之间的隔离不如虚拟机彻底
由于和宿主机之间的进程也是隔离的，需要进入容器查看和调试容器内进程等资源，变得比较困难和繁琐
如果容器内进程需要查看和调试，需要在每个容器内都需要安装相应的工具，这也造成存储空间的重复浪费

容器的核心技术

容器规范

OCI官网：https://opencontainers.org

容器技术除了docker之外，还有coreOS的rkt，还有阿里的Pouch，为了保证容器生态的标准性和健康可持续发展，包括Linux基金会、Docker、微软、红帽、谷歌和IBM等公司在2015年6月共同成立了一个叫Open Container Initiative（OCI）的组织，其目的就是制定开放的标准的容器规范，目前OCI一共发布了两个规范，分别是runtime spec和image format spec，有了这两个规范，不同的容器公司开发的容器只要兼容这两个规范，就可以保证容器的可移植性和相互可操作性性。

容器runtime

runtime是真正运行容器的地方，因此为了运行不同的容器runtime需要和操作系统内核紧密合作相互在支持，以便为容器提供相应的运行环境

runtime类型：

LXC：Linux上早期的runtime，在2013年docker刚发布的时候，就是采用lxc作为runtime，docker把lxc复杂的容器创建与使用方式简化为docker自己的一套命令体系。随着docker的发展，原有的lxc不能满足docker的需求，比如跨平台功能
Libcontainer：随着docker的不断发展，重新定义容器的实现标准，将底层实现都抽象化到Libcontainer的接口。这就意味着，底层容器的实现方式变成了一种可变的方案，无论是使用namespace、cgroups技术抑或是使用systemd等其他方案，只要实现了Lincontainer定义的一组接口，docker都可以运行。这也为docker实现全面的跨平台带来了可能。
runc：早期libcontainer是docker公司控制的一个开源项目，OCI的成立后，docker把libcontainer项目移交给了OCI组织，runc就是在libcontainer的基础上进化而来，是目前docker默认的runtime，runc遵守OCI规范
rkt：是CoreOS开发的容器runtime，也符合OCI规范，所以使用rktruntime也可以运行docker容器

容器管理工具

管理工具连接runtime与用户，对用户提供图形或命令方式操作，然后管理工具将用户操作传递给runtime执行。

lxc是lxd的管理工具
Runc的管理工具是docker engine，docker engine包含后台deamon和cli两部分，大家经常提到的docker就是指的docker engine
rkt的管理工具是 rkt cli

容器定义工具

容器定义工具允许用户定义容器的属性和内容，以方便容器能够被保存、共享和重建。

Docker image：是docker容器的模板，runtime依据docker image创建容器

Dockerfile：包含N个命令的文本文件，通过dockerfile创建出docker image

ACI（App container image）：与docker image类似，是CoreOS开发的rkt容器的镜像格式

镜像仓库

统一保存镜像而且是多个不同镜像版本的地方，叫做镜像仓库

Docker hub：docker官方的公共仓库，已经保存了大量的常用镜像，可以方便大家直接使用
阿里云，网易等第三方镜像的公共仓库
Image registry：docker官方提供的私有仓库部署工具，无web管理界面，目前使用较少
Harbor：vmware提供自带web界面自带认证功能的镜像私有仓库，目前有很多公司使用

容器编排工具

当多个容器在多个主机运行的时候，单独管理容器是相当复杂而且很容易出错，而且也无法实现某一台主机宕机后容器自动迁移到其他主机从而实现高可用的目的，也无法实现动态伸缩功能，因此需要有一种工具可以实现统一管理、动态伸缩、故障自愈、批量执行等功能，这就是容器编排引擎

容器编排通常包括容器管理、调度、集群定义和服务发现等功能

Docker compose：docker官方实现单机容器的编排工具
Docker swarm：docker官方开发的容器编排引擎，支持overlay network
Mesos+Marathon：Mesos是Apache下的开源分布式资源管理框架，它被称为是分布式系统的内核。Mesos最初是由加州大学伯克利分校的AMPLab开发的，后在Twitter得到广泛使用。通用的集群组员调度平台，Mesos（资源分配）与marathon（容器编排平台）一起提供容器编排引擎功能
Kubernetes：Google领导开发的容器编排引擎，内部项目为Borg，且其同时支持docker和CoreOS，当前已成为容器编排工具的标准

docker依赖的技术

容器网络

docker自带的网络docker network仅支持管理单机的容器网络，当多主机运行的时候需要使用第三方开源网络，例如：calico、flannel等

服务发现

容器的动态扩容特性决定了容器IP也会随之变化，因此需要有一种机制开源自动识别并将用户请求动态转发到新创建的容器上，Kubernetes自带服务发现功能，需要结合kube-dns服务解析内部域名

容器监控

可以通过原生命令docker ps/top/stats查看容器运行状态，另外可以使用prometheus、heapster等第三方监控工具监控容器的运行状态

数据管理

容器的动态迁移会导致其在不同的host之前迁移，因此如何保证与容器相关的数据也能随之迁移或随时访问，可以使用逻辑卷/存储挂载等方式解决

日志收集

docker原生的日志查看工具docker logs，但是容器内部的日志需要通过ELK等专门的日志收集分析和展示工具进行处理

Docker安装及基础命令介绍

Docker安装准备

https://www.docker.com

OS版本的选择：

docker目前支持多种操作系统的安装运行，如Centos，Ubuntu，Redhat，Debian，Fedora，Mac，Windows，在Linux系统上需要内核版本在3.10或以上

docker版本选择：

docker版本号之前一直是0.x版本或1.x版本，从2017年3月1号开始改为每个季度发布一次稳定版，其版本号规则也统一变更为YY.MM，例如20.10表示2020年10月发布的

docker之前没有区分版本，但是2017年推出（将docker更名为）新的项目Moby，github地址：https://github.com/moby/moby ，Moby项目属于Docker项目全新上游，docker将是一个隶属于Moby的子产品，而且之后的版本开始区分CE（Docker Community Edition，社区版本）和EE（Docker Enterprise Edition，企业收费版）,CE社区版和EE企业版都是每个季度发布一个新版本，但是EE版提供后期安全维护1年，而CE版是4个月。

安装和删除方法

官方文档：https://docs.docker.com/engine/install/

阿里云文档：https://developer.aliyun.com/mirror/docker-ce?spm=a2c6h.13651102.0.0.3e221b11guHCWE

Centos安装和删除docker

官方文档：https://docs.docker.com/engine/install/centos/

CentOS 6 因内核太旧，即使支持安装docker，但会有各种问题，不建议安装

CentOS 7的extras源虽然可以安装docker，但包比较旧，建议从官方源或镜像源站点下载安装docker

CentOS 8 有新技术podman代替docker

因此建议在CentOS 7 上安装 docker

# extras 源中包名为docker
[root@centos7 ~]# yum list docker
已加载插件：fastestmirror
Loading mirror speeds from cached hostfile
 * base: mirrors.bupt.edu.cn
 * extras: mirrors.neusoft.edu.cn
 * updates: mirrors.nju.edu.cn
可安装的软件包
docker.x86_64                                 2:1.13.1-209.git7d71120.el7.centos                                  extras

下载rpm包安装

官方rpm包下载地址：https://download.docker.com/linux/centos/7/x86_64/stable/Packages/

阿里镜像下载地址：https://mirrors.aliyun.com/docker-ce/linux/centos/7/x86_64/stable/Packages/

通过yum源安装：

由于官网yum源太慢，下面使用阿里云的yum源进行安装

rm -rf /etc/yum.repos.d/*

# centos 7 安装docker依赖三个yum源：Base，Extras，docker-ce
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
wget -O /etc/yum.repos.d/docker-ce.repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

yum clean all
yum install docker-ce -y
systemctl enable --now docker

删除docker

yum remove docker-ce

# 删除docker资源存放的相关文件
rm -ef /var/lib/docker

Docker 程序环境

Centos7 查看docker相关文件

[root@centos ~]# rpm -ql docker-ce
/usr/bin/docker-init
/usr/bin/docker-proxy
/usr/bin/dockerd
/usr/lib/systemd/system/docker.service
/usr/lib/systemd/system/docker.socket
[root@centos ~]#
[root@centos ~]# rpm -ql docker-ce
/usr/bin/docker-init
/usr/bin/docker-proxy
/usr/bin/dockerd
/usr/lib/systemd/system/docker.service
/usr/lib/systemd/system/docker.socket
[root@centos ~]#
[root@centos ~]# rpm -ql docker-ce-cli
/usr/bin/docker
/usr/libexec/docker/cli-plugins/docker-app
/usr/libexec/docker/cli-plugins/docker-buildx
/usr/share/bash-completion/completions/docker
/usr/share/doc/docker-ce-cli-20.10.17
/usr/share/doc/docker-ce-cli-20.10.17/LICENSE
/usr/share/doc/docker-ce-cli-20.10.17/MAINTAINERS
/usr/share/doc/docker-ce-cli-20.10.17/NOTICE
/usr/share/doc/docker-ce-cli-20.10.17/README.md
/usr/share/fish/vendor_completions.d/docker.fish
/usr/share/man/man1/docker-attach.1.gz
/usr/share/man/man1/docker-build.1.gz
/usr/share/man/man1/docker-builder-build.1.gz
/usr/share/man/man1/docker-builder-prune.1.gz
/usr/share/man/man1/docker-builder.1.gz
/usr/share/man/man1/docker-checkpoint-create.1.gz
/usr/share/man/man1/docker-checkpoint-ls.1.gz
/usr/share/man/man1/docker-checkpoint-rm.1.gz
/usr/share/man/man1/docker-checkpoint.1.gz
/usr/share/man/man1/docker-commit.1.gz
/usr/share/man/man1/docker-config-create.1.gz
/usr/share/man/man1/docker-config-inspect.1.gz
/usr/share/man/man1/docker-config-ls.1.gz
/usr/share/man/man1/docker-config-rm.1.gz
/usr/share/man/man1/docker-config.1.gz
/usr/share/man/man1/docker-container-attach.1.gz
/usr/share/man/man1/docker-container-commit.1.gz
/usr/share/man/man1/docker-container-cp.1.gz
/usr/share/man/man1/docker-container-create.1.gz
/usr/share/man/man1/docker-container-diff.1.gz
/usr/share/man/man1/docker-container-exec.1.gz
/usr/share/man/man1/docker-container-export.1.gz
/usr/share/man/man1/docker-container-inspect.1.gz
/usr/share/man/man1/docker-container-kill.1.gz
/usr/share/man/man1/docker-container-logs.1.gz
/usr/share/man/man1/docker-container-ls.1.gz
/usr/share/man/man1/docker-container-pause.1.gz
/usr/share/man/man1/docker-container-port.1.gz
/usr/share/man/man1/docker-container-prune.1.gz
/usr/share/man/man1/docker-container-rename.1.gz
/usr/share/man/man1/docker-container-restart.1.gz
/usr/share/man/man1/docker-container-rm.1.gz
/usr/share/man/man1/docker-container-run.1.gz
/usr/share/man/man1/docker-container-start.1.gz
/usr/share/man/man1/docker-container-stats.1.gz
/usr/share/man/man1/docker-container-stop.1.gz
/usr/share/man/man1/docker-container-top.1.gz
/usr/share/man/man1/docker-container-unpause.1.gz
/usr/share/man/man1/docker-container-update.1.gz
/usr/share/man/man1/docker-container-wait.1.gz
/usr/share/man/man1/docker-container.1.gz
/usr/share/man/man1/docker-context-create.1.gz
/usr/share/man/man1/docker-context-export.1.gz
/usr/share/man/man1/docker-context-import.1.gz
/usr/share/man/man1/docker-context-inspect.1.gz
/usr/share/man/man1/docker-context-ls.1.gz
/usr/share/man/man1/docker-context-rm.1.gz
/usr/share/man/man1/docker-context-update.1.gz
/usr/share/man/man1/docker-context-use.1.gz
/usr/share/man/man1/docker-context.1.gz
/usr/share/man/man1/docker-cp.1.gz
/usr/share/man/man1/docker-create.1.gz
/usr/share/man/man1/docker-diff.1.gz
/usr/share/man/man1/docker-events.1.gz
/usr/share/man/man1/docker-exec.1.gz
/usr/share/man/man1/docker-export.1.gz
/usr/share/man/man1/docker-history.1.gz
/usr/share/man/man1/docker-image-build.1.gz
/usr/share/man/man1/docker-image-history.1.gz
/usr/share/man/man1/docker-image-import.1.gz
/usr/share/man/man1/docker-image-inspect.1.gz
/usr/share/man/man1/docker-image-load.1.gz
/usr/share/man/man1/docker-image-ls.1.gz
/usr/share/man/man1/docker-image-prune.1.gz
/usr/share/man/man1/docker-image-pull.1.gz
/usr/share/man/man1/docker-image-push.1.gz
/usr/share/man/man1/docker-image-rm.1.gz
/usr/share/man/man1/docker-image-save.1.gz
/usr/share/man/man1/docker-image-tag.1.gz
/usr/share/man/man1/docker-image.1.gz
/usr/share/man/man1/docker-images.1.gz
/usr/share/man/man1/docker-import.1.gz
/usr/share/man/man1/docker-info.1.gz
/usr/share/man/man1/docker-inspect.1.gz
/usr/share/man/man1/docker-kill.1.gz
/usr/share/man/man1/docker-load.1.gz
/usr/share/man/man1/docker-login.1.gz
/usr/share/man/man1/docker-logout.1.gz
/usr/share/man/man1/docker-logs.1.gz
/usr/share/man/man1/docker-manifest-annotate.1.gz
/usr/share/man/man1/docker-manifest-create.1.gz
/usr/share/man/man1/docker-manifest-inspect.1.gz
/usr/share/man/man1/docker-manifest-push.1.gz
/usr/share/man/man1/docker-manifest-rm.1.gz
/usr/share/man/man1/docker-manifest.1.gz
/usr/share/man/man1/docker-network-connect.1.gz
/usr/share/man/man1/docker-network-create.1.gz
/usr/share/man/man1/docker-network-disconnect.1.gz
/usr/share/man/man1/docker-network-inspect.1.gz
/usr/share/man/man1/docker-network-ls.1.gz
/usr/share/man/man1/docker-network-prune.1.gz
/usr/share/man/man1/docker-network-rm.1.gz
/usr/share/man/man1/docker-network.1.gz
/usr/share/man/man1/docker-node-demote.1.gz
/usr/share/man/man1/docker-node-inspect.1.gz
/usr/share/man/man1/docker-node-ls.1.gz
/usr/share/man/man1/docker-node-promote.1.gz
/usr/share/man/man1/docker-node-ps.1.gz
/usr/share/man/man1/docker-node-rm.1.gz
/usr/share/man/man1/docker-node-update.1.gz
/usr/share/man/man1/docker-node.1.gz
/usr/share/man/man1/docker-pause.1.gz
/usr/share/man/man1/docker-plugin-create.1.gz
/usr/share/man/man1/docker-plugin-disable.1.gz
/usr/share/man/man1/docker-plugin-enable.1.gz
/usr/share/man/man1/docker-plugin-inspect.1.gz
/usr/share/man/man1/docker-plugin-install.1.gz
/usr/share/man/man1/docker-plugin-ls.1.gz
/usr/share/man/man1/docker-plugin-push.1.gz
/usr/share/man/man1/docker-plugin-rm.1.gz
/usr/share/man/man1/docker-plugin-set.1.gz
/usr/share/man/man1/docker-plugin-upgrade.1.gz
/usr/share/man/man1/docker-plugin.1.gz
/usr/share/man/man1/docker-port.1.gz
/usr/share/man/man1/docker-ps.1.gz
/usr/share/man/man1/docker-pull.1.gz
/usr/share/man/man1/docker-push.1.gz
/usr/share/man/man1/docker-rename.1.gz
/usr/share/man/man1/docker-restart.1.gz
/usr/share/man/man1/docker-rm.1.gz
/usr/share/man/man1/docker-rmi.1.gz
/usr/share/man/man1/docker-run.1.gz
/usr/share/man/man1/docker-save.1.gz
/usr/share/man/man1/docker-search.1.gz
/usr/share/man/man1/docker-secret-create.1.gz
/usr/share/man/man1/docker-secret-inspect.1.gz
/usr/share/man/man1/docker-secret-ls.1.gz
/usr/share/man/man1/docker-secret-rm.1.gz
/usr/share/man/man1/docker-secret.1.gz
/usr/share/man/man1/docker-service-create.1.gz
/usr/share/man/man1/docker-service-inspect.1.gz
/usr/share/man/man1/docker-service-logs.1.gz
/usr/share/man/man1/docker-service-ls.1.gz
/usr/share/man/man1/docker-service-ps.1.gz
/usr/share/man/man1/docker-service-rm.1.gz
/usr/share/man/man1/docker-service-rollback.1.gz
/usr/share/man/man1/docker-service-scale.1.gz
/usr/share/man/man1/docker-service-update.1.gz
/usr/share/man/man1/docker-service.1.gz
/usr/share/man/man1/docker-stack-deploy.1.gz
/usr/share/man/man1/docker-stack-ls.1.gz
/usr/share/man/man1/docker-stack-ps.1.gz
/usr/share/man/man1/docker-stack-rm.1.gz
/usr/share/man/man1/docker-stack-services.1.gz
/usr/share/man/man1/docker-stack.1.gz
/usr/share/man/man1/docker-start.1.gz
/usr/share/man/man1/docker-stats.1.gz
/usr/share/man/man1/docker-stop.1.gz
/usr/share/man/man1/docker-swarm-ca.1.gz
/usr/share/man/man1/docker-swarm-init.1.gz
/usr/share/man/man1/docker-swarm-join-token.1.gz
/usr/share/man/man1/docker-swarm-join.1.gz
/usr/share/man/man1/docker-swarm-leave.1.gz
/usr/share/man/man1/docker-swarm-unlock-key.1.gz
/usr/share/man/man1/docker-swarm-unlock.1.gz
/usr/share/man/man1/docker-swarm-update.1.gz
/usr/share/man/man1/docker-swarm.1.gz
/usr/share/man/man1/docker-system-df.1.gz
/usr/share/man/man1/docker-system-events.1.gz
/usr/share/man/man1/docker-system-info.1.gz
/usr/share/man/man1/docker-system-prune.1.gz
/usr/share/man/man1/docker-system.1.gz
/usr/share/man/man1/docker-tag.1.gz
/usr/share/man/man1/docker-top.1.gz
/usr/share/man/man1/docker-trust-inspect.1.gz
/usr/share/man/man1/docker-trust-key-generate.1.gz
/usr/share/man/man1/docker-trust-key-load.1.gz
/usr/share/man/man1/docker-trust-key.1.gz
/usr/share/man/man1/docker-trust-revoke.1.gz
/usr/share/man/man1/docker-trust-sign.1.gz
/usr/share/man/man1/docker-trust-signer-add.1.gz
/usr/share/man/man1/docker-trust-signer-remove.1.gz
/usr/share/man/man1/docker-trust-signer.1.gz
/usr/share/man/man1/docker-trust.1.gz
/usr/share/man/man1/docker-unpause.1.gz
/usr/share/man/man1/docker-update.1.gz
/usr/share/man/man1/docker-version.1.gz
/usr/share/man/man1/docker-volume-create.1.gz
/usr/share/man/man1/docker-volume-inspect.1.gz
/usr/share/man/man1/docker-volume-ls.1.gz
/usr/share/man/man1/docker-volume-prune.1.gz
/usr/share/man/man1/docker-volume-rm.1.gz
/usr/share/man/man1/docker-volume.1.gz
/usr/share/man/man1/docker-wait.1.gz
/usr/share/man/man1/docker.1.gz
/usr/share/man/man5/Dockerfile.5.gz
/usr/share/man/man5/docker-config-json.5.gz
/usr/share/man/man8/dockerd.8.gz
/usr/share/zsh/vendor-completions/_docker

Docker 命令帮助

官方文档：https://docs.docker.com/reference/

docker命令是最常使用的docker客户端命令，其后面可以加不同的参数以实现不同的功能

# docker 命令格式
# COMMAND 分为 
# Management Commands 指定管理员的资源对象类型，较新的命令用法，将命令按资源类型进行分类，方便使用
# Commands 对不同资源操作的命令不分类，使用容易产生混乱
docker [OPTIONS] COMMAND

# docker 命令有很多子命令，可以用下面方法查看帮助
# docker 命令帮助
man docker
docker
docker --help

# docker 子命令帮助
man docker -COMMAND
docker COMMAND --help

查看docker相关信息

查看docker版本

[root@centos ~]# docker version
Client: Docker Engine - Community
 Version:           20.10.17
 API version:       1.41
 Go version:        go1.17.11
 Git commit:        100c701
 Built:             Mon Jun  6 23:05:12 2022
 OS/Arch:           linux/amd64
 Context:           default
 Experimental:      true

Server: Docker Engine - Community
 Engine:
  Version:          20.10.17
  API version:      1.41 (minimum version 1.12)
  Go version:       go1.17.11
  Git commit:       a89b842
  Built:            Mon Jun  6 23:03:33 2022
  OS/Arch:          linux/amd64
  Experimental:     false
 containerd:
  Version:          1.6.7
  GitCommit:        0197261a30bf81f1ee8e6a4dd2dea0ef95d67ccb
 runc:
  Version:          1.1.3
  GitCommit:        v1.1.3-0-g6724737
 docker-init:
  Version:          0.19.0
  GitCommit:        de40ad0

查看docker详细信息

[root@centos ~]# docker info
Client:
 Context:    default
 Debug Mode: false # client端是否开启debug
 Plugins:
  app: Docker App (Docker Inc., v0.9.1-beta3)
  buildx: Docker Buildx (Docker Inc., v0.8.2-docker)
  scan: Docker Scan (Docker Inc., v0.17.0)

Server:
 Containers: 0 # 当前主机运行的容器总数
  Running: 0 # 正在运行的容器个数
  Paused: 0   # 暂停的容器个数
  Stopped: 0   # 停止的容器个数
 Images: 0     # 当前服务器的镜像个数
 Server Version: 20.10.17    # 服务端版本
 Storage Driver: overlay2    # 正在使用的存储引擎
  Backing Filesystem: xfs    # 后端文件系统，即服务器的磁盘文件系统
  Supports d_type: true      # 是否支持 d_type
  Native Overlay Diff: true  # 是否支持差异数据存储
  userxattr: false
 Logging Driver: json-file   # 日志类型
 Cgroup Driver: cgroupfs # Cgroups类型
 Cgroup Version: 1
 Plugins: # 插件
  Volume: local # 卷
  Network: bridge host ipvlan macvlan null overlay    # overlay 跨主机通信
  Log: awslogs fluentd gcplogs gelf journald json-file local logentries splunk syslog # 日志类型
 Swarm: inactive # 是否支持 swarm
 Runtimes: io.containerd.runc.v2 io.containerd.runtime.v1.linux runc
 Default Runtime: runc       # 默认使用的容器运行时
 Init Binary: docker-init    # 初始化容器的守护进程，即pid为1的进程
 containerd version: 0197261a30bf81f1ee8e6a4dd2dea0ef95d67ccb # 版本
 runc version: v1.1.3-0-g6724737# runc版本
 init version: de40ad0 # init 版本
 Security Options:           # 安全选项
  seccomp                    # 安全计算模块，即制容器操作
   Profile: default # 默认的配置文件
 Kernel Version: 3.10.0-693.el7.x86_64    # 宿主机内核版本
 Operating System: CentOS Linux 7 (Core)  # 宿主机操作系统
 OSType: linux# 宿主机操作系统类型
 Architecture: x86_64# 宿主机架构
 CPUs: 2# 宿主机CPU数量
 Total Memory: 1.792GiB# 宿主机总内存
 Name: centos# 宿主机 hostname
 ID: E66M:LPI3:YB2Z:LJKN:LNB2:P7Z3:6HYX:DSFF:KISM:SSJX:PVIF:B2ZM  # 宿主机 ID
 Docker Root Dir: /var/lib/docker# 宿主机关于docker数据的保存目录
 Debug Mode: false# server 端是否开启debug
 Registry: https://index.docker.io/v1/# 仓库路径
 Labels:
 Experimental: false# 是否是测试版
 Insecure Registries:
  127.0.0.0/8# 非安全的镜像库
 Live Restore Enabled: false            # 是否开启活动重启 （重启docker-daemon 不关闭容器）

查看docker0网卡

在docker安装启动后，默认会生成一个名称为docker0的网卡且默认IP地址为172.17.0.1

Docker存储引擎

AUFS是一种UnionFs，是文件级的存储驱动。Aufs是之前的UnionFS的重新实现，2006年由JunjiroOkajima开发，所谓UnionFS就是把不同物理位置的目录合并mount到同一个目录中。简单来说就是支持将不同目录挂载到一个虚拟文件系统下。这种可以层层地叠加修改文件。无论底下有多少都是只读的，最上系统可写的。当需要修改一个文件时，AUFS常见该文件的一个副本，使用CoW将文件从只读层复制到可写进行修改，结果也保存在Docker中，底下的只读层就是image，可写层就是Container。
aufs被拒绝合并到主线Linux。其代码被批评为“dense，unreadable，uncommented 密集、不可读、未注释”。相反，OverlayFS被合并到Linux内核中。在多次尝试将aufs合并到主线内核失败后，作者放弃了
AUFS是docker18.06及更早版本的首选存储驱动程序，在内核3.13上运行ubuntu14.04时不支持overlay2
Overlay：一种UnionFS文件系统，Linux内核3.18后支持
Overlay2：Overlay的升级版，到目前为止，所有Linux发行版推荐使用的存储类型，也是docker默认使用的存储引擎为overlay2，需要磁盘分区支持d-type功能，因此需要系统磁盘的额外支持，相对AUFS来说Overlay2有以下优势：更简单的设计；从3.18开始就进入了Linux内核主线；资源消耗更少
devicemapper：因为Centos7.2和RHEL7.2的之前版本内核版本不支持overlay2，默认使用的存储驱动程序，最大数据容量只支持100G且性能不佳，当前较新版本的CentOS已经支持overlay2，因此推荐使用overlay2，另外此存储引擎已在Docker Engine 18.09中弃用
ZFS（Sun-2005）/btrfs（Oracle-2007）：目前没有广泛使用
VFS：用于测试环境，适用于无法使用copy-on-write时的情况。此存储驱动程序的性能很差，通常不建议用于生产

Docker官方推荐首选存储引擎为overlay2，其次为devicemapper，但是devicemapper存在使用空间方面的一些限制，虽然可以通过后期配置解决，但是官方依然推荐使用overlay2，以下是生产故障示例：https://www.cnblogs.com/youruncloud/p/5736718.html

docker服务进程

通过查看docker进程，了解docker的运行及工作方式

docker的进程关系

docker相关的四个进程：

dockerd：服务器程序，被client直接访问，其父进程为宿主机的systemd守护进程
docker-proxy：每个进程docker-proxy实现对应一个需要网络通信的容器，管理宿主机和容器之间端口映射，其父进程为dockerd，如果容器不需要网络则无需启动
containerd：被dockerd进程调用以实现与runc交互
containerd-shim：真正运行容器的载体，每个容器对应一个containerd-shim进程，其父进程为containerd

容器的创建与管理过程

通信流程：

1.dockerd通过grpc和containerd模块通信，dockerd由libcontainerd负责和containerd进行交换，docker和containerd通信socket文件：/run/containerd/containerd.sock

2.containerd在docker启动时被启动，然后containerd启动grpc请求监听，containerd处理grpc请求，根据请求做相应动作

3.若是run，start或是exec容器，containerd拉起一个container-shim，并进行相应的操作

4.container-shim被拉起后，start/exec/create拉起runc进程，通过exit、control文件和containerd通信，通过父子进程关系和SIGCHLD监控容器中进程状态

5.在整个容器生命周期中，container通过epoll监控容器文件，监控容器事件

gRPC简介

官网：https://www.grpc.io

gRPC是Google开发的一款高性能、开源和通用的RPC框架，支持众多语言客户端

Docker 服务管理

docker服务基于C/S结构，可以实现基于本地和远程方式进行管理

# Dockerd守护进程启动选项
-H tcp://host:port
 unix:///path/to/socket,
 fd://* or fd://socketfd

# 守护进程默认配置
-H unix:///var/run/docker.sock

# 使用Docker客户端命令选项
-H tcp://host:port
   unix:///path/to/socket,
   fd://* or fd://socketfd

# 客户端默认配置：
-H unix:///var/run/docker.sock

# docker客户端也可以使用环境变量DOCKER_HOST,代替 -H选项
export DOCKER_HOST="tcp://docker-server:2375"

镜像管理

镜像结构和原理

镜像即创建容器的模板，含有启动容器所需要的文件系统及所需要的内容，因此镜像主要用于方便和快速的创建启动容器。

镜像里面是一层层的文件系统，叫做Union FS（联合文件系统），联合文件系统，可以将几层目录挂载到一起（就想千层饼，洋葱头，俄罗斯套娃一样），形成一个虚拟文件系统，虚拟文件系统的目录结构就像普通Linux的目录结构一样，镜像通过这些文件再加上宿主机的内核共同提供了一个Linux的虚拟环境，每一层文件系统叫做一层layer，联合文件系统可以对每一层文件系统设置三种权限，只读（readonly）、读写（readwrite）、和写出（whiteout-able），但是镜像中每一层文件系统都是只读的，构建镜像的时候，从一个最基本的操作系统开始，每个构建提交的操作都相当于做一层的修改，增加了一层文件系统，一层层往上叠加，上层的修改会覆盖底层该位置的可见性，这也很容易理解，就像上层把底层遮住了一样，当使用镜像的时候，我们只会看到一个完全的整体，不知道里面有几层。

一个典型的Linux文件系统由bootfs和rootfs两部分组成

bootfs（boot file system）主要包含bootloader和kernel，bootloader主要用于引导加载kernel，Linux刚启动时会加载bootfs文件系统，当boot加载完后，kernel被加载到内存中后接管系统的控制权，bootfs会被umount掉

rootfs（root file system）包含的就是典型Linux系统中的 /dev，/proc，/bin，/etc等标准目录和文件，不同的Linux发行版（如ubuntu 和 CentOS）主要在rootfs这一层会有所区别。

一般的镜像通常都比较小，官方提供的Ubuntu镜像只有60M多点，而CentOS基础镜像也只有200M左右，一些其他版本的镜像甚至只有几M，比如：busybox 才1.22M，Alpine镜像也只有5M左右。镜像直接调用宿主机的内核，镜像中提供rootfs，也就是只需要包括最基本的命令，配置文件和程序库等相关文件就可以了。

容器、镜像和父镜像关系

查看镜像的分层结构

[root@centos7 ~]# docker pull nginx
Using default tag: latest
latest: Pulling from library/nginx
1efc276f4ff9: Pull complete
baf2da91597d: Pull complete
05396a986fd3: Pull complete
6a17c8e7063d: Pull complete
27e0d286aeab: Pull complete
b1349eea8fc5: Pull complete
Digest: sha256:790711e34858c9b0741edffef6ed3d8199d8faa33f2870dea5db70f16384df79
Status: Downloaded newer image for nginx:latest
docker.io/library/nginx:latest

# 查看镜像分层历史
[root@centos7 ~]# docker image history nginx
IMAGE          CREATED       CREATED BY                                      SIZE      COMMENT
b692a91e4e15   2 weeks ago   /bin/sh -c #(nop)  CMD ["nginx" "-g" "daemon…   0B
      2 weeks ago   /bin/sh -c #(nop)  STOPSIGNAL SIGQUIT           0B
      2 weeks ago   /bin/sh -c #(nop)  EXPOSE 80                    0B
      2 weeks ago   /bin/sh -c #(nop)  ENTRYPOINT ["/docker-entr…   0B
      2 weeks ago   /bin/sh -c #(nop) COPY file:09a214a3e07c919a…   4.61kB
      2 weeks ago   /bin/sh -c #(nop) COPY file:0fd5fca330dcd6a7…   1.04kB
      2 weeks ago   /bin/sh -c #(nop) COPY file:0b866ff3fc1ef5b0…   1.96kB
      2 weeks ago   /bin/sh -c #(nop) COPY file:65504f71f5855ca0…   1.2kB
      2 weeks ago   /bin/sh -c set -x     && addgroup --system -…   61.1MB
      2 weeks ago   /bin/sh -c #(nop)  ENV PKG_RELEASE=1~bullseye   0B
      2 weeks ago   /bin/sh -c #(nop)  ENV NJS_VERSION=0.7.6        0B
      2 weeks ago   /bin/sh -c #(nop)  ENV NGINX_VERSION=1.23.1     0B
      2 weeks ago   /bin/sh -c #(nop)  LABEL maintainer=NGINX Do…   0B
      2 weeks ago   /bin/sh -c #(nop)  CMD ["bash"]                 0B
      2 weeks ago   /bin/sh -c #(nop) ADD file:0eae0dca665c7044b…   80.4MB

[root@centos7 ~]# docker inspect nginx
[
    {
        "Id": "sha256:b692a91e4e1582db97076184dae0b2f4a7a86b68c4fe6f91affa50ae06369bf5",
        "RepoTags": [
            "nginx:latest"
        ],
        "RepoDigests": [
            "nginx@sha256:790711e34858c9b0741edffef6ed3d8199d8faa33f2870dea5db70f16384df79"
        ],
        "Parent": "",
        "Comment": "",
        "Created": "2022-08-02T05:17:19.274343015Z",
        "Container": "5f19bc2cd794cd60ec845cbed7a60c85003dc56f26ee807f9eea2480bc465b76",
        "ContainerConfig": {
            "Hostname": "5f19bc2cd794",
            "Domainname": "",
            "User": "",
            "AttachStdin": false,
            "AttachStdout": false,
            "AttachStderr": false,
            "ExposedPorts": {
                "80/tcp": {}
            },
            "Tty": false,
            "OpenStdin": false,
            "StdinOnce": false,
            "Env": [
                "PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin",
                "NGINX_VERSION=1.23.1",
                "NJS_VERSION=0.7.6",
                "PKG_RELEASE=1~bullseye"
            ],
            "Cmd": [
                "/bin/sh",
                "-c",
                "#(nop) ",
                "CMD [\"nginx\" \"-g\" \"daemon off;\"]"
            ],
            "Image": "sha256:0417134432daa8913f92f7bf71641a8fa7ab3405c91b717dde22c855e71eef4d",
            "Volumes": null,
            "WorkingDir": "",
            "Entrypoint": [
                "/docker-entrypoint.sh"
            ],
            "OnBuild": null,
            "Labels": {
                "maintainer": "NGINX Docker Maintainers "
            },
            "StopSignal": "SIGQUIT"
        },
        "DockerVersion": "20.10.12",
        "Author": "",
        "Config": {
            "Hostname": "",
            "Domainname": "",
            "User": "",
            "AttachStdin": false,
            "AttachStdout": false,
            "AttachStderr": false,
            "ExposedPorts": {
                "80/tcp": {}
            },
            "Tty": false,
            "OpenStdin": false,
            "StdinOnce": false,
            "Env": [
                "PATH=/usr/local/sbin:/usr/local/bin:/usr/sbin:/usr/bin:/sbin:/bin",
                "NGINX_VERSION=1.23.1",
                "NJS_VERSION=0.7.6",
                "PKG_RELEASE=1~bullseye"
            ],
            "Cmd": [
                "nginx",
                "-g",
                "daemon off;"
            ],
            "Image": "sha256:0417134432daa8913f92f7bf71641a8fa7ab3405c91b717dde22c855e71eef4d",
            "Volumes": null,
            "WorkingDir": "",
            "Entrypoint": [
                "/docker-entrypoint.sh"
            ],
            "OnBuild": null,
            "Labels": {
                "maintainer": "NGINX Docker Maintainers "
            },
            "StopSignal": "SIGQUIT"
        },
        "Architecture": "amd64",
        "Os": "linux",
        "Size": 141538863,
        "VirtualSize": 141538863,
        "GraphDriver": {
            "Data": {
                "LowerDir": "/var/lib/docker/overlay2/65721405d33c804de8b1ce344e01ea1cb20a15b526846ddd0914236141d12a74/diff:/var/lib/docker/overlay2/769ff70d994c30f2c3aca1a752b6320d7908f4a7aebd56ef58557b9d39cb3170/diff:/var/lib/docker/overlay2/ecbbdc176f03365bcf157e7409d045d16173793abb43d908328c28aa5235af85/diff:/var/lib/docker/overlay2/14a39e34b10a24fab8c7dccff4a3fcd34bdede808fda2921fcb2c033b1871e92/diff:/var/lib/docker/overlay2/3826983a7f0fa4365113c866622eb0af797919100279ba1db6bdd352330e4699/diff",
                "MergedDir": "/var/lib/docker/overlay2/7194cc85a5c2bf12f4d2fb0e2c57ff356c47981bda94be0e9bcf503391080797/merged",
                "UpperDir": "/var/lib/docker/overlay2/7194cc85a5c2bf12f4d2fb0e2c57ff356c47981bda94be0e9bcf503391080797/diff",
                "WorkDir": "/var/lib/docker/overlay2/7194cc85a5c2bf12f4d2fb0e2c57ff356c47981bda94be0e9bcf503391080797/work"
            },
            "Name": "overlay2"
        },
        "RootFS": {
            "Type": "layers",
            "Layers": [
                "sha256:92a4e8a3140f7a04a0e5a15793adef2d0e8889ed306a8f95a6cfb67cecb5f212",
                "sha256:e3257a399753c995f54856b0cea3c2b6aa1a95d9a7b542668a46fa4eacf62d53",
                "sha256:3a89c8160a43d70433241934b1d418f641e6d207a10b558b67f8aafdb15416b0",
                "sha256:f91d0987b144553456431bcb8cc8ddf5d03362701bc2ffc128ce2bd57182defb",
                "sha256:bdc7a32279ccdf5aba13d3e50b7b16103e03ff8ef27424ac1a33df24e5a9f602",
                "sha256:b539cf60d7bb42871a005e949b550800b99fada0b1c1bca01654e8a506ba2138"
            ]
        },
        "Metadata": {
            "LastTagTime": "0001-01-01T00:00:00Z"
        }
    }
]
[root@centos7 ~]# docker save nginx -o nginx.tar
[root@centos7 ~]# docker images
REPOSITORY   TAG       IMAGE ID       CREATED       SIZE
nginx        latest    b692a91e4e15   2 weeks ago   142MB
[root@centos7 ~]# ll -h nginx.tar
-rw------- 1 root root 140M 8月  22 23:00 nginx.tar

[root@centos7 ~]# mkdir data
[root@centos7 ~]# tar -xf nginx.tar -C data/
[root@centos7 ~]# ll data/
总用量 16
drwxr-xr-x 2 root root   50 8月   2 13:17 0b71b9002c2056073a621264c914f1778296599761548ff1e34d39dc883ed029
drwxr-xr-x 2 root root   50 8月   2 13:17 19dee729285a1f8f34b15874db48c7b4b60f6041914f2cad9b1de169795de836
drwxr-xr-x 2 root root   50 8月   2 13:17 1c65531519b901e0508c411808f7dc2497a6549926bda748896f59aaddc4eed4
drwxr-xr-x 2 root root   50 8月   2 13:17 6387aff546d7c159c6e082ea910391bc9c331ff19f75c73d45780def09a8c989
drwxr-xr-x 2 root root   50 8月   2 13:17 75e6a412e4bda1a8b9e5690c6f8c218c0649ca965207ff15f4f2e114e859ec86
-rw-r--r-- 1 root root 7653 8月   2 13:17 b692a91e4e1582db97076184dae0b2f4a7a86b68c4fe6f91affa50ae06369bf5.json
drwxr-xr-x 2 root root   50 8月   2 13:17 e9bee565b6a50b23d35427abf3f6756a842c5d75d3c8e3d63f412cb3dae90409
-rw-r--r-- 1 root root  586 1月   1 1970 manifest.json
-rw-r--r-- 1 root root   88 1月   1 1970 repositories

[root@centos7 ~]# cat data/manifest.json
[{"Config":"b692a91e4e1582db97076184dae0b2f4a7a86b68c4fe6f91affa50ae06369bf5.json","RepoTags":["nginx:latest"],"Layers":["1c65531519b901e0508c411808f7dc2497a6549926bda748896f59aaddc4eed4/layer.tar","e9bee565b6a50b23d35427abf3f6756a842c5d75d3c8e3d63f412cb3dae90409/layer.tar","6387aff546d7c159c6e082ea910391bc9c331ff19f75c73d45780def09a8c989/layer.tar","75e6a412e4bda1a8b9e5690c6f8c218c0649ca965207ff15f4f2e114e859ec86/layer.tar","0b71b9002c2056073a621264c914f1778296599761548ff1e34d39dc883ed029/layer.tar","19dee729285a1f8f34b15874db48c7b4b60f6041914f2cad9b1de169795de836/layer.tar"]}]

[root@centos7 ~]# du -sh data/*
12Kdata/0b71b9002c2056073a621264c914f1778296599761548ff1e34d39dc883ed029
16Kdata/19dee729285a1f8f34b15874db48c7b4b60f6041914f2cad9b1de169795de836
80Mdata/1c65531519b901e0508c411808f7dc2497a6549926bda748896f59aaddc4eed4
12Kdata/6387aff546d7c159c6e082ea910391bc9c331ff19f75c73d45780def09a8c989
12Kdata/75e6a412e4bda1a8b9e5690c6f8c218c0649ca965207ff15f4f2e114e859ec86
8.0Kdata/b692a91e4e1582db97076184dae0b2f4a7a86b68c4fe6f91affa50ae06369bf5.json
60Mdata/e9bee565b6a50b23d35427abf3f6756a842c5d75d3c8e3d63f412cb3dae90409
4.0Kdata/manifest.json
4.0Kdata/repositories

搜索镜像

官网：https://hub.docker.com

执行docker search命令进行搜索

Usage:docker search [OPTIONS] TERM

Options:
-f, --filter filterFilter output based on conditions provided
--format stringPretty-print search using a Go template
--limit intMax number of search results(default 25)

说明：
OFFICIAL：官方
AUTOMATED：使用第三方docker服务来帮助编译镜像，可以在互联网上面直接拉取到镜像，减少了繁琐的编译过程

例：查找centos镜像

[root@centos7 ~]# docker search centos
NAME                                         DESCRIPTION                                     STARS     OFFICIAL   AUTOMATED
centos                                       The official build of CentOS.                   7288      [OK]
kasmweb/centos-7-desktop                     CentOS 7 desktop for Kasm Workspaces            24
couchbase/centos7-systemd                    centos7-systemd images with additional debug…   4                    [OK]
dokken/centos-7                              CentOS 7 image for kitchen-dokken               3
continuumio/centos5_gcc5_base                                                                3
dokken/centos-stream-9                                                                       2
dokken/centos-stream-8                                                                       2
spack/centos7                                CentOS 7 with Spack preinstalled                1
spack/centos6                                CentOS 6 with Spack preinstalled                1
datadog/centos-i386                                                                          0
dokken/centos-6                              CentOS 6 image for kitchen-dokken               0
ustclug/centos                               Official CentOS Image with USTC Mirror          0
dokken/centos-8                              CentOS 8 image for kitchen-dokken               0
corpusops/centos-bare                        https://github.com/corpusops/docker-images/     0
bitnami/centos-extras-base                                                                   0
corpusops/centos                             centos corpusops baseimage                      0
couchbase/centos-72-java-sdk                                                                 0
couchbase/centos-72-jenkins-core                                                             0
couchbase/centos-70-sdk-build                                                                0
bitnami/centos-base-buildpack                Centos base compilation image                   0                    [OK]
couchbase/centos-69-sdk-nodevtoolset-build                                                   0
fnndsc/centos-python3                        Source for a slim Centos-based Python3 image…   0                    [OK]
couchbase/centos-69-sdk-build                                                                0
dokken/centos-5                              EOL DISTRO: For use with kitchen-dokken, Bas…   0
spack/centos-stream                                                                          0

搜索点赞100个以上的镜像

[root@centos7 ~]# docker search --filter=stars=100 centos
NAME      DESCRIPTION                     STARS     OFFICIAL   AUTOMATED
centos    The official build of CentOS.   7288      [OK]

alpine介绍

Alpine操作系统是一个面向安全的轻型Linux发行版。它不同于通常Linux发行版Alpine采用了musl libc 和 busybox以减小系统的体积和运行时资源消耗，但功能上比busybox又完善的多，因此得到开源社区越来也多的青睐。在保持瘦身的同时，Alpine还提供了自己的包管理工具apk，可以通过https://pkgs.alpinelinux.org/packages 查询包信息，也可以直接通过apk命令直接查询和安装各种软件。

Alpine由非商业组织维护的，支持广泛场景的Linux发行版，它特别为资深/重度Linux用户而优化，关注安全，性能和资源效能。Alpine镜像可以适用于更多常用场景，并且是一个优秀的可以适用于生产的基础系统/环境。

Alpine Docker镜像也继承了Alpine Linux发行版的这些优势。相比于其他Docker镜像，它的容量非常小，仅仅只有5M左右，且拥有非常友好的包管理机制。官方镜像来自docker-alpine项目。

目前Docker官方已开始推荐使用Alpine替代之前的Ubuntu作为基础镜像环境。这样会带来多个好处。包括镜像下载速度加快，镜像安全性提高，主机之间的切换更方便，占用更少磁盘空间等。

下表是官方镜像的大小比较

REPOSITORY   TAG       IMAGE ID       CREATED                  SIZE
debian       latest    dd8bae8d259f   Less than a second ago   124MB
alpine       latest    9c6f07244728   12 days ago              5.54MB
ubuntu       latest    df5de72bdb3b   2 weeks ago              77.8MB
centos       latest    5d0da3dc9764   11 months ago            231MB

Alpine官网：https://www.alpinelinux.org
Alpine官方仓库：https://github.com/alpinelinux
Alpine官方镜像：https://hub.docker.com/_/alpine/
Alpine官方镜像仓库：https://github.com/gliderlabs/docker-alpine
Alpine阿里云镜像仓库：https://mirrors.aliyun.com/alpine/

alpine管理软件

# 修改源替换成阿里源，将里面 dl-cdn.alpinelinux.org 改成 mirrors.aliyun.com
vi /etc/apk/repositories
https://mirrors.aliyun.com/alpine/v3.16/main
https://mirrors.aliyun.com/alpine/v3.16/community

# 更新源
apk update

# 安装软件
apk add vim 

# 删除软件
apk del openssh openntp vim

例：

/ # apk --help
apk-tools 2.12.9, compiled for x86_64.

usage: apk [...] COMMAND [...]

Package installation and removal:
  add        Add packages to WORLD and commit changes
  del        Remove packages from WORLD and commit changes

System maintenance:
  fix        Fix, reinstall or upgrade packages without modifying WORLD
  update     Update repository indexes
  upgrade    Install upgrades available from repositories
  cache      Manage the local package cache

Querying package information:
  info       Give detailed information about packages or repositories
  list       List packages matching a pattern or other criteria
  dot        Render dependencies as graphviz graphs
  policy     Show repository policy for packages
  search     Search for packages by name or description

Repository maintenance:
  index      Create repository index file from packages
  fetch      Download packages from global repositories to a local directory
  manifest   Show checksums of package contents
  verify     Verify package integrity and signature

Miscellaneous:
  audit      Audit system for changes
  stats      Show statistics about repositories and installations
  version    Compare package versions or perform tests on version strings

This apk has coffee making abilities.
For more information: man 8 apk

/ # apk add nginx
(1/2) Installing pcre (8.45-r2)
(2/2) Installing nginx (1.22.0-r1)
Executing nginx-1.22.0-r1.pre-install
Executing nginx-1.22.0-r1.post-install
Executing busybox-1.35.0-r17.trigger
OK: 7 MiB in 16 packages

/ # apk info nginx
nginx-1.22.0-r1 description:
HTTP and reverse proxy server (stable version)

nginx-1.22.0-r1 webpage:
https://www.nginx.org/

nginx-1.22.0-r1 installed size:
1124 KiB

/ # apk manifest nginx
sha1:d21a96358a10b731f8847e6d32799efdc2a7f421  etc/logrotate.d/nginx
sha1:cbf596ddb3433a8e0d325f3c188bec9c1bb746b3  etc/nginx/fastcgi.conf
sha1:da38e2a0dded838afbe0eade6cb837ac30fd8046  etc/nginx/fastcgi_params
sha1:9b85e5091018455091d7f135c4a160ad9487516a  etc/nginx/mime.types
sha1:44195d2ab691d6251a0ac0190aebf7a1c2eea05d  etc/nginx/nginx.conf
sha1:379c1e2a2a5ffb8c91a07328d4c9be2bc58799fd  etc/nginx/scgi_params
sha1:cc2fcdb4605dcac23d59f667889ccbdfdc6e3668  etc/nginx/uwsgi_params
sha1:b56312b641dffaa622d197625f4b867817824475  usr/sbin/nginx
sha1:7b2a4da1a14166442c10cbf9e357fa9fb53542ca  usr/share/nginx/http-default_server.conf
sha1:35db17c18ce0b9f84a3cc113c8a9e94e19f632b1  var/lib/nginx/logs
sha1:c3f02ca81f7f2c6bde3f878b3176f225c7781c7d  var/lib/nginx/modules
sha1:0510312d465b86769136983657df98c1854f0b60  var/lib/nginx/run
sha1:835b9dec419c01420e78602527a9fba8c463521c  var/lib/nginx/html/50x.html
sha1:c51a3f0e6de4eb802d5630941c3fd9e1d0efae4b  var/lib/nginx/html/index.html

Debian(Ubuntu)建议安装的基础包

在很多软件官方提供的镜像都使用的是Debian（Ubuntu）的系统，比如：nginx，tomcat，mysql，httpd等，但镜像内缺少很多常用的调试工具，当需要进入容器内进行调试管理时，可以安装以下常用工具包

apt update# 安装软件钱需要先更新索引
apt install procps# 提供top，ps,free等命令
apt install psmic# 提供pstree,killall等命令
apt install iputils-ping# 提供ping命令
apt install net-tools# 提供netstat网络工具等

下载镜像

从docker仓库下载镜像到本地，命令格式如下

docker pull [OPTION] NAME[:TAG|@GIGEST]
OPTIONS:
-a,--all-tagsDownload all tagged images in the repository
 --disable-content-trustSkip image verification (default true)
 --platform stringSet platform if server is multi-platform capable
 -q,--quitSuppress verbose output
 
NAME:是镜像名，一般的形式  仓库服务器：端口/项目名称/镜像名称
:TAG:即版本号，如果不指定:TAG，则下载最新版镜像

镜像下载说明

[root@centos7 ~]# docker pull hello-world
Using default tag: latest# 默认下载最新版本
latest: Pulling from library/hello-world
2db29710123e: Pull complete# 分层下载
Digest: sha256:7d246653d0511db2a6b2e0436cfd0e52ac8c066000264b3ce63331ac66dca625 # 摘要
Status: Downloaded newer image for hello-world:latest
docker.io/library/hello-world:latest# 下载的完整地址

镜像下载保存的路径：

/var/lib/docker/overlay2/镜像ID

注意：镜像下载完成后，会自动解压缩，比官网显示的可能会大很多，如：centos8.1.1911下载时只有70M，下载完后显示237M

例：从docker官网下载镜像

docker pull hello-world
docker pull alpine
docker pull busybox
docker pull nginx
docker pull centos
docker pull centos:centos7.7.1908
docekr pull docker.io/library/mysql:5.7.29
docker pull mysql:5.6.47

docker镜像加速配置

docker镜像官方的下载站点是：https://hub.docker.com/

从国内下载官方的镜像站点有时候会很慢，因此可以更改docker配置文件添加一个加速器，可以通过加速器达到加速下载镜像的目的。国内有许多公司都提供了docker加速镜像，比如：阿里云，腾讯云，网易云等。

1.安装/升级Docker客户端
推荐安装1.10.0以上版本的Docker客户端，参考文档 docker-ce

2.配置镜像加速器
修改daemon配置文件 /etc/docker/daemon.json
mkdir -p /etc/docker
cat <
{
"registry-mirrors":["https://docker.mirrors.ustc.edu.cn"]
}
EOF

# 网易云：https://hub-mirror.c.163.com/
# 腾讯云：https://mirror.ccs.tencentyun.com

systemctl daemon-reload
systemctl restart docker

查看本地镜像

docker images可以查看下载至本地的镜像

docker images [OPTIONS] [REPOSITORY[:TAG]]
docker image ls [OPTIONS] [REPOSITORY[:TAG]]

# 常用选项
-q,--quietOnly show numberic IDs
-a,--allShow all images (default hides intermediate images)
 --digestsShow digests
 --no-truncDon't truncate output
-f,--filter filterFilter output based on conditions provided
 --format string  Pretty-print images using a Go template

执行结果的显示信息说明

REPOSITORY# 镜像所属的仓库名称
TAG# 镜像版本号（标识符），默认为latest
IMAGE ID# 镜像唯一ID标识，如果ID相同，说明是同一个镜像有多个名称
VREATED# 镜像在仓库中被创建时间
SIZE# 镜像的大小

Repository仓库

由某特定的docker镜像的所有迭代版本组成的镜像仓库
一个Registry中可以存在多个Repository
Repository可分为“顶层仓库”和“用户仓库”
Repository用户仓库名称一般格式为“用户名/仓库名”
每个Repository仓库可以包含多个Tag，每个标签对应一个镜像

镜像导出

利用docker save命令可以将本地镜像导出为一个tar文件，然后复制到其他服务器进行导入使用

docker save [OPTIONS] IMAGE [IMAGE...]

# 选项：
-o,--output string  write to a file,instead of STDOUT

常见用法：

docker save -o /path/file.tar IMAGE1 IMAGE2 ...
docker save IMAGE1 IMAGE2... > /path/file.tar

镜像导入

利用docker load 命令可以将镜像导出的压缩文件再导入

docker load [OPTIONS]

# 选项
-i,--input stringRead from tar archive,instead of STDIN
-q,--quietSuppress the load output

常见用法：

docker load -i /path/file.tar
docker load < /path/file.tar

删除镜像

docker rmi 命令可以删除镜像

docker rmi [OPTIONS] IMAGE [IMAGE...]
docker image rm [OPTIONS] IMAGE [IMAGE...]

# 选项
-f,--forceForce removal of the image
 --no-pruneDo not delete untagged parents

常见用法：

[root@centos7 ~]# docker images
REPOSITORY    TAG              IMAGE ID       CREATED                  SIZE
debian        latest           dd8bae8d259f   Less than a second ago   124MB
alpine        latest           9c6f07244728   13 days ago              5.54MB
ubuntu        latest           df5de72bdb3b   2 weeks ago              77.8MB
hello-world   latest           feb5d9fea6a5   11 months ago            13.3kB
centos        latest           5d0da3dc9764   11 months ago            231MB
centos        centos7.7.1908   08d05d1d5859   2 years ago              204MB

# 根据IMAGE ID删除镜像
[root@centos7 ~]# docker rmi 08d
Untagged: centos:centos7.7.1908
Untagged: centos@sha256:50752af5182c6cd5518e3e91d48f7ff0cba93d5d760a67ac140e2d63c4dd9efc
Deleted: sha256:08d05d1d5859ebcfb3312d246e2082e46cb307f0e896c9ac097185f0b0b19e56
Deleted: sha256:034f282942cd6c3abf9384601a57f080f8f75cc7f58527db8e07573d9d14ab46

# 根据REPOSITORY名称删除镜像
[root@centos7 ~]# docker rmi centos
Untagged: centos:latest
Untagged: centos@sha256:a27fd8080b517143cbbbab9dfb7c8571c40d67d534bbdee55bd6c473f432b177
Deleted: sha256:5d0da3dc976460b72c77d94c8a1ad043720b0416bfc16c52c45d4847e53fadb6
Deleted: sha256:74ddd0ec08fa43d09f32636ba91a0a3053b02cb4627c35051aff89f853606b59

# 删除多个镜像
[root@centos7 ~]# docker rmi debian ubuntu
Untagged: debian:latest
Untagged: debian@sha256:875e4e2bae4d7ff53fe7f3672b15630439479fd10da081477a14208122fe8f31
Deleted: sha256:dd8bae8d259fed93eb54b3bca0adeb647fc07f6ef16745c8ed4144ada4d51a95
Deleted: sha256:655ed1b7a4286ce965b8942644f665a3aeafac315f023b3d75fabdbd4be12dd0
Untagged: ubuntu:latest
Untagged: ubuntu@sha256:34fea4f31bf187bc915536831fd0afc9d214755bf700b5cdb1336c82516d154e
Deleted: sha256:df5de72bdb3b711aba4eca685b1f42c722cc8a1837ed3fbd548a9282af2d836d
Deleted: sha256:629d9dbab5edeac7fa51f205839d7f9bb629a5e83548da3a183fb66c22fe7af7

# 删除所有镜像
[root@centos7 ~]# docker images
REPOSITORY    TAG       IMAGE ID       CREATED         SIZE
alpine        latest    9c6f07244728   13 days ago     5.54MB
hello-world   latest    feb5d9fea6a5   11 months ago   13.3kB
[root@centos7 ~]# docker rmi -f `docker images -q`
Untagged: alpine:latest
Untagged: alpine@sha256:bc41182d7ef5ffc53a40b044e725193bc10142a1243f395ee852a8d9730fc2ad
Deleted: sha256:9c6f0724472873bb50a2ae67a9e7adcb57673a183cea8b06eb778dca859181b5
Deleted: sha256:994393dc58e7931862558d06e46aa2bb17487044f670f310dffe1d24e4d1eec7
Untagged: hello-world:latest
Untagged: hello-world@sha256:7d246653d0511db2a6b2e0436cfd0e52ac8c066000264b3ce63331ac66dca625
Deleted: sha256:feb5d9fea6a5e9606aa995e879d862b825965ba48de054caab5ef356dc6b3412
Deleted: sha256:e07ee1baac5fae6a26f30cabfe54a36d3402f96afda318fe0a96cec4ca393359
[root@centos7 ~]# docker images
REPOSITORY   TAG       IMAGE ID   CREATED   SIZE

镜像打标签

docker tag可以给镜像打标签，类似起别名，但通常要遵守一定的命名规范，才可以上传到指定的仓库

# 格式
docker tag SOURCE_IMAGE[:TAG] TARGET_IMAGE[:TAG]

# TARGET_IMAGE[:TAG]格式一般形式
仓库主机FQDN或IP[:端口]/项目名（或用户名）/image名字:版本

# TAG 默认为latest

**总结：**企业使用镜像及常见操作：搜索、下载、导出、导入、删除

docker search centos
docker pull alpine
docker images
docker save > /opt/centos.tar centos
docker load < /opt/centos.tar
docker rmi 镜像ID/镜像名称

容器操作基础命令

容器相关命令

[root@centos7 ~]# docker container

Usage:  docker container COMMAND

Manage containers

Commands:
  attach      Attach local standard input, output, and error streams to a running container
  commit      Create a new image from a container's changes
  cp          Copy files/folders between a container and the local filesystem
  create      Create a new container
  diff        Inspect changes to files or directories on a container's filesystem
  exec        Run a command in a running container
  export      Export a container's filesystem as a tar archive
  inspect     Display detailed information on one or more containers
  kill        Kill one or more running containers
  logs        Fetch the logs of a container
  ls          List containers
  pause       Pause all processes within one or more containers
  port        List port mappings or a specific mapping for the container
  prune       Remove all stopped containers
  rename      Rename a container
  restart     Restart one or more containers
  rm          Remove one or more containers
  run         Run a command in a new container
  start       Start one or more stopped containers
  stats       Display a live stream of container(s) resource usage statistics
  stop        Stop one or more running containers
  top         Display the running processes of a container
  unpause     Unpause all processes within one or more containers
  update      Update configuration of one or more containers
  wait        Block until one or more containers stop, then print their exit codes

Run 'docker container COMMAND --help' for more information on a command.

启动容器

docker run 可以启动容器，进入到容器，并随机生成容器ID和名称

启动第一个容器

[root@centos7 ~]# docker run hello-world

Hello from Docker!
This message shows that your installation appears to be working correctly.

To generate this message, Docker took the following steps:
 1. The Docker client contacted the Docker daemon.
 2. The Docker daemon pulled the "hello-world" image from the Docker Hub.
    (amd64)
 3. The Docker daemon created a new container from that image which runs the
    executable that produces the output you are currently reading.
 4. The Docker daemon streamed that output to the Docker client, which sent it
    to your terminal.

To try something more ambitious, you can run an Ubuntu container with:
 $ docker run -it ubuntu bash

Share images, automate workflows, and more with a free Docker ID:
 https://hub.docker.com/

For more examples and ideas, visit:
 https://docs.docker.com/get-started/

[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE         COMMAND    CREATED          STATUS                      PORTS     NAMES
46f601445bd8   hello-world   "/hello"   30 seconds ago   Exited (0) 29 seconds ago             festive_sammet
[root@centos7 ~]#

启动容器的流程

启动容器的用法

docker run [选项] [镜像名] [shell命令] [参数]

# 选项
-iKeep STDIN open even if not attached,通常和-t一起用
-t分配 pseudo-TTY，通常和-i一起使用，注意对应容器必须运行shell才支持进入
-d后台运行，默认前台运行
--name string容器名称
--h,--hostname string容器 hostname
--rm容器关闭后自动删除容器
-p list指定要映射的端口到内部容器开放的端口
-P随机映射端口到内部容器开放的端口（49000~49900）
--dns list设置DNS
--entrypoint string运行指令
--restart policy
-e,--env=[]设置环境变量
--env-file=[]

-–restart （容器的重启策略）可以指定四种不同的policy

no，默认策略，在容器退出时不重启容器
no-failure，在容器非正常退出时（退出状态非0），才会重启容器
on-failure=3，在容器非正常退出时重启容器，最多重启3次
always，在容器退出时总是重启容器
unless-stopped，在容器退出时总是重启容器，但是不考虑在Docker守护进程启动时就已经停止的容器

**注意：**容器启动后，如果容器内没有前台运行的进程，将自动退出停止

# 运行容器 启动容器时会自动随机字符作为容器名
[root@centos7 ~]# docker pull alpine
Using default tag: latest
latest: Pulling from library/alpine
59bf1c3509f3: Pull complete
Digest: sha256:21a3deaa0d32a8057914f36584b5288d2e5ecc984380bc0118285c70fa8c9300
Status: Downloaded newer image for alpine:latest
docker.io/library/alpine:latest
[root@centos7 ~]# docker run alpine
[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND     CREATED         STATUS                     PORTS     NAMES
bc5efb3b7f37   alpine    "/bin/sh"   3 seconds ago   Exited (0) 2 seconds ago             elated_villani

# 一次性运行容器中的命令
# 启动容器在执行完shell命令就退出，用于测试
[root@centos7 ~]# docker pull busybox
Using default tag: latest
latest: Pulling from library/busybox
5cc84ad355aa: Pull complete
Digest: sha256:5acba83a746c7608ed544dc1533b87c737a0b0fb730301639a0179f9344b1678
Status: Downloaded newer image for busybox:latest
docker.io/library/busybox:latest
[root@centos7 ~]# docker run busybox echo "Hello chensir"
Hello chensir
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES
[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND                  CREATED          STATUS                      PORTS     NAMES
4ce437d13ae3   busybox   "echo 'Hello chensir'"   17 seconds ago   Exited (0) 17 seconds ago             optimistic_goldberg

# 指定容器名称
[root@centos7 ~]# docker run --name pine alpine
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES
[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND                  CREATED         STATUS                     PORTS     NAMES
9c34dd8204d0   alpine    "/bin/sh"                7 seconds ago   Exited (0) 6 seconds ago             pine

# 运行交互式容器并退出
[root@centos7 ~]# docker run -it busybox sh
/ # exit

# 使用exit退出容器后 容器也停止了
[root@centos7 ~]# docker ps -l
CONTAINER ID   IMAGE     COMMAND   CREATED          STATUS                     PORTS     NAMES
4b3203a20472   busybox   "sh"      10 seconds ago   Exited (0) 3 seconds ago             brave_pascal

[root@centos7 ~]# docker run -it busybox sh
/ # 
# 在容器中 同时按三个键 ctrl+p+q 退出后 容器不会停止
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND   CREATED         STATUS         PORTS     NAMES
6ad4551530b5   busybox   "sh"      9 seconds ago   Up 8 seconds             jolly_mestorf

# 设置容器内的主机名
[root@centos7 ~]# docker run -it --name a1 -h chensir.ink alpine
/ # hostname
chensir.ink
/ # cat /etc/hosts
127.0.0.1localhost
::1localhost ip6-localhost ip6-loopback
fe00::0ip6-localnet
ff00::0ip6-mcastprefix
ff02::1ip6-allnodes
ff02::2ip6-allrouters
172.17.0.3chensir.ink chensir

# 一次性运行容器，退出后立即删除，用于测试
[root@centos7 ~]# docker run --rm alpine cat /etc/issue
Welcome to Alpine Linux 3.15
Kernel \r on an \m (\l)

[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

什么是守护式容器

能够长期运行
无需交互式会话
适合运行应用程序和服务

privileged 选项

大约在0.6版，—–privileged选项被引入docker。使用该参数，container内的root拥有真正的root权限。否则，container内的root只是外部的一个普通用户权限。privileged启动的容器，可以看到很多host上的设备，并且可以执行mount。甚至允许你在docker容器中启动docker容器。

查看容器信息

显示当前存在容器

docker ps [OPTIONS]
docker container ls [OPTIONS]
# 选项
-aShow all containers (default shows just running)
-qOnly display numeric IDs
-sDisplay total file sizes
-fFilter output based on conditions provided
-lShow the latest created container (includes all states)
-nShow n last created containers (includes all states)
(default -1)

示例：

# 显示运行的容器
docker ps

# 显示全部容器，包括退出状态的容器
docker ps -a

# 显示全部容器，包括退出状态的容器的 容器ID
docker ps -aq

# 显示全部容器，包括退出状态的容器的大小
docker ps -as

# 显示最新创建的容器（停止的容器也能显示）
docker ps -l

# 显示指定状态的容器
docker ps -f 'status=exited'
docker ps -f 'status=running'

查看容器内的进程

docker top CONTAINER [PS OPTIONS]

示例：

[root@centos7 ~]# docker run -d httpd
Unable to find image 'httpd:latest' locally
latest: Pulling from library/httpd
a2abf6c4d29d: Already exists
dcc4698797c8: Pull complete
41c22baa66ec: Pull complete
67283bbdd4a0: Pull complete
d982c879c57e: Pull complete
Digest: sha256:0954cc1af252d824860b2c5dc0a10720af2b7a3d3435581ca788dff8480c7b32
Status: Downloaded newer image for httpd:latest
ec9e58e706932e56509ce001191e7b52cd5f16b6b1ec25852a2947872aff3cff
[root@centos7 ~]# docker top ec9
UID            PID            PPID           C              STIME          TTY            TIME           CMD
root           15067          15047          0              04:33          ?              00:00:00       httpd -DFOREGROUND
33             15094          15067          0              04:33          ?              00:00:00       httpd -DFOREGROUND
33             15095          15067          0              04:33          ?              00:00:00       httpd -DFOREGROUND
33             15096          15067          0              04:33          ?              00:00:00       httpd -DFOREGROUND

查看容器资源使用情况

docker stats [OPTIONS] [CONTAINER...]

# 选项
-a,--allShow all containers (default shows just running)
 --format stringPretty-print images using a Go template
 --no-streamDisable streaming stats and only pull the first result
 --no-truncDo not truncate output

查看容器的详细信息

docker inspect 可以查看docker各种对象的详细信息，包括：镜像，容器，网络等

docker inspect [OPTIONS] NAME|ID [NAME|ID...]
# 选项
-f string  Format the output using the given Go trmplate
-s         Display total file sizes if the type is container

删除容器

docker rm 可以删除容器

docker rm [OPTIONS] CONTAINER [CONTAINER...]
docker container rm [OPTIONS] CONTAINER [CONTAINER...]
# 选项
-f      Force the removal of a running container (uses SIGKILL)
-vRemove

示例：

# 删除所有的容器
docker rm -f `docker ps -aq`

# 删除指定状态的容器
docker rm -f `docker ps -qf status=exited`

# 删除所有停止的容器
docker container prune -f

容器的启动和停止

docker start|stop|restart|pause|unpause 容器ID

# 批量正常启动或关闭所有容器
docker start `docker ps -qa`
docker stop `docker ps -qa`

给正在运行的容器发信号

docekr kill 可以给容器发信号，默认SIGKILL，即9

docker kill [OPTIONS] CONTAINER [CONTAINER...]
# 选项
-s string Signal to send to the container (default "KILL")

示例：

# 关闭容器
docker kill nginx

# 强制关闭所有容器
docker kill `docker ps -qa`

进入正在运行的容器

使用attach命令

docker attach 容器名，attach类似于vnc，操作会在同一个容器的多个会话界面同步显示，所有使用此方式进入容器的操作都是同步显示的，且使用exit退出后容器自动关闭，不推荐使用，需要进入到有shell环境的容器

使用exec命令

在运行中的容器启动新进程可以执行单次命令及进入容器，测试环境使用此方式，使用exit退出，容器还在运行，推荐此方式

docker exec [OPTIONS] CONTAINER COMMAND [ARG...]

# 常用选项
-dDetached mode:run command in the background
-eSet environment variables
-iKeep STDIN open even if not attached
-tAllocate a psedu-TTY

# 常见用法
docker exec -it 容器ID sh|bash

使用nsenter命令

nsenter命令需要通过PID进入到容器内部，且退出后仍能正常运行，不过需要事先使用docker inspect 获取到容器的PID，目前凡是使用较少，此工具来自于until-linux包

# 安装nsenter命令
yum install -y util-linux

# 获取容器的IP
docker inspect -f "{{.NetworkSettings.IPAddress}}" 容器ID

# 获取容器的PID，通过PID进入到容器内
docker inspect -f "{{.State.Pid}}" 容器ID
nsenter -t Pid -m -u -i -n -p

脚本方式

将nsenter命令写入到脚本进行调用，方便进入容器看日志或排错

cat docker-in.sh
#!/bin/bash
docker_in(){
NAME_ID=$1
PID=$(docker inspect -f "{{.State.Pid}}" ${NAME_ID})
nsenter -t ${PID} -m -u -i -n -p
}
docker_in $1

示例

[root@centos7 ~]# vim docker-in.sh
[root@centos7 ~]# cat docker-in.sh
#!/bin/bash
docker_in(){
NAME_ID=$1
PID=$(docker inspect -f "{{.State.Pid}}" ${NAME_ID})
nsenter -t ${PID} -m -u -i -n -p
}
docker_in $1
[root@centos7 ~]# chmod +x docker-in.sh
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND                  CREATED          STATUS          PORTS     NAMES
fd056baa9925   nginx     "/docker-entrypoint.…"   39 minutes ago   Up 38 minutes   80/tcp    nginx03
4fb4c31a6342   nginx     "/docker-entrypoint.…"   39 minutes ago   Up 38 minutes   80/tcp    nginx01
[root@centos7 ~]# ./docker-in.sh fd05
root@fd056baa9925:/# exit
logout
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND                  CREATED          STATUS          PORTS     NAMES
fd056baa9925   nginx     "/docker-entrypoint.…"   40 minutes ago   Up 39 minutes   80/tcp    nginx03
4fb4c31a6342   nginx     "/docker-entrypoint.…"   40 minutes ago   Up 39 minutes   80/tcp    nginx01

暴露所有容器端口

容器启动后，默认处于预定义的NAT网络中，所以外部网络的主机无法直接访问容器中网络服务

docker run -P 可以将事先容器预定义的所有端口映射宿主机的网卡的随机端口

使用随机端口时，当停止容器后在启动可能会导致端口发生变化

# 示例 映射容器所有暴露端口至随机本地端口
docker run -d -P nginx

docker port 可以查看容器的端口映射关系

docker port CONTAINER [PRIVATE_PORT[/PROTO]]

# 示例
docker port nginx01
docker port nginx01 53/udp

指定端口映射

docker run -p 可以将容器的预定义的指定端口映射到宿主机的相应端口

注意：多个容器映射到宿主机端口不能冲突，但容器内使用的端口可以相同

# 方式1：容器80端口映射到宿主机本地随机端口
docker run -p 80 --name nginx-test-port1 nginx

# 方式2：容器80端口映射到宿主机本地端口81
docker run -p 81:80 --name nginx-test-port2 nginx

# 方式3：宿主机本地IP：宿主机本地端口：容器端口
docker run -p 10.0.0.100:82:80 --name nginx-test-port3 nginx

# 方式4：宿主机本地IP：苏知机本地随机端口：容器端口
docker run -p 10.0.0.100::80 --name nginx-test-port4 nginx

# 方式5：宿主机本机IP：宿主机本地端口：容器端口/协议，默认为tcp协议
docker run -p 10.0.0.100:83:80/udp --name nginx-test-port5 nginx

# 方式6：一次映射多个端口+协议
docker run -p 8080:80/tcp -p 8443:443/tcp -p 53:53/udp --name-test-port6 nginx

修改已经创建的容器的端口映射关系

[root@centos7 ~]# docker run -d -p 80:80 --name nginx01 nginx
cd1db7f176806254fdf3089f32fcbd0094ec376ea3d8d4e481093cad353d9d48
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND                  CREATED         STATUS         PORTS                               NAMES
cd1db7f17680   nginx     "/docker-entrypoint.…"   2 minutes ago   Up 2 minutes   0.0.0.0:80->80/tcp, :::80->80/tcp   nginx01
[root@centos7 ~]# ll /var/lib/docker/containers/cd1db7f176806254fdf3089f32fcbd0094ec376ea3d8d4e481093cad353d9d48/
总用量 28
-rw-r----- 1 root root 2302 8月  23 08:29 cd1db7f176806254fdf3089f32fcbd0094ec376ea3d8d4e481093cad353d9d48-json.log
drwx------ 2 root root    6 8月  23 08:29 checkpoints
-rw------- 1 root root 2904 8月  23 08:29 config.v2.json
-rw-r--r-- 1 root root 1512 8月  23 08:29 hostconfig.json
-rw-r--r-- 1 root root   13 8月  23 08:29 hostname
-rw-r--r-- 1 root root  174 8月  23 08:29 hosts
drwx--x--- 2 root root    6 8月  23 08:29 mounts
-rw-r--r-- 1 root root   69 8月  23 08:29 resolv.conf
-rw-r--r-- 1 root root   71 8月  23 08:29 resolv.conf.hash
[root@centos7 ~]# systemctl stop docker
[root@centos7 ~]# vim /var/lib/docker/containers/cd1db7f176806254fdf3089f32fcbd0094ec376ea3d8d4e481093cad353d9d48/hostconfig.json
"PortBindings":{"80/tcp":[{"HostIp":"","HostPort":"80"}]}
# PortBindings 后面的 80/tcp 对应的是容器内部的80端口，HostPort对应的是映射到宿主机的端口80，修改此处为8000
"PortBindings":{"80/tcp":[{"HostIp":"","HostPort":"8000"}]}
[root@centos7 ~]# systemctl start docker
[root@centos7 ~]# docker port nginx01
80/tcp -> 0.0.0.0:8000
80/tcp -> :::8000

查看容器的日志

docker logs 可以查看容器中运行的进程在控制台输出的日志信息

格式

docker logs [OPTIONS] CONTAINER
# 选项：
--detailsShow extra details provided to logs
-f,--followFollow log output
--since stringShow logs since timestamp
--tail stringNumber of lines to show from the end of the logs (default "all")
-t,--timestampsShow timestamps
--until stringShow logs before a timestamp

示例

# 查看所有日志
docker logs 容器ID

# 查看倒数几行的日志
docker logs --tail 行数 容器ID

# 显示日志时间
docker logs --tail 行数 -t  容器ID

# 持续跟踪日志
docker logs -f 容器ID

传递运行命令

容器需要有一个前台运行的进程才能保持容器的运行，通过传递运行参数是一种方式，另外也可以在构建镜像的时候指定容器启动时运行的前台命令

容器里的PID为1的守护进程的实现方式

服务类：如：Nginx，Tomcat，Apache，但服务不能停
命令类：如：tail -f /etc/hosts，主要用于测试环境，注意 tail -f <服务访问日志>会产生不必要的磁盘IO

[root@centos7 ~]# docker run -d alpine
fc8dc5bee8367725a759f15417316a619b098af88f1ad7f7113fa314dd6e3f34
[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND     CREATED         STATUS                     PORTS     NAMES
fc8dc5bee836   alpine    "/bin/sh"   6 seconds ago   Exited (0) 5 seconds ago             exciting_chebyshev
[root@centos7 ~]# docker run -d alpine tail -f /etc/hosts
05a4c6863bcc9d7c4b9f0abeec2316a9cce0f0e3f2aeb37bfa57fcd2bcdf8d52
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND                CREATED         STATUS        PORTS     NAMES
05a4c6863bcc   alpine    "tail -f /etc/hosts"   2 seconds ago   Up 1 second             vigilant_lumiere
[root@centos7 ~]# docker exec -it 05a sh
/ # ps aux
PID   USER     TIME  COMMAND
    1 root      0:00 tail -f /etc/hosts
    7 root      0:00 sh
   13 root      0:00 ps aux
[root@centos7 ~]# docker ps -a
CONTAINER ID   IMAGE     COMMAND                CREATED              STATUS                          PORTS     NAMES
05a4c6863bcc   alpine    "tail -f /etc/hosts"   About a minute ago   Up About a minute                         vigilant_lumiere

容器内部的hosts文件

容器会自动将容器的ID加入自己的/etc/hosts文件中，并解析成容器的IP

[root@centos7 ~]# docker run -it centos /bin/bash
[root@8f4c940da642 /]# cat /etc/hosts
127.0.0.1localhost
::1localhost ip6-localhost ip6-loopback
fe00::0ip6-localnet
ff00::0ip6-mcastprefix
ff02::1ip6-allnodes
ff02::2ip6-allrouters
172.17.0.38f4c940da642  # 默认会将实例的ID 添加到自己的hosts文件
[root@8f4c940da642 /]# hostname
8f4c940da642
[root@8f4c940da642 /]# ping 8f4c940da642
PING 8f4c940da642 (172.17.0.3) 56(84) bytes of data.
64 bytes from 8f4c940da642 (172.17.0.3): icmp_seq=1 ttl=64 time=0.071 ms
64 bytes from 8f4c940da642 (172.17.0.3): icmp_seq=2 ttl=64 time=0.059 ms
64 bytes from 8f4c940da642 (172.17.0.3): icmp_seq=3 ttl=64 time=0.058 ms
^C
--- 8f4c940da642 ping statistics ---
3 packets transmitted, 3 received, 0% packet loss, time 2005ms
rtt min/avg/max/mdev = 0.058/0.062/0.071/0.010 ms

# 修改容器的hosts文件
[root@centos7 ~]# docker run -it --rm --add-host chensir.ink:8.8.8.8 --add-host chensir.com:6.6.6.6 busybox
/ # cat /etc/hosts
127.0.0.1localhost
::1localhost ip6-localhost ip6-loopback
fe00::0ip6-localnet
ff00::0ip6-mcastprefix
ff02::1ip6-allnodes
ff02::2ip6-allrouters
8.8.8.8chensir.ink
6.6.6.6chensir.com
172.17.0.44397ad2a1497
/ # ping chensir.ink
PING chensir.ink (8.8.8.8): 56 data bytes
64 bytes from 8.8.8.8: seq=0 ttl=127 time=70.911 ms
64 bytes from 8.8.8.8: seq=1 ttl=127 time=69.407 ms
64 bytes from 8.8.8.8: seq=2 ttl=127 time=64.564 ms
64 bytes from 8.8.8.8: seq=3 ttl=127 time=69.504 ms
^C
--- chensir.ink ping statistics ---
4 packets transmitted, 4 packets received, 0% packet loss
round-trip min/avg/max = 64.564/68.596/70.911 ms
/ # ping chensir.com
PING chensir.com (6.6.6.6): 56 data bytes
^C
--- chensir.com ping statistics ---
2 packets transmitted, 0 packets received, 100% packet loss

指定容器DNS

容器的dns服务器，采用宿主机的dns地址，可以用下面方式指定其他的DNS地址

将dns地址配置在宿主机
在容器启动时加选项 --dns=x.x.x.x
在/etc/docker/daemon.json 文件中指定

# 容器的DNS默认从宿主机的DNS获取
[root@centos7 ~]# cat /etc/resolv.conf
# Generated by NetworkManager
search localdomain
nameserver 10.0.0.1
[root@centos7 ~]#
[root@centos7 ~]# docker run -it --rm centos sh
sh-4.4# cat /etc/resolv.conf
# Generated by NetworkManager
search localdomain
nameserver 10.0.0.1

# 指定DNS地址
[root@centos7 ~]# docker run -it --rm --dns 1.1.1.1 --dns 8.8.8.8 centos bash
[root@3e9468f64df2 /]# cat /etc/resolv.conf
search localdomain
nameserver 1.1.1.1
nameserver 8.8.8.8

# 指定domain名
[root@centos7 ~]# docker run -it --rm --dns 1.1.1.1 --dns 8.8.8.8 --dns-search a.com --dns-search b.com busybox
/ # cat /etc/resolv.conf
search a.com b.com
nameserver 1.1.1.1
nameserver 8.8.8.8

# 配置文件指定DNS和搜索domain名
[root@centos7 ~]# vim /etc/docker/daemon.json
{
  "storage-driver": "overlay2",
  "registry-mirrors": [
    "https://docker.mirrors.ustc.edu.cn"
  ],
  "dns": [
    "114.114.114.114",
    "8.8.8.8"
  ],
  "dns-search": [
    "chensir.ink",
    "chensir.xyz"
  ]
}
[root@centos7 ~]# systemctl restart docker
[root@centos7 ~]# cat /etc/resolv.conf
# Generated by NetworkManager
search localdomain
nameserver 10.0.0.1
[root@centos7 ~]# docker run -it centos bash
[root@8d3436934bb1 /]# cat /etc/resolv.conf
search chensir.ink chensir.xyz
nameserver 114.114.114.114
nameserver 8.8.8.8

# 用--dns指定优先级高
[root@centos7 ~]# docker run -it --rm --dns 8.8.4.4 centos bash
c[root@61c97fb7deb7 /]# cat /etc/resolv.conf
search chensir.ink chensir.xyz
nameserver 8.8.4.4

容器内和宿主机之间复制文件

docker cp [OPTION] CONTAINER:SRC_PATH DEST_PATH|-
dpcker cp [OPTION] SRC_PATH|- CONTAINER:DEST_PATH
Options:
-a,--archiveArchive mode (copy all uid/gid information)
-L,--follow-linkAlways follow symbol link in SRC_PATH

使用systemd控制容器运行

[root@centos7 ~]# vim /etc/systemd/system/hello.service
[Unit]
Description=Hello world
Description=Hello world
After=docker.service
Requires=docker.service
[Service]
TimeoutStartSec=0
ExecStartPre=-/usr/bin/docker kill busybox-hello
ExecStartPre=-/usr/bin/docker rm busybox-hello
ExecStartPre=-/usr/bin/docker pull busybox
ExecStart=/usr/bin/docker run --name busybox-hello busybox /bin/sh -c "while true;do echo Hello world; sleep 1; done"
ExecStop=/usr/bin/docker kill busybox-hello
[Install]
wantedBy=multi-user.target

[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl enable --now hello.service

传递环境变量

有些容器运行时，需要传递变量，可以使用 -e <参数> 或 - - env-file <参数文件> 实现

[root@centos7 ~]# docker run --name mysql01 mysql:5.7.31
WARNING: IPv4 forwarding is disabled. Networking will not work.
2022-08-23 02:08:23+00:00 [Note] [Entrypoint]: Entrypoint script for MySQL Server 5.7.31-1debian10 started.
2022-08-23 02:08:23+00:00 [Note] [Entrypoint]: Switching to dedicated user 'mysql'
2022-08-23 02:08:23+00:00 [Note] [Entrypoint]: Entrypoint script for MySQL Server 5.7.31-1debian10 started.
2022-08-23 02:08:23+00:00 [ERROR] [Entrypoint]: Database is uninitialized and password option is not specified
You need to specify one of MYSQL_ROOT_PASSWORD, MYSQL_ALLOW_EMPTY_PASSWORD and MYSQL_RANDOM_ROOT_PASSWORD

[root@centos7 ~]# docker run --name mysql-test1 -v /data/mysql:/var/lib/mysql -e MYSQL_ROOT_PASSWORD=123456 -e MYSQL_DATABASE=wordpress -e MYSQL_USER=wpuser -e MYSQL_PASSWORD=123456 -d -p 3306:3306 mysql:5.7.31
WARNING: IPv4 forwarding is disabled. Networking will not work.
ba743ba4068b36c7b2ff804decbb0c5f22aaa8ab0b20ce8bc4c4380ccc990674

[root@centos7 ~]# docker run --name mysql-test2 -v /root/mysql/:/etc/conf.d -v /data/mysql2:/var/lib/mysql --env-file=env.list -d -p 3307:33077 mysql:5.7.31

[root@centos7 ~]# cat /root/mysql/mysql-test.cnf
[mysqld]
server-id=100
log-bin=mysql-bin

[root@centos7 ~]# cat env.list
MYSQL_ROOT_PASSWORD=123456
MYSQL_DATABASE=wordpress
MYSQL_USER=wpuser
MYSQL_PASSWORD=wppass

Docker镜像制作和管理

Docker镜像说明

Docker镜像中有没有内核

从镜像大小上来说，一个比较小的镜像只有1M多点或者几M，而内核文件需要几十M，因此镜像里面是没有内核的，镜像在被启动为容器后将直接使用宿主机的内核，而镜像本身则只提供相应的rootfs，即系统正常运行所必须的用户空间的文件系统，比如：/dev/，/proc，/bin，/etc等目录，容器当中/boot目录时空的，而/boot当中保存的就是与内核相关的文件和目录。

为什么没有内核

由于容器启动和运行过程中是直接使用了宿主机的内核，不会直接调用物理硬件，所以不会涉及到硬件驱动，因此也无需容器内拥有自己的内核和驱动。而如果使用虚拟机技术，对应每个虚拟机都有自己独立的内核。

容器中的程序后台运行会导致此容器启动后立即退出

Docker容器如果希望启动后能持续运行，就必须有一个能前台持续运行的进程，如果在容器中启动系统的服务，如：httpd，php-fpm等均为后台进程模式运行，就导致docker在前台没有运行的应用，这样的容器启动后会立即退出。所以一般会将服务程序以前台方式运行，对于有一些可能不知道怎么实现前台运行的程序，只需要在你启动的该程序之后添加类似于tail，top这种可以前台运行的程序即可。比较常用的方法，如 tail -f /etc/hosts 。

# httpd
ENTRYPOINT ["/usr/sbin/apache2"]
CMD ["-D","FOREGROUND"]

# nginx
ENTRYPOINT ["/usr/sbin/nginx","-g","daemon off;"]

# 用脚本运行容器
cat run_haproxy.sh
#!/bin/bash
haproxy -f /etc/haproxy/haproxy.cfg
tail -f /etc/hosts

tail -n1 Dockerfile
CMD ["run_haproxy.sh"]

docker镜像生命周期

制作镜像方式

Docker镜像制作类似于虚拟机的镜像（模板）制作，即按照公司的实际业务需求将需要安装的软件、相关配置等基础环境配置完成，然后将其做成镜像，最后再从镜像批量生成容器实例，这样可以极大的简化相同环境的部署工作

Docker的镜像制作分为手动制作（基于容器）和自动制作（基于Dockerfile），企业通常都是基于Dockerfile制作镜像

# 通过修改现有容器，将之手动构建为镜像
docker commit

# 通过Dockerfile文件，批量构建为镜像
docker build

将现有容器通过docker commit手动构建镜像

基于容器手动制作镜像步骤

docker commit

docker commit [OPTION] CONTAINER [REPOSITORY[:TAG]]
# 选项
-a,--author stringAuthor
-c,--change listApply Dockerfile instruction to the created image
-m,--message stringCommit message
-p,--pausePause container during commit (default true)

# 说明
制作镜像和CONTAINER状态无关，停止状态也可以制作镜像
如果没有指定[REPOSITORY[:TAG]]，REPOSITORY和TAG都为
提交的时候标记TAG号：生产中常用，后期可以根据TAG标记创建不同版本的镜像以及创建不同版本的容器

基于容器手动制作镜像步骤具体如下：

1.下载一个系统的官方基础镜像，如：CentOS 或 Ubuntu

2.基于基础镜像启动一个容器，并进入到容器

3.在容器里面做配置操作

安装基础命令
配置运行环境
安装服务和配置服务
放业务程序和代码

4.提交为一个新镜像 docker commit

5.基于自己的镜像创建容器并测试访问

基于busybox制作httpd镜像

[root@centos7 ~]# docker run -it --name b1 busybox
WARNING: IPv4 forwarding is disabled. Networking will not work.
/ # ls
bin   dev   etc   home  proc  root  sys   tmp   usr   var
/ # mkdir /data/html -p
/ # echo httpd website in busybox > /data/html/index.html
/ # httpd --help
BusyBox v1.34.1 (2021-12-29 21:12:15 UTC) multi-call binary.

Usage: httpd [-ifv[v]] [-c CONFFILE] [-p [IP:]PORT] [-u USER[:GRP]] [-r REALM] [-h HOME]
or httpd -d/-e/-m STRING

Listen for incoming HTTP requests

-iInetd mode
-fDon't daemonize
-v[v]Verbose
-p [IP:]PORTBind to IP:PORT (default *:80)
-u USER[:GRP]Set uid/gid after binding to port
-r REALMAuthentication Realm for Basic Authentication
-h HOMEHome directory (default .)
-c FILEConfiguration file (default {/etc,HOME}/httpd.conf)
-m STRINGMD5 crypt STRING
-e STRINGHTML encode STRING
-d STRINGURL decode STRING
/ # exit

# 格式1：
[root@centos7 ~]# docker commit -a "chensir" -c 'CMD /bin/httpd -fv -h /data/html' -c "EXPOSE 80" b1 httpd-busybox:v1.0
sha256:0b59f1b5b2b1dca5f0386098a558b09593f652761c8a40e8723abdba2a0b43ce
[root@centos7 ~]# docker images
REPOSITORY      TAG       IMAGE ID       CREATED         SIZE
httpd-busybox   v1.0      0b59f1b5b2b1   4 seconds ago   1.24MB

# 格式2：
[root@centos7 ~]# docker commit -a "chensir" -c 'CMD ["/bin/httpd","-f","-v","-h","/data/html"]' -c "EXPOSE 80" b1 httpd-busybox:v1.0
sha256:4100f91eb2e4949651fa401949791c746e34ae65e35fdbf456aa3bd55d703c72

[root@centos7 ~]# docker run -d -P --name httpd01 httpd-busybox:v1.0
WARNING: IPv4 forwarding is disabled. Networking will not work.
5a68de75aa05b374faeef9e08de92ffa3679cfaa240700f6ff1614576e24f3c4
[root@centos7 ~]# docker port httpd01
80/tcp -> 0.0.0.0:49157
80/tcp -> :::49157
[root@centos7 ~]# docker inspect -f "{{.NetworkSettings.Networks.bridge.IPAddress}}" httpd01
172.17.0.2

# 对应格式1
[root@centos7 ~]# docker inspect -f "{{.Config.Cmd}}" httpd01
[/bin/sh -c /bin/httpd -fv -h /data/html]

# 对应格式2
[root@centos7 ~]# docker inspect -f "{{.Config.Cmd}}" httpd01
[/bin/httpd -f -v -h /data/html]

[root@centos7 ~]# docker exec -it httpd01 sh
/ # pstree -p
httpd(1)
/ # ps aux
PID   USER     TIME  COMMAND
    1 root      0:00 /bin/httpd -f -v -h /data/html
    8 root      0:00 sh
   14 root      0:00 ps aux
/ # read escape sequence
[root@centos7 ~]# curl 172.17.0.2
httpd website in busybox
[root@centos7 ~]# curl 127.0.0.1:49157
httpd website in busybox
[root@centos7 ~]# docker commit -a "chensir" b1 httpd-busybox:v2.0
sha256:b83d0a45c90bbfc368b57629af1985ec3f6d4bf05b870650fd7b73eb72c9771a
[root@centos7 ~]# docker images
REPOSITORY      TAG       IMAGE ID       CREATED          SIZE
httpd-busybox   v2.0      b83d0a45c90b   6 seconds ago    1.24MB
httpd-busybox   v1.0      fc393ccc5dd0   16 minutes ago   1.24MB
[root@centos7 ~]# docker run -d --name web2 -p 81:80 httpd-busybox:v2.0 /bin/httpd -fv -h /date/html
WARNING: IPv4 forwarding is disabled. Networking will not work.
ef52ca935dc26a7283bc5a9de537f8fb1540de81f12729356c011041744fb6b0

基于官方镜像生成的容器制作tomcat镜像

下载官方的tomcat镜像并运行

[root@centos7 ~]# docker images
REPOSITORY   TAG       IMAGE ID   CREATED   SIZE
[root@centos7 ~]# docker run -d -p 8080:8080 tomcat
Unable to find image 'tomcat:latest' locally
latest: Pulling from library/tomcat
0e29546d541c: Pull complete
9b829c73b52b: Pull complete
cb5b7ae36172: Pull complete
6494e4811622: Pull complete
668f6fcc5fa5: Pull complete
dc120c3e0290: Pull complete
8f7c0eebb7b1: Pull complete
77b694f83996: Pull complete
0f611256ec3a: Pull complete
4f25def12f23: Pull complete
Digest: sha256:9dee185c3b161cdfede1f5e35e8b56ebc9de88ed3a79526939701f3537a52324
Status: Downloaded newer image for tomcat:latest
WARNING: IPv4 forwarding is disabled. Networking will not work.
38cedc776327713d0d3081ddc26f0097b4f2b5a0981cc08a9afdfc0056e24434
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND             CREATED         STATUS         PORTS                                       NAMES
38cedc776327   tomcat    "catalina.sh run"   2 minutes ago   Up 2 minutes   0.0.0.0:8080->8080/tcp, :::8080->8080/tcp   gracious_booth
[root@centos7 ~]# curl -I 127.0.0.1:8080
HTTP/1.1 404
Content-Type: text/html;charset=utf-8
Content-Language: en
Transfer-Encoding: chunked
Date: Tue, 23 Aug 2022 15:47:57 GMT

修改容器

[root@centos7 ~]# docker exec -it 38c bash
root@38cedc776327:/usr/local/tomcat# ls
BUILDING.txt LICENSE  README.md RUNNING.txt  conf  logs    temp     webapps.dist
CONTRIBUTING.md  NOTICE   RELEASE-NOTES  bin      lib   native-jni-lib  webapps  work
root@38cedc776327:/usr/local/tomcat# ls webapps
root@38cedc776327:/usr/local/tomcat# ls webapps.dist/
ROOT  docs  examples  host-manager  manager
root@38cedc776327:/usr/local/tomcat# cp -a webapps.dist/* webapps/
root@38cedc776327:/usr/local/tomcat# ls webapps
ROOT  docs  examples  host-manager  manager
root@38cedc776327:/usr/local/tomcat# exit
exit
[root@centos7 ~]# curl -I 127.0.0.1:8080
HTTP/1.1 200
Content-Type: text/html;charset=UTF-8
Transfer-Encoding: chunked
Date: Tue, 23 Aug 2022 15:52:21 GMT

提交新镜像

[root@centos7 ~]# docker commit -m "add webapps app" -a "chensir" 38c tomcat:9.0.37-v1
sha256:399beff7540e7ade5ec2f34a794a3e972351dd66b2ccab1fb73604d7a1b3518f
[root@centos7 ~]# docker images
REPOSITORY   TAG         IMAGE ID       CREATED         SIZE
tomcat       9.0.37-v1   399beff7540e   4 seconds ago   684MB
tomcat       latest      fb5657adc892   8 months ago    680MB
[root@centos7 ~]# docker history tomcat:9.0.37-v1
IMAGE          CREATED          CREATED BY                                      SIZE      COMMENT
399beff7540e   43 seconds ago   catalina.sh run                                 4.43MB    add webapps app
fb5657adc892   8 months ago     /bin/sh -c #(nop)  CMD ["catalina.sh" "run"]    0B
      8 months ago     /bin/sh -c #(nop)  EXPOSE 8080                  0B
      8 months ago     /bin/sh -c set -eux;  nativeLines="$(catalin…   0B
      8 months ago     /bin/sh -c set -eux;   savedAptMark="$(apt-m…   20.2MB
      8 months ago     /bin/sh -c #(nop)  ENV TOMCAT_SHA512=c2d2ad5…   0B
      8 months ago     /bin/sh -c #(nop)  ENV TOMCAT_VERSION=10.0.14   0B
      8 months ago     /bin/sh -c #(nop)  ENV TOMCAT_MAJOR=10          0B
      8 months ago     /bin/sh -c #(nop)  ENV GPG_KEYS=A9C5DF4D22E9…   0B
      8 months ago     /bin/sh -c #(nop)  ENV LD_LIBRARY_PATH=/usr/…   0B
      8 months ago     /bin/sh -c #(nop)  ENV TOMCAT_NATIVE_LIBDIR=…   0B
      8 months ago     /bin/sh -c #(nop) WORKDIR /usr/local/tomcat     0B
      8 months ago     /bin/sh -c mkdir -p "$CATALINA_HOME"            0B
      8 months ago     /bin/sh -c #(nop)  ENV PATH=/usr/local/tomca…   0B
      8 months ago     /bin/sh -c #(nop)  ENV CATALINA_HOME=/usr/lo…   0B
      8 months ago     /bin/sh -c #(nop)  CMD ["jshell"]               0B
      8 months ago     /bin/sh -c set -eux;   arch="$(dpkg --print-…   343MB
      8 months ago     /bin/sh -c #(nop)  ENV JAVA_VERSION=11.0.13     0B
      8 months ago     /bin/sh -c #(nop)  ENV LANG=C.UTF-8             0B
      8 months ago     /bin/sh -c #(nop)  ENV PATH=/usr/local/openj…   0B
      8 months ago     /bin/sh -c { echo '#/bin/sh'; echo 'echo "$J…   27B
      8 months ago     /bin/sh -c #(nop)  ENV JAVA_HOME=/usr/local/…   0B
      8 months ago     /bin/sh -c set -eux;  apt-get update;  apt-g…   11.3MB
      8 months ago     /bin/sh -c apt-get update && apt-get install…   152MB
      8 months ago     /bin/sh -c set -ex;  if ! command -v gpg > /…   18.9MB
      8 months ago     /bin/sh -c set -eux;  apt-get update;  apt-g…   10.7MB
      8 months ago     /bin/sh -c #(nop)  CMD ["bash"]                 0B
      8 months ago     /bin/sh -c #(nop) ADD file:c03517c5ddbed4053…   124MB
# 删除当前的容器
[root@centos7 ~]# docker rm -f 38c
38c
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE     COMMAND   CREATED   STATUS    PORTS     NAMES

利用新镜像启动容器

[root@centos7 ~]# docker run -d -p 8080:8080 --name tomcat tomcat:9.0.37-v1
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE              COMMAND             CREATED        STATUS         PORTS                                       NAMES
ff4f232c7ce0   tomcat:9.0.37-v1   "catalina.sh run"   15 hours ago   Up 5 minutes   0.0.0.0:8080->8080/tcp, :::8080->8080/tcp   tomcat
[root@centos7 ~]# hostname -I
10.0.0.14 172.17.0.1

测试新镜像启动的容器

浏览器访问 http://10.0.0.14:8080 出现画面即可

基于Ubuntu的基础镜像利用apt安装手动制作nginx的镜像

# 启动容器
[root@centos7 ~]# docker run -it -p 80 --name nginx_ubuntu ubuntu bash
# 查看ubuntu系统信息
root@d35021705364:/# cat /etc/os-release
NAME="Ubuntu"
VERSION="20.04.3 LTS (Focal Fossa)"
ID=ubuntu
ID_LIKE=debian
PRETTY_NAME="Ubuntu 20.04.3 LTS"
VERSION_ID="20.04"
HOME_URL="https://www.ubuntu.com/"
SUPPORT_URL="https://help.ubuntu.com/"
BUG_REPORT_URL="https://bugs.launchpad.net/ubuntu/"
PRIVACY_POLICY_URL="https://www.ubuntu.com/legal/terms-and-policies/privacy-policy"
VERSION_CODENAME=focal
UBUNTU_CODENAME=focal
# 更新源
root@d35021705364:/# apt update
Get:1 http://security.ubuntu.com/ubuntu focal-security InRelease [114 kB]
Get:2 http://archive.ubuntu.com/ubuntu focal InRelease [265 kB]
Get:3 http://security.ubuntu.com/ubuntu focal-security/universe amd64 Packages [888 kB]
Get:4 http://archive.ubuntu.com/ubuntu focal-updates InRelease [114 kB]
Get:5 http://security.ubuntu.com/ubuntu focal-security/multiverse amd64 Packages [27.5 kB]
Get:6 http://security.ubuntu.com/ubuntu focal-security/main amd64 Packages [2091 kB]
Get:7 http://archive.ubuntu.com/ubuntu focal-backports InRelease [108 kB]
Get:8 http://archive.ubuntu.com/ubuntu focal/restricted amd64 Packages [33.4 kB]
Get:9 http://archive.ubuntu.com/ubuntu focal/multiverse amd64 Packages [177 kB]
Get:10 http://security.ubuntu.com/ubuntu focal-security/restricted amd64 Packages [1462 kB]
Get:11 http://archive.ubuntu.com/ubuntu focal/main amd64 Packages [1275 kB]
Get:12 http://archive.ubuntu.com/ubuntu focal/universe amd64 Packages [11.3 MB]
Get:13 http://archive.ubuntu.com/ubuntu focal-updates/universe amd64 Packages [1183 kB]
Get:14 http://archive.ubuntu.com/ubuntu focal-updates/restricted amd64 Packages [1572 kB]
Get:15 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 Packages [2547 kB]
Get:16 http://archive.ubuntu.com/ubuntu focal-updates/multiverse amd64 Packages [30.2 kB]
Get:17 http://archive.ubuntu.com/ubuntu focal-backports/universe amd64 Packages [27.4 kB]
Get:18 http://archive.ubuntu.com/ubuntu focal-backports/main amd64 Packages [55.1 kB]
Fetched 23.3 MB in 28s (841 kB/s)
Reading package lists... Done
Building dependency tree
Reading state information... Done
34 packages can be upgraded. Run 'apt list --upgradable' to see them.
# 安装nginx
root@d35021705364:/# apt install -y nginx
Reading package lists... Done
Building dependency tree
Reading state information... Done
The following additional packages will be installed:
  fontconfig-config fonts-dejavu-core iproute2 libatm1 libbsd0 libcap2 libcap2-bin libelf1 libexpat1 libfontconfig1 libfreetype6 libgd3 libicu66
  libjbig0 libjpeg-turbo8 libjpeg8 libmnl0 libnginx-mod-http-image-filter libnginx-mod-http-xslt-filter libnginx-mod-mail libnginx-mod-stream
  libpam-cap libpng16-16 libssl1.1 libtiff5 libwebp6 libx11-6 libx11-data libxau6 libxcb1 libxdmcp6 libxml2 libxpm4 libxslt1.1 libxtables12
  nginx-common nginx-core tzdata ucf
Suggested packages:
  iproute2-doc libgd-tools fcgiwrap nginx-doc ssl-cert
The following NEW packages will be installed:
  fontconfig-config fonts-dejavu-core iproute2 libatm1 libbsd0 libcap2 libcap2-bin libelf1 libexpat1 libfontconfig1 libfreetype6 libgd3 libicu66
  libjbig0 libjpeg-turbo8 libjpeg8 libmnl0 libnginx-mod-http-image-filter libnginx-mod-http-xslt-filter libnginx-mod-mail libnginx-mod-stream
  libpam-cap libpng16-16 libssl1.1 libtiff5 libwebp6 libx11-6 libx11-data libxau6 libxcb1 libxdmcp6 libxml2 libxpm4 libxslt1.1 libxtables12 nginx
  nginx-common nginx-core tzdata ucf
0 upgraded, 40 newly installed, 0 to remove and 34 not upgraded.
Need to get 15.8 MB of archives.
After this operation, 60.8 MB of additional disk space will be used.
Get:1 http://archive.ubuntu.com/ubuntu focal/main amd64 libbsd0 amd64 0.10.0-1 [45.4 kB]
Get:2 http://archive.ubuntu.com/ubuntu focal/main amd64 libcap2 amd64 1:2.32-1 [15.9 kB]
Get:3 http://archive.ubuntu.com/ubuntu focal/main amd64 libelf1 amd64 0.176-1.1build1 [44.0 kB]
Get:4 http://archive.ubuntu.com/ubuntu focal/main amd64 libmnl0 amd64 1.0.4-2 [12.3 kB]
Get:5 http://archive.ubuntu.com/ubuntu focal/main amd64 libxtables12 amd64 1.8.4-3ubuntu2 [28.4 kB]
Get:6 http://archive.ubuntu.com/ubuntu focal/main amd64 libcap2-bin amd64 1:2.32-1 [26.2 kB]
Get:7 http://archive.ubuntu.com/ubuntu focal/main amd64 iproute2 amd64 5.5.0-1ubuntu1 [858 kB]
Get:8 http://archive.ubuntu.com/ubuntu focal/main amd64 libatm1 amd64 1:2.5.1-4 [21.8 kB]
Get:9 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libexpat1 amd64 2.2.9-1ubuntu0.4 [74.4 kB]
Get:10 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 tzdata all 2022a-0ubuntu0.20.04 [294 kB]
Get:11 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libicu66 amd64 66.1-2ubuntu2.1 [8515 kB]
Get:12 http://archive.ubuntu.com/ubuntu focal/main amd64 libpam-cap amd64 1:2.32-1 [8352 B]
Get:13 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libssl1.1 amd64 1.1.1f-1ubuntu2.16 [1321 kB]
Get:14 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libxml2 amd64 2.9.10+dfsg-5ubuntu0.20.04.4 [640 kB]
Get:15 http://archive.ubuntu.com/ubuntu focal/main amd64 ucf all 3.0038+nmu1 [51.6 kB]
Get:16 http://archive.ubuntu.com/ubuntu focal/main amd64 libpng16-16 amd64 1.6.37-2 [179 kB]
Get:17 http://archive.ubuntu.com/ubuntu focal/main amd64 libxau6 amd64 1:1.0.9-0ubuntu1 [7488 B]
Get:18 http://archive.ubuntu.com/ubuntu focal/main amd64 libxdmcp6 amd64 1:1.1.3-0ubuntu1 [10.6 kB]
Get:19 http://archive.ubuntu.com/ubuntu focal/main amd64 libxcb1 amd64 1.14-2 [44.7 kB]
Get:20 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libx11-data all 2:1.6.9-2ubuntu1.2 [113 kB]
Get:21 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libx11-6 amd64 2:1.6.9-2ubuntu1.2 [575 kB]
Get:22 http://archive.ubuntu.com/ubuntu focal/main amd64 fonts-dejavu-core all 2.37-1 [1041 kB]
Get:23 http://archive.ubuntu.com/ubuntu focal/main amd64 fontconfig-config all 2.13.1-2ubuntu3 [28.8 kB]
Get:24 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libfreetype6 amd64 2.10.1-2ubuntu0.2 [341 kB]
Get:25 http://archive.ubuntu.com/ubuntu focal/main amd64 libfontconfig1 amd64 2.13.1-2ubuntu3 [114 kB]
Get:26 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libjpeg-turbo8 amd64 2.0.3-0ubuntu1.20.04.1 [117 kB]
Get:27 http://archive.ubuntu.com/ubuntu focal/main amd64 libjpeg8 amd64 8c-2ubuntu8 [2194 B]
Get:28 http://archive.ubuntu.com/ubuntu focal/main amd64 libjbig0 amd64 2.1-3.1build1 [26.7 kB]
Get:29 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libwebp6 amd64 0.6.1-2ubuntu0.20.04.1 [185 kB]
Get:30 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libtiff5 amd64 4.1.0+git191117-2ubuntu0.20.04.3 [162 kB]
Get:31 http://archive.ubuntu.com/ubuntu focal/main amd64 libxpm4 amd64 1:3.5.12-1 [34.0 kB]
Get:32 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libgd3 amd64 2.2.5-5.2ubuntu2.1 [118 kB]
Get:33 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 nginx-common all 1.18.0-0ubuntu1.3 [37.7 kB]
Get:34 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libnginx-mod-http-image-filter amd64 1.18.0-0ubuntu1.3 [14.8 kB]
Get:35 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libxslt1.1 amd64 1.1.34-4ubuntu0.20.04.1 [151 kB]
Get:36 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libnginx-mod-http-xslt-filter amd64 1.18.0-0ubuntu1.3 [13.0 kB]
Get:37 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libnginx-mod-mail amd64 1.18.0-0ubuntu1.3 [42.8 kB]
Get:38 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 libnginx-mod-stream amd64 1.18.0-0ubuntu1.3 [67.3 kB]
Get:39 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 nginx-core amd64 1.18.0-0ubuntu1.3 [425 kB]
Get:40 http://archive.ubuntu.com/ubuntu focal-updates/main amd64 nginx all 1.18.0-0ubuntu1.3 [3620 B]
Fetched 15.8 MB in 9s (1680 kB/s)
debconf: delaying package configuration, since apt-utils is not installed
Selecting previously unselected package libbsd0:amd64.
(Reading database ... 4127 files and directories currently installed.)
Preparing to unpack .../00-libbsd0_0.10.0-1_amd64.deb ...
Unpacking libbsd0:amd64 (0.10.0-1) ...
Selecting previously unselected package libcap2:amd64.
Preparing to unpack .../01-libcap2_1%3a2.32-1_amd64.deb ...
Unpacking libcap2:amd64 (1:2.32-1) ...
Selecting previously unselected package libelf1:amd64.
Preparing to unpack .../02-libelf1_0.176-1.1build1_amd64.deb ...
Unpacking libelf1:amd64 (0.176-1.1build1) ...
Selecting previously unselected package libmnl0:amd64.
Preparing to unpack .../03-libmnl0_1.0.4-2_amd64.deb ...
Unpacking libmnl0:amd64 (1.0.4-2) ...
Selecting previously unselected package libxtables12:amd64.
Preparing to unpack .../04-libxtables12_1.8.4-3ubuntu2_amd64.deb ...
Unpacking libxtables12:amd64 (1.8.4-3ubuntu2) ...
Selecting previously unselected package libcap2-bin.
Preparing to unpack .../05-libcap2-bin_1%3a2.32-1_amd64.deb ...
Unpacking libcap2-bin (1:2.32-1) ...
Selecting previously unselected package iproute2.
Preparing to unpack .../06-iproute2_5.5.0-1ubuntu1_amd64.deb ...
Unpacking iproute2 (5.5.0-1ubuntu1) ...
Selecting previously unselected package libatm1:amd64.
Preparing to unpack .../07-libatm1_1%3a2.5.1-4_amd64.deb ...
Unpacking libatm1:amd64 (1:2.5.1-4) ...
Selecting previously unselected package libexpat1:amd64.
Preparing to unpack .../08-libexpat1_2.2.9-1ubuntu0.4_amd64.deb ...
Unpacking libexpat1:amd64 (2.2.9-1ubuntu0.4) ...
Selecting previously unselected package tzdata.
Preparing to unpack .../09-tzdata_2022a-0ubuntu0.20.04_all.deb ...
Unpacking tzdata (2022a-0ubuntu0.20.04) ...
Selecting previously unselected package libicu66:amd64.
Preparing to unpack .../10-libicu66_66.1-2ubuntu2.1_amd64.deb ...
Unpacking libicu66:amd64 (66.1-2ubuntu2.1) ...
Selecting previously unselected package libpam-cap:amd64.
Preparing to unpack .../11-libpam-cap_1%3a2.32-1_amd64.deb ...
Unpacking libpam-cap:amd64 (1:2.32-1) ...
Selecting previously unselected package libssl1.1:amd64.
Preparing to unpack .../12-libssl1.1_1.1.1f-1ubuntu2.16_amd64.deb ...
Unpacking libssl1.1:amd64 (1.1.1f-1ubuntu2.16) ...
Selecting previously unselected package libxml2:amd64.
Preparing to unpack .../13-libxml2_2.9.10+dfsg-5ubuntu0.20.04.4_amd64.deb ...
Unpacking libxml2:amd64 (2.9.10+dfsg-5ubuntu0.20.04.4) ...
Selecting previously unselected package ucf.
Preparing to unpack .../14-ucf_3.0038+nmu1_all.deb ...
Moving old data out of the way
Unpacking ucf (3.0038+nmu1) ...
Selecting previously unselected package libpng16-16:amd64.
Preparing to unpack .../15-libpng16-16_1.6.37-2_amd64.deb ...
Unpacking libpng16-16:amd64 (1.6.37-2) ...
Selecting previously unselected package libxau6:amd64.
Preparing to unpack .../16-libxau6_1%3a1.0.9-0ubuntu1_amd64.deb ...
Unpacking libxau6:amd64 (1:1.0.9-0ubuntu1) ...
Selecting previously unselected package libxdmcp6:amd64.
Preparing to unpack .../17-libxdmcp6_1%3a1.1.3-0ubuntu1_amd64.deb ...
Unpacking libxdmcp6:amd64 (1:1.1.3-0ubuntu1) ...
Selecting previously unselected package libxcb1:amd64.
Preparing to unpack .../18-libxcb1_1.14-2_amd64.deb ...
Unpacking libxcb1:amd64 (1.14-2) ...
Selecting previously unselected package libx11-data.
Preparing to unpack .../19-libx11-data_2%3a1.6.9-2ubuntu1.2_all.deb ...
Unpacking libx11-data (2:1.6.9-2ubuntu1.2) ...
Selecting previously unselected package libx11-6:amd64.
Preparing to unpack .../20-libx11-6_2%3a1.6.9-2ubuntu1.2_amd64.deb ...
Unpacking libx11-6:amd64 (2:1.6.9-2ubuntu1.2) ...
Selecting previously unselected package fonts-dejavu-core.
Preparing to unpack .../21-fonts-dejavu-core_2.37-1_all.deb ...
Unpacking fonts-dejavu-core (2.37-1) ...
Selecting previously unselected package fontconfig-config.
Preparing to unpack .../22-fontconfig-config_2.13.1-2ubuntu3_all.deb ...
Unpacking fontconfig-config (2.13.1-2ubuntu3) ...
Selecting previously unselected package libfreetype6:amd64.
Preparing to unpack .../23-libfreetype6_2.10.1-2ubuntu0.2_amd64.deb ...
Unpacking libfreetype6:amd64 (2.10.1-2ubuntu0.2) ...
Selecting previously unselected package libfontconfig1:amd64.
Preparing to unpack .../24-libfontconfig1_2.13.1-2ubuntu3_amd64.deb ...
Unpacking libfontconfig1:amd64 (2.13.1-2ubuntu3) ...
Selecting previously unselected package libjpeg-turbo8:amd64.
Preparing to unpack .../25-libjpeg-turbo8_2.0.3-0ubuntu1.20.04.1_amd64.deb ...
Unpacking libjpeg-turbo8:amd64 (2.0.3-0ubuntu1.20.04.1) ...
Selecting previously unselected package libjpeg8:amd64.
Preparing to unpack .../26-libjpeg8_8c-2ubuntu8_amd64.deb ...
Unpacking libjpeg8:amd64 (8c-2ubuntu8) ...
Selecting previously unselected package libjbig0:amd64.
Preparing to unpack .../27-libjbig0_2.1-3.1build1_amd64.deb ...
Unpacking libjbig0:amd64 (2.1-3.1build1) ...
Selecting previously unselected package libwebp6:amd64.
Preparing to unpack .../28-libwebp6_0.6.1-2ubuntu0.20.04.1_amd64.deb ...
Unpacking libwebp6:amd64 (0.6.1-2ubuntu0.20.04.1) ...
Selecting previously unselected package libtiff5:amd64.
Preparing to unpack .../29-libtiff5_4.1.0+git191117-2ubuntu0.20.04.3_amd64.deb ...
Unpacking libtiff5:amd64 (4.1.0+git191117-2ubuntu0.20.04.3) ...
Selecting previously unselected package libxpm4:amd64.
Preparing to unpack .../30-libxpm4_1%3a3.5.12-1_amd64.deb ...
Unpacking libxpm4:amd64 (1:3.5.12-1) ...
Selecting previously unselected package libgd3:amd64.
Preparing to unpack .../31-libgd3_2.2.5-5.2ubuntu2.1_amd64.deb ...
Unpacking libgd3:amd64 (2.2.5-5.2ubuntu2.1) ...
Selecting previously unselected package nginx-common.
Preparing to unpack .../32-nginx-common_1.18.0-0ubuntu1.3_all.deb ...
Unpacking nginx-common (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package libnginx-mod-http-image-filter.
Preparing to unpack .../33-libnginx-mod-http-image-filter_1.18.0-0ubuntu1.3_amd64.deb ...
Unpacking libnginx-mod-http-image-filter (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package libxslt1.1:amd64.
Preparing to unpack .../34-libxslt1.1_1.1.34-4ubuntu0.20.04.1_amd64.deb ...
Unpacking libxslt1.1:amd64 (1.1.34-4ubuntu0.20.04.1) ...
Selecting previously unselected package libnginx-mod-http-xslt-filter.
Preparing to unpack .../35-libnginx-mod-http-xslt-filter_1.18.0-0ubuntu1.3_amd64.deb ...
Unpacking libnginx-mod-http-xslt-filter (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package libnginx-mod-mail.
Preparing to unpack .../36-libnginx-mod-mail_1.18.0-0ubuntu1.3_amd64.deb ...
Unpacking libnginx-mod-mail (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package libnginx-mod-stream.
Preparing to unpack .../37-libnginx-mod-stream_1.18.0-0ubuntu1.3_amd64.deb ...
Unpacking libnginx-mod-stream (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package nginx-core.
Preparing to unpack .../38-nginx-core_1.18.0-0ubuntu1.3_amd64.deb ...
Unpacking nginx-core (1.18.0-0ubuntu1.3) ...
Selecting previously unselected package nginx.
Preparing to unpack .../39-nginx_1.18.0-0ubuntu1.3_all.deb ...
Unpacking nginx (1.18.0-0ubuntu1.3) ...
Setting up libexpat1:amd64 (2.2.9-1ubuntu0.4) ...
Setting up libxau6:amd64 (1:1.0.9-0ubuntu1) ...
Setting up libssl1.1:amd64 (1.1.1f-1ubuntu2.16) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Setting up nginx-common (1.18.0-0ubuntu1.3) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Setting up libatm1:amd64 (1:2.5.1-4) ...
Setting up libjbig0:amd64 (2.1-3.1build1) ...
Setting up libcap2:amd64 (1:2.32-1) ...
Setting up tzdata (2022a-0ubuntu0.20.04) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Configuring tzdata
------------------

Please select the geographic area in which you live. Subsequent configuration questions will narrow this down by presenting a list of cities,
representing the time zones in which they are located.

  1. Africa   3. Antarctica  5. Arctic  7. Atlantic  9. Indian    11. SystemV  13. Etc
  2. America  4. Australia   6. Asia    8. Europe    10. Pacific  12. US
Geographic area: 6

Please select the city or region corresponding to your time zone.

  1. Aden      13. Barnaul     25. Dushanbe     37. Jerusalem     49. Macau         61. Pyongyang      73. Taipei         85. Vientiane
  2. Almaty    14. Beirut      26. Famagusta    38. Kabul         50. Magadan       62. Qatar          74. Tashkent       86. Vladivostok
  3. Amman     15. Bishkek     27. Gaza         39. Kamchatka     51. Makassar      63. Qostanay       75. Tbilisi        87. Yakutsk
  4. Anadyr    16. Brunei      28. Harbin       40. Karachi       52. Manila        64. Qyzylorda      76. Tehran         88. Yangon
  5. Aqtau     17. Chita       29. Hebron       41. Kashgar       53. Muscat        65. Rangoon        77. Tel_Aviv       89. Yekaterinburg
  6. Aqtobe    18. Choibalsan  30. Ho_Chi_Minh  42. Kathmandu     54. Nicosia       66. Riyadh         78. Thimphu        90. Yerevan
  7. Ashgabat  19. Chongqing   31. Hong_Kong    43. Khandyga      55. Novokuznetsk  67. Sakhalin       79. Tokyo
  8. Atyrau    20. Colombo     32. Hovd         44. Kolkata       56. Novosibirsk   68. Samarkand      80. Tomsk
  9. Baghdad   21. Damascus    33. Irkutsk      45. Krasnoyarsk   57. Omsk          69. Seoul          81. Ujung_Pandang
  10. Bahrain  22. Dhaka       34. Istanbul     46. Kuala_Lumpur  58. Oral          70. Shanghai       82. Ulaanbaatar
  11. Baku     23. Dili        35. Jakarta      47. Kuching       59. Phnom_Penh    71. Singapore      83. Urumqi
  12. Bangkok  24. Dubai       36. Jayapura     48. Kuwait        60. Pontianak     72. Srednekolymsk  84. Ust-Nera
Time zone: 70  # 配置时区


Current default time zone: 'Asia/Shanghai'
Local time is now:      Wed Aug 24 15:05:46 CST 2022.
Universal Time is now:  Wed Aug 24 07:05:46 UTC 2022.
Run 'dpkg-reconfigure tzdata' if you wish to change it.

Setting up libcap2-bin (1:2.32-1) ...
Setting up libx11-data (2:1.6.9-2ubuntu1.2) ...
Setting up libpng16-16:amd64 (1.6.37-2) ...
Setting up libmnl0:amd64 (1.0.4-2) ...
Setting up libwebp6:amd64 (0.6.1-2ubuntu0.20.04.1) ...
Setting up fonts-dejavu-core (2.37-1) ...
Setting up ucf (3.0038+nmu1) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Setting up libjpeg-turbo8:amd64 (2.0.3-0ubuntu1.20.04.1) ...
Setting up libxtables12:amd64 (1.8.4-3ubuntu2) ...
Setting up libbsd0:amd64 (0.10.0-1) ...
Setting up libelf1:amd64 (0.176-1.1build1) ...
Setting up libpam-cap:amd64 (1:2.32-1) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Setting up libjpeg8:amd64 (8c-2ubuntu8) ...
Setting up libnginx-mod-mail (1.18.0-0ubuntu1.3) ...
Setting up libxdmcp6:amd64 (1:1.1.3-0ubuntu1) ...
Setting up libxcb1:amd64 (1.14-2) ...
Setting up fontconfig-config (2.13.1-2ubuntu3) ...
Setting up iproute2 (5.5.0-1ubuntu1) ...
debconf: unable to initialize frontend: Dialog
debconf: (No usable dialog-like program is installed, so the dialog based frontend cannot be used. at /usr/share/perl5/Debconf/FrontEnd/Dialog.pm line 76.)
debconf: falling back to frontend: Readline
debconf: unable to initialize frontend: Readline
debconf: (Can't locate Term/ReadLine.pm in @INC (you may need to install the Term::ReadLine module) (@INC contains: /etc/perl /usr/local/lib/x86_64-linux-gnu/perl/5.30.0 /usr/local/share/perl/5.30.0 /usr/lib/x86_64-linux-gnu/perl5/5.30 /usr/share/perl5 /usr/lib/x86_64-linux-gnu/perl/5.30 /usr/share/perl/5.30 /usr/local/lib/site_perl /usr/lib/x86_64-linux-gnu/perl-base) at /usr/share/perl5/Debconf/FrontEnd/Readline.pm line 7.)
debconf: falling back to frontend: Teletype
Setting up libicu66:amd64 (66.1-2ubuntu2.1) ...
Setting up libnginx-mod-stream (1.18.0-0ubuntu1.3) ...
Setting up libfreetype6:amd64 (2.10.1-2ubuntu0.2) ...
Setting up libx11-6:amd64 (2:1.6.9-2ubuntu1.2) ...
Setting up libtiff5:amd64 (4.1.0+git191117-2ubuntu0.20.04.3) ...
Setting up libfontconfig1:amd64 (2.13.1-2ubuntu3) ...
Setting up libxml2:amd64 (2.9.10+dfsg-5ubuntu0.20.04.4) ...
Setting up libxpm4:amd64 (1:3.5.12-1) ...
Setting up libgd3:amd64 (2.2.5-5.2ubuntu2.1) ...
Setting up libxslt1.1:amd64 (1.1.34-4ubuntu0.20.04.1) ...
Setting up libnginx-mod-http-image-filter (1.18.0-0ubuntu1.3) ...
Setting up libnginx-mod-http-xslt-filter (1.18.0-0ubuntu1.3) ...
Setting up nginx-core (1.18.0-0ubuntu1.3) ...
invoke-rc.d: could not determine current runlevel
invoke-rc.d: policy-rc.d denied execution of start.
Setting up nginx (1.18.0-0ubuntu1.3) ...
Processing triggers for libc-bin (2.31-0ubuntu9.2) ...
# 查看nginx版本
root@d35021705364:/# nginx -v
nginx version: nginx/1.18.0 (Ubuntu)
root@d35021705364:/# grep include /etc/nginx/nginx.conf
include /etc/nginx/modules-enabled/*.conf;
include /etc/nginx/mime.types;
include /etc/nginx/conf.d/*.conf;
include /etc/nginx/sites-enabled/*;
root@d35021705364:/# grep root /etc/nginx/sites-enabled/default
root /var/www/html;
# deny access to .htaccess files, if Apache's document root
#root /var/www/example.com;
root@d35021705364:/# echo Nginx website in Docker > /var/www/html/index.html
root@d35021705364:/# exit
exit

# 提交为镜像
[root@centos7 ~]# docker commit -a 'chensir' -m 'nginx-ubuntu:20.04' nginx_ubuntu nginx_ubuntu20.04:v1.18.0
sha256:b33b57cff5d3c68c56b5826490ddcb0c9e7751f2d275a9d6d1e43d63764f78b0
[root@centos7 ~]# docker images
REPOSITORY          TAG         IMAGE ID       CREATED         SIZE
nginx_ubuntu20.04   v1.18.0     b33b57cff5d3   5 seconds ago   169MB

# 从制作的新镜像启动容器并测试访问
[root@centos7 ~]# docker run -d -p 80 --name nginx-web nginx_ubuntu20.04:v1.18.0 nginx -g 'daemon off;'
06098c8bc2ec93978167950adfa5e827c75174aba306337165813a9e950b1972
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE                       COMMAND                  CREATED         STATUS         PORTS                                     NAMES
06098c8bc2ec   nginx_ubuntu20.04:v1.18.0   "nginx -g 'daemon of…"   2 seconds ago   Up 2 seconds   0.0.0.0:49162->80/tcp, :::49162->80/tcp   nginx-web
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE                       COMMAND                  CREATED         STATUS         PORTS                                     NAMES
06098c8bc2ec   nginx_ubuntu20.04:v1.18.0   "nginx -g 'daemon of…"   2 seconds ago   Up 2 seconds   0.0.0.0:49162->80/tcp, :::49162->80/tcp   nginx-web
[root@centos7 ~]# docker port nginx-web
80/tcp -> 0.0.0.0:49162
80/tcp -> :::49162
[root@centos7 ~]# curl 127.0.0.1:49162
Nginx website in Docker

基于CentOS的基础镜像利用yum安装手动制作nginx的镜像

[root@centos7 ~]# docker pull centos:centos7.7.1908
centos7.7.1908: Pulling from library/centos
f34b00c7da20: Pull complete
Digest: sha256:50752af5182c6cd5518e3e91d48f7ff0cba93d5d760a67ac140e2d63c4dd9efc
Status: Downloaded newer image for centos:centos7.7.1908
docker.io/library/centos:centos7.7.1908
[root@centos7 ~]# docker images
REPOSITORY          TAG              IMAGE ID       CREATED          SIZE
centos              centos7.7.1908   08d05d1d5859   2 years ago      204MB
[root@centos7 ~]# docker run -it centos:centos7.7.1908 bash

# 修改时区
[root@0b3db04f3a72 /]# rm -f /etc/localtime
[root@0b3db04f3a72 /]# ln -s ../usr/share/zoneinfo/Asia/Shanghai /etc/localtime
# 更改yum源
[root@0b3db04f3a72 /]# yum install -y wget
[root@0b3db04f3a72 /]# wget -P /etc/yum.repos.d/ http://mirrors.aliyun.com/repo/Centos-7.repo
[root@0b3db04f3a72 /]# wget -P /etc/yum.repos.d/ http://mirrors.aliyun.com/repo/epel-7.repo
[root@0b3db04f3a72 /]# yum install -y nginx

# 安装相关软件和工具
# yum 安装 nginx
[root@0b3db04f3a72 /]# yum install -y nginx
# 安装常用命令
[root@0b3db04f3a72 /]# yum install -y vim curl iproute net-tools
# 清理yum缓存
[root@0b3db04f3a72 /]# rm -rf /var/cache/yum/*

# 修改服务的配置信息关闭服务后台运行
# 关闭nginx后台运行
[root@0b3db04f3a72 /]# vim /etc/nginx/nginx.conf
user nginx;
daemon off; # 关闭后台运行

# 准备程序和数据
# 自定义web界面
[root@0b3db04f3a72 /]# rm -rf /usr/share/nginx/html/index.html
[root@0b3db04f3a72 /]# echo "Nginx Page in Docker" > /usr/share/nginx/html/index.html

# 提交为镜像
# docker commit命令在宿主机基于容器ID提交为镜像
[root@centos7 ~]# docker commit -a "chensir" -m "nginx yum v1" -c "EXPOSE 80 443" 0b3db04f3a72 chensir/centos-nginx:1.16.1.v1
sha256:3f649568eaca282c2ff0864d725bb0310862849e9393abfb14f49fa60d7071f7
[root@centos7 ~]# docker images
REPOSITORY             TAG              IMAGE ID       CREATED          SIZE
chensir/centos-nginx   1.16.1.v1        3f649568eaca   17 seconds ago   322MB
centos                 centos7.7.1908   08d05d1d5859   2 years ago      204MB

# 从制作的镜像启动容器
[root@centos7 ~]# docker run -d -p 8080:80 --name my-centos-nginx chensir/centos-nginx:1.16.1.v1 /usr/sbin/nginx
df983ecee256956f34af0ca6089331bd9bd1863ad24d35defef05c86e6cab5f2
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE                            COMMAND                  CREATED          STATUS          PORTS                                            NAMES
df983ecee256   chensir/centos-nginx:1.16.1.v1   "/usr/sbin/nginx"        5 seconds ago    Up 5 seconds    443/tcp, 0.0.0.0:8080->80/tcp, :::8080->80/tcp   my-centos-nginx

# 访问测试镜像
[root@centos7 ~]# curl 127.0.0.1:8080
Nginx Page in Docker

利用DockerFile文件执行docker build自动构建镜像

Dockerfile使用详解

Dockerfile介绍

Dockerfile是一种被Docker程序解释执行的脚本，由一条条的命令组成的，没条命令对应Linux下面的一条命令，Docker程序将这些DockerFile指令再翻译成真正的Linux命令，其有自己的书写方式和支持的命令，Docker程序读取DockerFile并根据指令生成Docker镜像，相比手动制作的镜像方式，DockerFile更能直观的展示镜像是怎么产生的，有了DockerFile，当后期有额外的需求时，只要在之前的DockerFile添加或者修改响应的命令即可重新的Docker镜像，避免了重复手动制作镜像的麻烦，类似与shell脚本一样，可以方便高效的制作镜像。

Docker守护程序Dockerfile逐一运行指令，如有必要，将每个指令的结果提交到新镜像，然后最终输出新镜像的ID。Docker守护程序将自动清理之前发送的上下文

请注意，每条指令都是独立运行的，并会导致创建新镜像，比如 RUN cd/tmp对下一条指令不会有任何影响。

Docker将尽可能用中间镜像层（缓存），以显著加速docker build命令的执行过程，这由Using cache控制台输出中的消息提示

Dockerfile镜像制作和使用流程

Dockerfile文件的制作镜像的分层结构

# 按照业务类型或系统类型等方式划分创建目录环境，方便后期镜像比较多的时候进行分类
[root@centos7 ~]# mkdir -p /data/dockerfile/{web/{nginx,apache,tomcat,jdk},system/{centos,ubuntu,alpine,debin}}
[root@centos7 ~]# tree /data/dockerfile/
/data/dockerfile/
├── system
│   ├── alpine
│   ├── centos
│   ├── debin
│   └── ubuntu
└── web
    ├── apache
    ├── jdk
    ├── nginx
    └── tomcat

Dockerfile文件格式

Dockerfile 是一个有特定语法格式的文本文件

Dockerfile 官方说明：https://docs.docker.com/engine/reference/builder/

帮助：man 5 dockerfile

Dockerfile文件说明

每一行Dockerfile的指令开头，指令不区分大小写，但是惯例使用大写
使用#开始作为注释
每一行只支持一条指令，没调指令可以携带多个参数
指令按文件的顺序从上至下进行执行
每个指令的执行会生成一个新的镜像层，为了减少分层和镜像大小，尽可能将多条指令合并成一条指令
制作镜像一般可能需要反复多次，每次执行Dockerfile都按顺序执行，从头开始，已经执行过的指令已经缓存，不需要在执行，如果后续有一行新的指令没执行过，其往后的指令将会重新执行，所以为加速镜像制作，将最常变化的内容放下dockerfile的文件的后面

Dockerfile相关指令

ADD
COPY
ENV
EXPOSE
FROM
LABEL
STOPSIGNAL
USER
VOLUME
WORKDIR

FROM：指定基础镜像

定制镜像，需要先有一个基础镜像，在这个基础镜像上进行定制。

FROM 就是指定基础镜像，此指令通常必须放在Dockerfile文件第一个非注释行。后续的指令都是运行于此基准镜像所提供的的运行环境

基础镜像可以是任何可用镜像文件，默认情况下，docker build会在docker主机上查找指定的镜像文件，若不存在，则会从docker hub registry上拉取所需的镜像文件。如果找不到指定的镜像文件，docker build会返回一个错误信息

如何选择合适的镜像呢？

对于不同的软件官方都提供了相关的docker镜像，比如：nginx、redis、mysql、httpd、tomcat等服务类的镜像，也有操作系统类，如：centos、ubuntu、debian等。建议使用官方镜像，比较安全。

FROM [--platform=]  [AS ]
FROM [--platform=] [:] [AS ]
FROM [--platform=] [@] [AS ]

# 说明：
--platform 指定镜像的平台，比如：linux/amd64,linux/arm64,or windows/amd64
tag 和 digest是可选项，如果不指定，默认为latest

说明：关于scrach镜像

FROM scratch # 所有镜像的起源镜像，相当于object类
参考链接：
https://hub.docker.com/_/scratch?tab=description
https://docs.docker.com/develop/develop-images/baseimages/
该镜像是一个空的镜像，可以用于构建busybox等超小镜像，可以说是真正的从零开始构建属于自己的镜像
该镜像在构建基础镜像（例如Debian和busybox）或超最小镜像（仅包含一个二进制文件及其所需内容，例如：hello-world）的上下文中最有用。

# 示例
FROM ubuntu
FROM ubuntu:bionic
FROM debian:buster-slim

LABEL：指定镜像元数据

可以指定镜像元数据，如：镜像作者等

LABEL = = :...

# 示例
LABEL "com.example.vendor"="ACME Incorporated"
LABEL com.example.label-with-value="foo"
LABEL version="1.0"
LABEL description="This text illustrates that label-values can span multiple lines"

一个镜像可以有多个label，还可以写在一行中，即多个标签写法，可以减少镜像的大小

# 多标签写法
LABEL multi.label1="value1" multi.label2="value2" other="value3"
# 多行格式
LABEL multi.label1="value1" \
multi.label2="value2"\
other="value3"

docker inspect 命令可以查看LABEL

docker inspect centos:centos7.7.1908

"Labels": {
  "org.label-schema.build-date": "20191024",
  "org.label-schema.license": "GPLv2",
  "org.label-schema.name": "CentOS Base Image",
  "org.label-schema.schema-version": "1.0",
  "org.label-schema.vendor": "CentOS"
}

RUN：执行shell命令

RUN指令用来在构建镜像阶段需要执行FROM指定镜像所支持的shell命令。

通常各种基础镜像一般都支持丰富的shell命令

注意：RUN可以写多个，每一个RUN指令都会建立一个镜像层，所以尽可能合并成一条指令，比如将多个shell命令通过&&连接一起成为一条指令

每个RUN都是独立运行的，和前一个RUN无关

# shell 格式：相当于 /bin/sh -c <命令> 此种形式支持环境变量
RUN <命令>

# exec 格式：此种形式不支持环境变量，注意：是双引号，不能是单引号
RUN ["可执行文件","参数1","参数2"]

# exec格式可以指定其他shell
RUN ["/bin/bash","-c","echo hello chensir"]

说明

shell格式中，通常是一个shell命令，且以 "/bin/sh -c" 来运行它，这意味着此进程在容器中的PID不为1，不能接受Unix信号，因此，当使用 docker stop  命令停止容器时，此进程接收不到SIGTERM信号

exec格式中的参数是一个JSON格式的数组，其中为要运行的命令，后面为传递给命令的选项或参数；然而，此种格式指定的命令不会以 "/bin/sh -c" 来发起，因此常见的shell操作如变量替换以及通配符(?,*)替换将不会进行；不过，如果要运行的命令依赖于shell特性的话，可以将其替代换为类似下面的格式。
RUN ["/bin/bash","-c","",""]

# 示例
RUN echo 'Hello,Docker
' > /usr/share/nginx/html/index.html
RUN ["/bin/bash","-c","echo hello world"]
RUN yum install -y epel-release
 && yum install -y nginx
 && rm -rf /usr/share/nginx/html/* 
 && echo "docker test nginx
" > /usr/share/nginx/html/index.html
 
# 示例多个前后RUN命令独立无关和shell命令不同
# world.txt并不存放在app内
RUN cd /app
RUN echo "hello" > world.txt

ENV：设置环境变量

ENV可以定义环境变量和值，会被后续指令（ENV，ADD，COPY，RUN等）通过$KEY或${KEY}进行引用，并在容器运行时保存

# 变量赋值格式1 此格式只能对一个key赋值，之后的所有内容均会被视作其的组成部分
ENV   

# 变量赋值格式2 此格式可以支持多个key赋值，定义多个变量建议使用，减少镜像层
# 如果中包含空格，可以以反斜杠 \ 进行转义，也可以通过对加引号进行标识；反斜杠也可用于读行
ENV = = ... 

# 只使用一次变量
RUN = 

# 引用变量
RUN $key

# 变量支持高级赋值格式
${key:-word}
${key:+word}

如果运行容器是需要修改变量，可以执行下面通过基于exec机制实现

注意：下面方式只影响容器运行时环境，而不影响构建镜像的过程，即只能覆盖 docker run时的环境变量，而不会影响docker build时的环境变量的值

docker run -e | --env =

# 说明
-e,--env list# Set environment variables
 --env-file filename# Read in a file of environment variables
 
# 示例：两种格式功能相同
# 格式1
ENV myName="John Doe" myDog=Rex\ The\ Dog myCat=fluffy
# 格式2
ENV myName John Doe
ENV myDog Rex The Dog
ENV myCat fluffy

[root@centos7 ~]# cat Dockerfile
FROM busybox
LABEL maintainer="chensir "
ENV NAME zhao xing chen
RUN touch $NAME.txt

[root@centos7 ~]# cat build.sh
#!/bin/bash
TAG=$1
docker build -t test:$TAG .

[root@centos7 ~]# ./build.sh v5.0

COPY：复制文本

复制本地宿主机的文件到容器中

COPY [--chown=:] ... 

# 路径中有空白字符时，建议使用此格式
COPY [--chown=:] ["",...""]

说明：

可以是多个，可以使用通配符，通配符规则满足Go的filepath.Match规则
必须是build上下文中的路径（Dockerfile 所在目录的相对路径），不能是其父目录中的文件
如果是目录，则其内部文件或子目录会被递归复制，但目录自身不会被复制
如果指定了多个，或在其中使用了通配符，则必须是一个目录，且必须是以 / 结尾
可以是绝对路径或者是WORKDIR指定的相对路径
使用COPY指令，源文件的各种元数据都会保留。比如读、写、执行权限、文件变更时间等
如果事先不存在，它会被自动创建，这包括其父目录路径，即递归创建目录

COPY hom* /mydir/
COPY hom?.txt /mydir/

ADD：复制和解包文件

该命令可以认为是增强版的COPY，不仅支持COPY，还支持自动解包。可以将复制指定的文件到容器中

ADD [--chown=:] ...
ADD [--chown=:] ["",...""]

说明：

可以是Dockerfile所在目录的一个相对路径；也可是一个URL；还可以是一个tar文件（自动解压）
可以是绝对路径或是WORKDIR指定的相对路径
如果是目录，只复目录中的内容，而非目录本身
如果是一个URL，下载后的文件权限自动设置为600
如果为URL且不以/结尾，则指定的文件将被下载并直接被创建，如果以/结尾，则文件名URL指定的文件将被直接下载并保存为/
如果是一个本地文件系统上的打包文件，如：gz，bz2，xz，它将被解包，其行为类似 “tar -x” 命令，但是通过URL获取到的tar文件将不会自动展开
如果有多个，或间接或直接使用了通配符，则必须是一个以/结尾的目录路径；如果不以/结尾。则被视作一个普通文件

CMD：容器启动命令

一个容器中需要持续运行的进程一般只有一个，CMD用来指定启动程序时默认执行的一个命令，且其运行结束后，容器也会停止，所以一般CMD指定的命令为持续运行且为前台命令

如果docker run没有指定任何的执行命令或者dockerfile里面也没有ENTRYPOINT，那么开启容器时就会执行CMD指定的默认命令
前面介绍过的RUN命令是在构建镜像执行的命令，注意二者的不同之处
每个Dockerfile只能有一条CMD命令。如指定了多条，只有最后一条被执行
如果用户启动容器时用docker run xxx指定运行的命令，则会覆盖CMD指定的命令

# 使用exec执行，推荐方式，第一个参数必须是命令的全路径，此种形式而不支持环境变量
CMD ["executable","param1","param2"]

# 在 /bin/sh 中执行，提供给需要交互的应用；池中形式支持环境变量
CMD command param1 param2

# 提供给ENTRYPOINT命令的默认参数
CMD ["param1","param2"]

# 示例
CMD ["nginx","-g","daemon off"]

ENTRYPOINT：入口点

功能类似于CMD，配置容器启动后执行的命令及参数

# 使用exec执行
ENTRYPOINT ["executable","param1","param2"]

# shell中执行
ENTRYPOINT command param1 param2

ENTRYPOINT不能被docker run提供的参数覆盖，而是追加，即如果docker run命令有参数，那么参数全部都会作为ENTRYPOINT的参数
如果docker run后面没有额外的参数，但是Dockerfile中的CMD里有（即上面的第三种用法），即Dockerfile中即有CMD也有ENTRYPOINT，那么CMD的全部内容会作为ENYRTPOINT的参数
如果docker run后面有额外参数，同时Dockerfile中既有CMD也有ENTRYPOINT，那么docker run后面的参数覆盖掉CMD参数内容，最终作为ENTRYPOINT的参数
可以通过docker run - -entrypoint string参数在运行时替换，注意string不要加空格
使用CMD要在运行时重新写命令本身，然后在后面才能追加运行参数，ENTRYPOINT则可以运行时无需重写命令皆可以直接接收新参数
每个Dockerfile中只能有一个ENTRYPOINT，当指定多个时，只有最后一个生效

ARG：构建参数

ARG指令在build阶段指定变量，和ENV不同的是，容器运行时不会存在这些环境变量

ARG [=]

如果和ENV同名，ENV覆盖ARG变量

可以用 docekr build --build-arg <参数名>=<值> 来覆盖

说明：ARG和FROM

# FROM指令支持由第一个FROM之前的任何ARG指令声明的变量
# 示例：
ARG CODE_VERSION=latest
FROM base:${CODE_VERSION}
CMD /code/run-app
FROM extras:${CODE_VERSION}
CMD /code/run-extras

# 在FROM之前声明的ARG在构建阶段之外，所以它不能在FROM之后的任何指令中使用。要使用在第一个FROM之前声明的ARG的默认值，请在构建阶段内使用没有值的SRG指令

# 示例：
ARG VERSION=latest
FROM busybox:$VERSION
ARG VERSION
RUN echo $VERSION > image_version

VOLUME：匿名卷

在容器中创建一个可以从本地主机或其他容器挂载的挂载点，一般用来存放数据库和需要保存的数据等，一般会将宿主机上的目录挂载至VOLUME指令指定的容器目录。即使容器后期被删除，次宿主机的目录仍会保留，从而实现容器数据的持久保存

宿主机的目录为 /var/lib/docker/volumes//_data

VOLUME <容器内路径>
VOLUME ["<容器内路径1","容器内路径2"]

注意：

Dockerfile中的VOLUME实现的是匿名数据卷，无法指定宿主机路径和容器目录的挂载关系
通过docker rm -fv <容器ID> 可以删除容器的同时删除VOLUME指定的卷

# 示例：在容器创建两个 /data/ , /data2的挂载点
VOLUME ["/data1","/data2"]

EXPOSE：暴露端口

指定服务端的容器需要对外暴露（监听）的端口号，以实现容器与外部通信

EXPOSE仅仅是声明容器打算使用什么端口而已，并不会真正暴露端口，即不会自动在宿主机进行端口映射

因此，在启动容器时需要通过-P或-p，Docker主机才会真正分配一个端口转发到指定暴露的端口才可使用

注意：即使Dockerfile没有EXPOSE端口指令，也可以通过docker run -p临时暴露容器内程序真正监听的端口，所以EXPOSE相当于指定默认的暴露端口，可以通过docker run -P/-p 进行真正暴露

EXPOSE [/ ] [[/ ]...]
# 说明
用于指定传输层协议，可为tcp或udp二者之一，默认为TCP协议

# 示例
EXPOSE 80 443
EXPOSE 11211/udp 11211/tcp

WORKDIR：指定工作目录

为后续的RUN、CMD、ENTRYPOINT指令配置工作目录，当运行容器后，进入容器内WORKDIR指定的默认目录

WORKDIR指定工作目录（或称当前目录），以后各层的当前目录就被改为指定的目录，如该目录不存在，WORKDIR会自行创建

WORKDIR /path/to/workdir

# 示例
# 两次 RUN 独立运行，不在同一个目录
RUN cd /app
RUN echo "hello" > world.txt

# 如果想实现相同目录可以使用 WORKDIR
WORKDIR /app
RUN echo "hello" > world.txt

# 可以使用多个WORKDIR指令，后续命令如果参数是相对路径，则会基于之前命令指定的路径
WORKDIR /a
WORKDIR b
WORKDIR c
RUN pwd
# 最终路径为 /a/b/c

ONBUILD：子镜像引用父镜像的指令

可以用来配置当构建当前镜像的子镜像时，会自动触发执行的命令，但在当前镜像构建时，并不会执行，即延迟到子镜像构建时才执行

ONBUILD [INSTRUCTION]

# Dockerfile使用如下的内容创建了镜像 image-A
ONBUILD ADD https://chensir.ink/pic/a.png /data
ONBUILD RUN rm -rf /*
ONBUILD RUN /usr/local/bin/python-build --dir /app/src...

# 如果基于image-A创建新的镜像image-B时，新的Dockerfile中使用FROM image-A指定基础竟像时，会自动执行ONBUILD指令内容，等价于在后面添加了两条指令。
FROM image-A
# Automatically run the following
ADD https://chensir.ink/pic/a.png /data
RUN /usr/local/bin/python-build --dir /app/src...

说明：

尽管任何指令都可以注册成为触发器指令，但ONBUILD不能自我使用，且不会触发FROM和MAINTAINER指令
使用ONBUILD指令的镜像，推荐在标签中注明，例如 ruby:1.9-onbuild

USER：指定当前用户

指定运行容器时的用户名或UID，后续的RUN也会使用指定用户

当服务不需要管理员权限时，可以通过该命令指定运行用户

这个用户必须是事先建立好的，否则无法切换

如果没有指定USER，默认是root身份执行

USER [:]
USER [:]

# 示例
RUN groupadd -r mysql && useradd -r -g mysql mysql
USER mysql

HEALTHCHECK：监控检查

检查容器的健康性

# 设置检查容器健康状况的命令
HEALTHCHECK [选项] CMD <命令>

# 如果基础镜像有健康检查指令，使用这行可以屏蔽掉其健康检查指令
HEALTHCHECK NONE

# HEALTHCHECK 支持下列选项：
--interval=<间隔> # 两次健康检查的间隔，默认30秒
--timeout=<时长># 健康检查命令运行超时时间，如果超过这个时间，本次健康检查就被视为失败，默认30秒
--retries=<次数># 当连续失败指定次数后，则将容器状态视为 unhealthy，默认3次
--start-period= # default：0s

# 检查结果返回值
0 # success
1 # unhealth
2 # reserved

# 示例
FROM nginx
RUN apt-get update && apt-get install -y curl && rm -rf /var/lib/spt/lists/*
HEALTHCHECK --interval=5s --timeout=3s \
CMD curl -fs http://localhost/ || exit 1

STOPSIGNAL：退出容器信号

STOPSIGNAL指令设置将被发送到容器退出的系统调用信号。该信号可以是与内核syscall表中的位置匹配的有效无符号数字，也可以是SIGNAME格式的信号名称（如SIGKILL）

STOPSIGNAL signal

SHELL：指定shell

SHELL指令允许覆盖用于命令的shell形式的默认SHLL，必须在Dockerfile中以JSON形式编写SHELL指令。

SHELL ["executable","parameters"]

在Linux上默认SHELL程序 ["/bin/sh","-c"]，在Windows上，默认SHELL程序为 ["cmd","/S","/C"]。

SHELL指令在Windows上特别有用，在Windows上有两个常用且往前不同的本机SHELL:cmd和powershell，以及包括sh在内的备用shell

SHELL指令可以出现多次。每个SHELL指令将覆盖所有先前的SHELL指令，并影响所有后续的指令

.dockerignore文件

与.gitignore文件类似，生成构建上下文时Docker客户端应忽略的文件和文件夹指定模式

.dockerignore使用Go的文件路径规则filepath.Match

完整的语法

#  # 以#开头的行为注释
*  # 匹配任何非分隔符字符序列
?  # 匹配任何单个非分隔符
\\ # 表示 \
** # 匹配任意数量的目录（包括零）例如 **/*.go 将排除在所有目录中以.go结尾的所有文件，包括构建上下文的根
!  # 表示取反，可用于排除例外情况

# 示例
# 排除 test 目录下的所有文件
test/*

# 排除 md 目录下的 xttblog.md 文件
md/xttblog.md

# 排除 xttblog 为前缀的文件和文件夹
xttblog?

# 排除所有目录下的 .sql文件夹
**/*.sql

# 除了README的md不排外，排除所有md文件，但不排除README-secret.md
*.md
!README*.md
README-secret.md

# 除了所有README的md文件以外的md都排除
*.md
README-sevret.md
!README*.md

dockerfile构建过程和指令总结

Dockerfile 构建过程

从基础镜像运行一个容器
执行一条指令，对容器做出修改
执行类似docker commit的操作，提交一个新的中间镜像层（可以利用中间层镜像创建容器进项调试和排错）
再基于刚提交的镜像运行一个新容器
执行Dockerfile中的下一条指令，直至所有指令执行完毕

Dockerfile指令总结

BUILD	RUN	BOTH
FROM	CMD	WORKDIR
LABEL	VOLUME	USER
COPY	EXPOSE	ENV
ADD	ENTRYPOINT
RUN
ONBUILD
.dockerignore

构建镜像docker build命令

docker build [OPTION] PATH | URL |-
说明：
PATH | URL | -   # 可以是本地路径，也可以是URL路径。如设置为 -，则从标准输入获取Dockerfile的内容
-f,--file string # Dockerfile文件名，默认为PATH/Dockerfile
--force-rm # 总是删除中间层容器，创建镜像失败时，删除临时容器
--no-cache # 不使用之前构建中创建的缓存
-q --quiet=false # 不显示Dockerfile的RUN运行的输出结果
--rm=true # 创建镜像成功时，删除临时容器
-t --tag list # 设置注册名称、镜像名称、标签。格式为 <注册名称>/<镜像名称>:<标签>(标签默认为latest)

Docker数据管理

容器数据管理介绍

Docker镜像由多个只读层叠加而成，启动容器时，Docker会加载只读镜像层并在镜像栈顶部添加一个读写层

如果运行中的容器修改了现有的一个已经存在的文件，那该文件将会从读写层下面的只读层复制到读写层，该文件的只读版仍然存在，只是已经被读写层中该文件的副本所隐藏，即“写时复制（COW copy on write）机制”

如果将正在运行中的容器修改生成了新的数据，那么新产生的数据将会被复制到读写层，进行持久化保存，这个读写层也就是容器的工作目录，也为写时复制（COW）机制

Docker容器的分层

容器的数据分层目录

LowerDir：image镜像层，即镜像本身，只读
UpperDir：容器的上层，可读写，容器变化的数据存放在此处
MergedDir：容器的文件系统，使用Union FS（联合文件系统）将lowerdir和upperdir合并完成后给容器使用，最终呈现给用户的统一视图
WorkDir：容器在宿主机的工作目录，挂载后内容会被清空，且在使用过程中其内容用户不可见

每个镜像层目录中都包含了一个文件link，文件内容则是当前层对应的短标识符，镜像层的内容则存放在diff目录

删除容器后，所有数据目录都随之而删除

哪些数据需要持久化

有状态的协议

有状态协议就是通信双方要记住双方，并且共享一些信息。而无状态协议的通信每次都是独立的，与上一次的通信没什么关系。

“状态”可以理解为“记忆”，有状态对应有记忆，无状态对应无记忆

左侧是无状态的http请求服务，右侧为有状态
下层为不需要存储的服务，上层为需要存储的部分服务

容器数据持久保存方式

如果要将写入到容器的数据永久保存，则需要建工人那个器中的数据保存到宿主机的指定目录

Docker的数据类型分为两种：

数据卷（Data Volume）：直接将宿主机目录挂载至容器的指定的目录，推荐使用此种方式，此方式较常用
数据卷容器（Data Volume Container）：间接使用宿主机空间，数据卷容器是将宿主机的目录挂载至一个专门的数据卷容器，然后让其他容器通过数据卷容器读写宿主机的数据，此方式不常用

数据卷（data volume）

数据卷的特点和使用

数据卷实际上就是宿主机上的目录或是文件，可以被直接mount到容器当中使用

实际生产环境中，需要针对不同类型的服务、不同类型的数据存储要求做相应的规划，最终保证服务的可扩展性、稳定性以及数据的安全性

数据卷使用场景

数据库
日志输出
静态web页面
应用配置文件
多容器间目录或文件共享

数据卷的特点

数据卷是目录或者文件，并且可以在多个容器之间共同使用，实现容器之间共享和重用
对数据卷更改数据在所有容器里面会立即更新
数据卷的数据可以持久保存，及时删除使用该容器卷的容器也不影响
在容器里面的写入数据不会影响到镜像本身，即容器卷的变化不会影响镜像的更新
依赖于宿主机目录，宿主机出问题，上面容器会受影响，当宿主机较多时，不方便统一管理
匿名和命名数据卷在容器启动时初始化，如果容器使用的镜像在挂载点包含了数据，会开呗到新的初始化的数据卷中

数据卷使用方法

启动容器时，可以指定使用数据卷实现容器数据的持久化，数据卷有三种

指定宿主机目录或文件：指定宿主机的具体路径和容器路径的挂载关系
匿名卷：不指定数据名称，只指定容器内目录路径充当挂载点，docker自动指定宿主机的路径进行挂载
命名卷：指定数据卷的名称和容器路径的挂载关系

# docker run 命令的以下格式可以实现数据卷
-v,--volume=[host-src:]container-dest[:options]


ro 从容器内对此数据卷是只读，不写此项默认为可读可写 
rw 从容器内对此数据卷可读可写，此为默认值

# 指定宿主机目录或文件格式：
# 将宿主机目录挂载容器目录，两个目录都可自动创建
-v <宿主机绝对路径的目录或文件>:<容器目录或文件>[:ro]

# 匿名卷，只指定容器内路径，没有指定宿主机路径信息，宿主句自动生成/var/lib/docker/vlumes/<卷ID>/_data目录，并挂在至容器指定路径
-v <容器内路径>

# 示例
docker run --name nginx -v /etc/nginx nginx

# 命名卷将固定的存放在/var/lib/docker/volumes/<卷名>/_data
-v <卷名>:<容器目录路径>

# 可以通过以下命令事先创建，如没有事先创建卷名，docker run时也会自动创建卷
docker volume create <卷名>

# 示例
docker run -d -p 80:80 --name nginx01 -v vol1:/usr/share/nginx/html nginx

# docker rm的 -v 选项可以上处容器时，同时删除相关联的匿名卷

# 管理卷命令
docker volume COMMAND

Commands:
create
inspect
ls
prune
rm

# 查看数据卷的挂载关系
docker inspect --format="{{.Mounts}}" <容器ID>

# 删除所有数据卷
docker volume rm `docker volume ls -q`

数据卷容器

数据卷容器介绍

在Dockerfile中创建的是匿名数据卷无法直接实现多个容器之间共享数据

数据卷容器最大的功能是可以让数据在多个docker容器之间共享

相当于先要创建一个后台运行的容器作为Server，用于提供数据卷，这个卷可以为其他容器提供数据存储服务，其他使用此卷的容器作为client端，但此方法不常使用

缺点：依赖一个Server的容器，所以此Server出了问题，其他Client容器都会受影响

使用数据卷容器

启动容器时，指定使用数据卷容器

docker run 命令的一下选项可以实现数据卷容器

--volume-from <数据卷容器>

数据卷容器总结

将提供的容器Server删除，已经运行的容器Client依然可以使用挂载的卷，因为容器是通过挂载访问数据的，但是无法创建新的卷容器客户端，但是再把卷容器Server创建后即可正常创建卷容器Client，此方式可以用于线上共享数据目录等环境，因为即使数据卷容器被删除了，其他已经运行的容器依然可以挂载使用

由此可知，数据卷容器的功能知识将数据挂载信息传递给了其他使用数据卷容器的容器，而数据卷容器本身并不是提供数据存储功能

数据卷容器可以作为共享的方式为其他容器提供文件共享，类似于NFS，可以在生产中启动一个实例挂载本地的目录，然后其他的容器分别挂载此容器的目录，即可保证各容器之间的数据一致性

数据卷容器的Server和Client可以不使用同一个镜像生成

网络管理

Docker默认的网络通信

Docker安装后默认的网络设置

docker容器创建后，必不可少的要和其他主机或容器进行网络通信

Docker服务安装完成之后，默认在每个宿主机会生成一个名称为docker0的网卡其IP地址都是172.17.0.1/16

创建容器后的网络配置

每次新建容器后

宿主机多了一个虚拟网卡，和容器的网卡组合成一个网卡，比如：137：veth8ca6e42@if136，而在容器内的网卡名为136，可以看出和宿主机的网卡之间的关联
容器会自动获取一个172.17.0.0/16网段的随机地址，默认从172.17.0.2开始，第二次为172.17.0.3，以此类推
容器获取的地址并不固定，每次容器重启，可能会发生地址变化

容器间的通信

同一个宿主机的不同容器可相互通信

默认情况下

同一个宿主机的不同容器之间可以相互通信

dockerd --icc  Enable inter-container communication （default true）
--icc=false  # 此配置可以禁止同一个宿主机的容器之间通信

不同宿主机之前的容器IP地址重复，默认不能相互通信

禁止同一个宿主机的不同容器间通信

[root@centos7 ~]# vim /usr/lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock --icc=false
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker

修改默认的网络设置

新建容器默认使用docekr0的网络配置，可以修改默认指向自定义的网桥网络

# 用自定义的网桥代替默认的docker0
# 查看默认网络
[root@centos7 ~]# ip a
1: lo:  mtu 65536 qdisc noqueue state UNKNOWN qlen 1
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
       valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host
       valid_lft forever preferred_lft forever
2: eth0:  mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:1c:42:2d:76:72 brd ff:ff:ff:ff:ff:ff
    inet 10.0.0.14/24 brd 10.0.0.255 scope global dynamic eth0
       valid_lft 1219sec preferred_lft 1219sec
    inet6 fe80::b56f:3e7e:8cac:f26d/64 scope link
       valid_lft forever preferred_lft forever
3: docker0:  mtu 1500 qdisc noqueue state DOWN
    link/ether 02:42:c6:6c:af:1d brd ff:ff:ff:ff:ff:ff
    inet 172.17.0.1/16 brd 172.17.255.255 scope global docker0
       valid_lft forever preferred_lft forever
    inet6 fe80::42:c6ff:fe6c:af1d/64 scope link
       valid_lft forever preferred_lft forever
[root@centos7 ~]# yum install -y bridge-utils
[root@centos7 ~]# brctl addbr br0
[root@centos7 ~]# ip a a 192.168.100.1/24 dev br0
[root@centos7 ~]# brctl show
bridge namebridge idSTP enabledinterfaces
br08000.000000000000no
docker08000.0242c66caf1dno
[root@centos7 ~]# ip a
1: lo:  mtu 65536 qdisc noqueue state UNKNOWN qlen 1
    link/loopback 00:00:00:00:00:00 brd 00:00:00:00:00:00
    inet 127.0.0.1/8 scope host lo
       valid_lft forever preferred_lft forever
    inet6 ::1/128 scope host
       valid_lft forever preferred_lft forever
2: eth0:  mtu 1500 qdisc pfifo_fast state UP qlen 1000
    link/ether 00:1c:42:2d:76:72 brd ff:ff:ff:ff:ff:ff
    inet 10.0.0.14/24 brd 10.0.0.255 scope global dynamic eth0
       valid_lft 1100sec preferred_lft 1100sec
    inet6 fe80::b56f:3e7e:8cac:f26d/64 scope link
       valid_lft forever preferred_lft forever
3: docker0:  mtu 1500 qdisc noqueue state DOWN
    link/ether 02:42:c6:6c:af:1d brd ff:ff:ff:ff:ff:ff
    inet 172.17.0.1/16 brd 172.17.255.255 scope global docker0
       valid_lft forever preferred_lft forever
    inet6 fe80::42:c6ff:fe6c:af1d/64 scope link
       valid_lft forever preferred_lft forever
22: br0:  mtu 1500 qdisc noop state DOWN qlen 1000
    link/ether 72:ed:44:ff:22:a5 brd ff:ff:ff:ff:ff:ff
    inet 192.168.100.1/24 scope global br0
       valid_lft forever preferred_lft forever
[root@centos7 ~]# vim /usr/lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock -b br0
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker
[root@centos7 ~]# ps -ef |grep dockerd
root      6763     1  1 11:36 ?        00:00:00 /usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock -b br0
root      6911  6651  0 11:36 pts/1    00:00:00 grep --color=auto dockerd
[root@centos7 ~]# docker run --rm alpine hostname -i
192.168.100.2

容器名称互联

新建容器时，docker会自动分配容器名称，容器ID和IP地址，导致容器名称，容器ID和IP都不固定，那么如何区分不同的容器，实现和确定目标容器的通信呢？解决方案是给容器起个固定的名称，容器之间通过固定名称实现确定目标的通信

有两种固定名称

容器名称
容器名称的别名

通过容器名称互联

容器名称介绍

即在同一个宿主机上的容器之间可以通过自定义的容器名称相互访问，比如：一个业务前端静态页面是使用nginx，动态页面使用的是Tomcat，另外还需要负载均衡调度器，如：haproxy对请求调度至nginx和Tomcat的容器，由于容器在启动的时候其内部IP地址是DHCP随机分配的，而给容器起个固定的名称，则是相对比较固定的，因此比较适用于此场景

注意：如果被引用的容器地址变化，必须重启当前容器才能生效

容器名称实现

docker run创建容器，可使用 --link选项实现容器名称的引用

--link list
# 格式：

# 先创建指定名称的容器
docker run --name <容器名称>

# 再创建容器时引用上面容器的名称
docker run --link <目标通信的容器ID或容器名称>

通过自定义容器别名互联

容器别名介绍

自定义的容器名称可能后期会发生变化，那么一旦名称发生变化，容器内程序之间也必须要随之发生变化，比如：程序通过固定的容器名称进行服务调用，但是容器名称发生变化之后再使用之前的名称肯定是无法成功调用，每次都进行更改的话又比较麻烦，因此可以使用自定义别名的方式解决，即容器名称可以随意更改，只要不更改别名即可

容器别名实现

docker run --name <容器名称>
docker run -d --name 容器名称 --link <目标容器名称>:<容器别名>
docker run -d --name 容器名称 --link <目标容器名称>:"<容器别名> <容器别名> <容器别名>" # 可以是多个别名

Docker网络连接模式

Docker网络支持5种网络模式：

none
bridge
host
container
network-name

# 查看默认的网络模式
[root@centos7 ~]# docker network ls
NETWORK ID     NAME      DRIVER    SCOPE
adaac389304f   bridge    bridge    local
5feb362eb28e   host      host      local
00f34cf82248   none      null      local

网络模式指定

# 默认新建的容器使用Bridge模式，创建容器时，docker run 命令使用以下指定网络模式
docker run --network 
docker run --net=

: # 可以是以下值
none
bridge
host
container:<容器名或容器ID>
<自定义网络名称>

bridge网络模式

bridge网络模式架构

bridge模式是docker的默认模式，即不指定任何模式就是bridge模式，也是使用比较多的模式，此模式创建的容器会为每一个容器分配自己的网络IP等信息，并将容器连接到一个虚拟网桥与外界通信。可以和外部网络之间进行通信，通过SNAT访问网络，使用DNAT可以让容器被外部主机访问，所以此模式也称为NAT模式

此模式宿主机需要启动ip_forward功能

bridge网络模式特点：

网络资源隔离：不同宿主机的容器无法直接通信，各自使用独立网络
无需手动配置：容器默认自动获取172.17.0.0/16的IP地址，此地址可以修改
可访问外网：利用宿主机的物理网卡，SNAT连接外网
外部主机无法直接访问容器：可以通过配置DNAT接收外网的访问
性能较低：因为可通过NAT，望路转换带来更多的损耗
端口管理繁琐：每个容器必须手动指定唯一的端口，容器产生端口冲突

bridge模式的默认设置

# 查看bridge模式信息
[root@centos7 ~]# docker network inspect bridge
[
    {
        "Name": "bridge",
        "Id": "adaac389304f7654edfab8612d6d82ec5b13b6e81331a296c98fa6c824eb79dd",
        "Created": "2022-08-26T13:11:24.088093198+08:00",
        "Scope": "local",
        "Driver": "bridge",
        "EnableIPv6": false,
        "IPAM": {
            "Driver": "default",
            "Options": null,
            "Config": [
                {
                    "Subnet": "192.168.100.0/24",
                    "Gateway": "192.168.100.1"
                }
            ]
        },
        "Internal": false,
        "Attachable": false,
        "Ingress": false,
        "ConfigFrom": {
            "Network": ""
        },
        "ConfigOnly": false,
        "Containers": {},
        "Options": {
            "com.docker.network.bridge.default_bridge": "true",
            "com.docker.network.bridge.enable_icc": "true",
            "com.docker.network.bridge.enable_ip_masquerade": "true",
            "com.docker.network.bridge.host_binding_ipv4": "0.0.0.0",
            "com.docker.network.bridge.name": "br0",
            "com.docker.network.driver.mtu": "1500"
        },
        "Labels": {}
    }
]

# 查看宿主机的网络状态
# 安装docker后 默认启动ip_forward
[root@centos7 ~]# cat /proc/sys/net/ipv4/ip_forward
1
[root@centos7 ~]# iptables -vnL -t nat
Chain PREROUTING (policy ACCEPT 2 packets, 424 bytes)
 pkts bytes target     prot opt in     out     source               destination
    1    64 DOCKER     all  --  *      *       0.0.0.0/0            0.0.0.0/0            ADDRTYPE match dst-type LOCAL

Chain INPUT (policy ACCEPT 1 packets, 64 bytes)
 pkts bytes target     prot opt in     out     source               destination

Chain OUTPUT (policy ACCEPT 3 packets, 984 bytes)
 pkts bytes target     prot opt in     out     source               destination
    0     0 DOCKER     all  --  *      *       0.0.0.0/0           !127.0.0.0/8          ADDRTYPE match dst-type LOCAL

Chain POSTROUTING (policy ACCEPT 3 packets, 984 bytes)
 pkts bytes target     prot opt in     out     source               destination
    0     0 MASQUERADE  all  --  *      !br0    192.168.100.0/24     0.0.0.0/0

Chain DOCKER (2 references)
 pkts bytes target     prot opt in     out     source               destination
    0     0 RETURN     all  --  br0    *       0.0.0.0/0            0.0.0.0/0

修改默认的bridge模式网络配置

[root@centos7 ~]# vim /lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock --bip=10.100.0.1/24
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker
[root@centos7 ~]# docker network inspect bridge
[
    {
        "Name": "bridge",
        "Id": "d1f65af6a2d6d9f8e73cf830c47236f5df50c7d04690bde64f499a43c82328eb",
        "Created": "2022-08-26T14:04:28.649359443+08:00",
        "Scope": "local",
        "Driver": "bridge",
        "EnableIPv6": false,
        "IPAM": {
            "Driver": "default",
            "Options": null,
            "Config": [
                {
                    "Subnet": "10.100.0.0/24",
                    "Gateway": "10.100.0.1"
                }
            ]
        },
        "Internal": false,
        "Attachable": false,
        "Ingress": false,
        "ConfigFrom": {
            "Network": ""
        },
        "ConfigOnly": false,
        "Containers": {},
        "Options": {
            "com.docker.network.bridge.default_bridge": "true",
            "com.docker.network.bridge.enable_icc": "true",
            "com.docker.network.bridge.enable_ip_masquerade": "true",
            "com.docker.network.bridge.host_binding_ipv4": "0.0.0.0",
            "com.docker.network.bridge.name": "docker0",
            "com.docker.network.driver.mtu": "1500"
        },
        "Labels": {}
    }
]

Host模式

如果指定host模式启动的容器，那么新创建的容器不会创建自己的虚拟网卡，而是直接使用宿主的网卡和IP地址，因此在容器里面查看到的IP信息就是宿主机的信息，访问容器的时候直接使用宿主机IP+容器端口即可，不过容器内除网络以外的其他资源，如文件系统、系统进程等仍然和宿主机保持隔离

此模式由于直接使用宿主机的网络无需转换，网络性能最高，但是个容器使用的端口不能相同，适用于运行容器端口比较固定的业务

Host网络模式特点：

使用参数 - -network host 指定
共享宿主机网络
网络性能无损耗
网络故障排除相对简单
各容器网络无隔离
网络资源无法分别统计
端口管理困难：容易产生端口冲突
不支持端口映射

none模式

在使用none模式后，Docker容器不会进行任何网洛洛配置，没有网卡，没有IP 也没有路由，因此默认无法与外界通信，需要手动添加网卡配置IP等，所以极少使用

none模式特点：

使用参数 - -network none 指定
默认无网络功能，无法和外部通信

Container模式

使用此模式创建的容器需指定和一个已经存在的容器共享一个网络，而不是和宿主机共享网络，新创建的容器不会创建自己的网卡也不会配置自己的IP，而是和一个被指定的已经存在的容器共享IP和端口范围，因此这个容器的端口不能被指定容器的端口冲突，除了网络之外的文件系统、进程信息等仍然保持相互隔离，两个容器的进程可以通过lo网卡进行通信

Container模式特点：

使用参数 - -network container:名称或ID 指定
与宿主机网络隔离
容器间共享网络空间
适合频繁的容器间的网络通信
直接使用对方的网络，较少使用

自定义网络模式

除了以上的网络模式，也可以自定义网络，使用自定义的网段地址，网关等信息

注意：自定义网络内的容器可以直接通过容器名进行相互的访问，而无需使用 - -link

可以使用自定义网络模式，实现不同集群应用的独立网络管理，而互不影响，而且在一个网络内，可以直接利用容器名相互访问非常便利

自定义网实现

[root@centos7 ~]# docker network --help

Usage:  docker network COMMAND

Manage networks

Commands:
  connect     Connect a container to a network
  create      Create a network
  disconnect  Disconnect a container from a network
  inspect     Display detailed information on one or more networks
  ls          List networks
  prune       Remove all unused networks
  rm          Remove one or more networks

Run 'docker network COMMAND --help' for more information on a command.

# 创建自定义网络  注意mode不支持host和none
docker network create -d  --subnet  --gateway  <网关> <自定义网络名称>

# 查看自定义网络
docker network inspect <自定义网络名称或网络ID>

# 引用自定义网络
docker run --network <自定义网络名称> <镜像名称>

# 删除自定义网络
docker network rm <自定义网络名称或网络ID>

Docker仓库管理

Docker仓库，类似于yum仓库，是用来保存镜像的仓库。为了方便的管理和使用docker镜像，可以将镜像集中保存至Docker仓库中，将制作好的镜像push到仓库集中保存，在需要镜像时，从仓库中pull镜像即可。

Docker仓库分为公有云仓库和私有云仓库

公有云仓库：由互联网公司对外公开的仓库

官方
阿里云等第三方仓库

私有云仓库：组织内部搭建的仓库，一般只为组织内部使用，常使用下面软件搭建仓库

docekr registory
docker harbor

官方Docker仓库

https://hub.docker.com

# 用户登录 输入账号密码即可
docker login

# 上传本地镜像前必须先给上传的镜像用docker tag命令打标签
# 标签格式 docker.io/用户账号/镜像名:TAG
docker tag alpine:3.11 docker.io/xchensir/alpine:3.11-v1

# 上传本地镜像至官网
docker push docker.io/xchensir/alpine:3.11-v1

私有云单机仓库Docker Registry

Docker Registry作为Docker的核心组件之一负责单主机的镜像内容的存储与分发，客户端的docker pull以及push命令都将直接与registry进行交互，最初版本的registry由python实现，由于设计初期在安全性，性能以及API的设计上有着诸多缺陷，该版本在0.9之后停止开发，由新项目distribution（新的docker register被称为Distribution）来重新设计并开发下一代registry，新的项目由go语言开发，所有的API，底层存储方式，系统架构都进行了全面的重新设计，已解决上一代registry中存在的问题，2016年4月registry2.0正式发布，docker1.6版本开始支持registry2.0，而八月份随着docker1.8发布，docker hub正式启用2.1版本registry全面替代之前版本registry，新版registry对镜像存储格式进行了重新设计和旧版不兼容，docker1.5和之前的版本无法读取2.0的镜像，另外，Registry2.4版本之后支持了回收站机制，也就是可以删除镜像，在2.4版本之前是不支持删除镜像的，所以最好使用大于Registry2.4版本

官方文档地址 https://docs.docker.com/registry/

官方部署文档 https://github.com/docker/docker.github.io/blob/master/registry/deploying.md

搭建单机仓库

# 下载 docker registry 镜像
[root@centos7 ~]# docker pull registry:2.7.1

# 创建授权用户密码使用目录
[root@centos7 ~]# mkdir -p /etc/docker/auth

# 创建授权的registry用户和密码
# 创建registry用户 用于上传和下载镜像
[root@centos7 ~]# yum install -y httpd
[root@centos7 ~]# htpasswd -Bbn chensir 123456 > /etc/docker/auth/registry
[root@centos7 ~]# cat /etc/docker/auth/registry
chensir:$2y$05$KP9hiJW3W5ZvwfTeWUctEuak6vHxsHOdJpMRoHRfYQnIXfmEsceOS

[root@centos7 ~]# docker run -d -p 5000:5000 --restart=always --name registry -v /etc/docker/auth/:/auth -e "REGISTRY_AUTH=htpasswd" -e "REGISTRY_AUTH_HTPASSWD_REALM=Registry Realm" -e REGISTRY_AUTH_HTPASSWD_PATH=/auth/registry registry:2.7.1
f2373f9e7c67bf628feb6222ff716cab115d63ffce9791179ef4797a00338145

[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE            COMMAND                  CREATED          STATUS          PORTS                                       NAMES
f2373f9e7c67   registry:2.7.1   "/entrypoint.sh /etc…"   47 seconds ago   Up 46 seconds   0.0.0.0:5000->5000/tcp, :::5000->5000/tcp   registry
[root@centos7 ~]# docker port f23
5000/tcp -> 0.0.0.0:5000
5000/tcp -> :::5000

# 登陆仓库
# docker login 默认使用https登录，而docker registry为http，所以默认登录失败
[root@centos7 ~]# docker login 10.0.0.14:5000
Username: chensir
Password:
Error response from daemon: Get "https://10.0.0.14:5000/v2/": http: server gave HTTP response to HTTPS client

# 修改配置使docker login支持HTTP协议
[root@centos7 ~]# vim /lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock --insecure-registry 10.0.0.14:5000
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker

# 再次登录 验证成功
[root@centos7 ~]# docker login 10.0.0.14:5000
Authenticating with existing credentials...
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded

# 打包并上传镜像
[root@centos7 ~]# docker images
REPOSITORY   TAG       IMAGE ID       CREATED         SIZE
test         v1        401a15cbac90   8 days ago      1.24MB
[root@centos7 ~]# docker tag test:v1 10.0.0.14:5000/test:v1
[root@centos7 ~]# docker push 10.0.0.14:5000/test:v1
The push refers to repository [10.0.0.14:5000/test]
084326605ab6: Pushed
v1: digest: sha256:c04ecf7d8a544273ae7b7d1cda2f6c123a9690fc56c705dd5e16a20c65bba555 size: 527

# 下载镜像
[root@centos7 ~]# docker images
REPOSITORY   TAG       IMAGE ID       CREATED        SIZE
registry     2.7.1     b8604a3fe854   9 months ago   26.2MB
[root@centos7 ~]# docker pull 10.0.0.14:5000/test:v1
v1: Pulling from test
50783e0dfb64: Pull complete
Digest: sha256:c04ecf7d8a544273ae7b7d1cda2f6c123a9690fc56c705dd5e16a20c65bba555
Status: Downloaded newer image for 10.0.0.14:5000/test:v1
10.0.0.14:5000/test:v1
[root@centos7 ~]# docker images
REPOSITORY            TAG       IMAGE ID       CREATED        SIZE
10.0.0.14:5000/test   v1        401a15cbac90   8 days ago     1.24MB
registry              2.7.1     b8604a3fe854   9 months ago   26.2MB

Docker之分布式仓库Harbor

Harbor是一个用于存储和分发Docker镜像的企业级Registry服务器，由VMware开源，其通过添加一些企业必须的功能特性，例如安全、标识和管理等，扩展了开源Docker Distribution。作为一个企业级私有Registry服务器，Harbor提供了更好的性能和安全。提升用户使用Registry构建和运行环境传输镜像的效率。Harbor支持安装在多个Registry节点的镜像资源复制，镜像全部保存在私有Registry中，确保数据和知识产权在公司内部网络中管控，另外，Harbor也提供了高级的安全特性，诸如用户管理，访问控制和活动审计等

vmware官方开源服务 https://vmware.github.io

harbor官方github地址 https://github.com/goharbor/harbor

harbor官方网址 https://goharbor.io

harbor官方文档 https://goharbor.io/docs/

Harbor功能

基于角色的访问控制：用户与Docker镜像仓库通过“项目”进行组织管理，一个用户可以对多个镜像仓库在同一命名空间（project）里有不同的权限
镜像复制：镜像可在多个Registry实例中复制（同步）。尤其适合负载均衡，高可用，混合云和多云场景
图形化用户界面：用户可以通过浏览器来浏览，检索当前Docker镜像仓库，管理项目和命名空间
AD/LDAP支：Harbor可以集成企业内部已有的AD/LDAP，用于鉴权认证管理
国际化：已拥有英文、中文、德文、日文和俄文的本地化版本
RESTful API：提供给管理员对于Harbor更多的操控，使得其它管理软件集成变得更容易
部署简单：提供在线和离线两种安装工具，也可以安装到vSphere平台（OVA方式）虚拟设备

Harbor组成

proxy：对应启动组件Nginx。它是一个nginx反向代理，代理Notary client（镜像认证）、Docker client（镜像上传下载等）和浏览器的访问请求（Core Service）给后端的各服务
UI（Core Service）：对应启动组件harbor-ui。底层数据存储使用mysql数据库，主要提供了四个子功能：
- UI：一个Web管理页面
- API：Harbor暴露的API服务
- Auth：用户认证服务，decode后的token中的用户信息在这里进行认证；auth后端可以接db、ldap、uaa三种认证实现
- Token服务：负责根据用户在每个project中的role来为每一个docker push/pull命令发布一个token，如果从docker client发送给registry的请求没带token，registry会重定向请求到token服务创建token
Registry：对应启动组件registry。负责存储镜像文件和处理镜像的pull/push命令。Harbor对镜像进行强制的访问控制，Registry会将客户端的每个pull、push请求转发到token服务来获取有效的token
Admin Service：对应启动组件harbor-adminserver。是系统的配置管理中心附带检查存储用量，ui和job server启动时需要加载adminserver配置
Job Service：对应启动组件harbor-jobservice。负责镜像复制的工作，他和registry通信，从一个registry pull镜像然后push到另一个registry，并记录job_log
Log Collector：对应启动组件harbor-log。日志汇总组件，通过docker的log-drive把日志汇总到一起
DB：对应启动组件harbor-db，负责存储project、user、role、replication、image_scan、access等的metadata数据

安装Harbor

下载地址：https://github.com/vmware/harbor/releases

环境准备：四台机器两台harbor服务器，两台harbor客户端上传和下载镜像

安装docker

rm -rf /etc/yum.repos.d/*

# centos 7 安装docker依赖三个yum源：Base，Extras，docker-ce
wget -O /etc/yum.repos.d/CentOS-Base.repo http://mirrors.aliyun.com/repo/Centos-7.repo
wget -O /etc/yum.repos.d/epel.repo http://mirrors.aliyun.com/repo/epel-7.repo
wget -O /etc/yum.repos.d/docker-ce.repo https://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

yum clean all
yum install docker-ce -y
systemctl enable --now docker

安装docker-compose

[root@centos7 ~]# wget -O /usr/local/bin/docker-compose https://github.com/docker/compose/releases/download/v2.10.2/docker-compose-linux-x86_64
[root@centos7 ~]# chmod +x /usr/local/bin/docker-compose
[root@centos7 ~]# ln -s /usr/local/bin/docker-compose /usr/bin/docker-compose
[root@centos7 ~]# docker-compose --version

下载Harbor安装包并解压缩安装启动

# 推荐下载离线完整版安装包
[root@centos7 ~]# wget https://github.com/goharbor/harbor/releases/download/v2.6.0/harbor-offline-installer-v2.6.0.tgz
[root@centos7 ~]# mkdir /apps
[root@centos7 ~]# tar xvf harbor-offline-installer-v2.6.0.tgz  -C /apps/
[root@centos7 ~]# cp /apps/harbor/harbor.yml.tmpl /apps/harbor/harbor.yml
[root@centos7 ~]# vim /apps/harbor/harbor.yml
hostname: 10.0.0.16               # 修改此行，指向当前主机IP
harbor_admin_password: 123456# 修改此行指定harbor登录用户admin的密码，默认用户/密码 admin/Harbor12345

# 安装docker 先安装python
[root@centos7 ~]# /apps/harbor/install.sh

# 安装后会自动开启很多先关容器
[root@centos7 ~]# docker ps
CONTAINER ID   IMAGE                                COMMAND                  CREATED         STATUS                   PORTS                                   NAMES
5a84db870a20   goharbor/nginx-photon:v2.6.0         "nginx -g 'daemon of…"   4 minutes ago   Up 4 minutes (healthy)   0.0.0.0:80->8080/tcp, :::80->8080/tcp   nginx
c8ab9fcba25b   goharbor/harbor-jobservice:v2.6.0    "/harbor/entrypoint.…"   4 minutes ago   Up 4 minutes (healthy)                                           harbor-jobservice
7bb48de3447b   goharbor/harbor-core:v2.6.0          "/harbor/entrypoint.…"   4 minutes ago   Up 4 minutes (healthy)                                           harbor-core
d680480c0ef3   goharbor/redis-photon:v2.6.0         "redis-server /etc/r…"   4 minutes ago   Up 4 minutes (healthy)                                           redis
09bbe5448ad2   goharbor/harbor-registryctl:v2.6.0   "/home/harbor/start.…"   4 minutes ago   Up 4 minutes (healthy)                                           registryctl
88f5bcdd4c4b   goharbor/harbor-portal:v2.6.0        "nginx -g 'daemon of…"   4 minutes ago   Up 4 minutes (healthy)                                           harbor-portal
4e8d142ecb96   goharbor/registry-photon:v2.6.0      "/home/harbor/entryp…"   4 minutes ago   Up 4 minutes (healthy)                                           registry
645b169ac0cf   goharbor/harbor-db:v2.6.0            "/docker-entrypoint.…"   4 minutes ago   Up 4 minutes (healthy)                                           harbor-db
7c9e23d67190   goharbor/harbor-log:v2.6.0           "/bin/sh -c /usr/loc…"   4 minutes ago   Up 4 minutes (healthy)   127.0.0.1:1514->10514/tcp               harbor-log

# 实现开机自动启动harbor
# 方式1：通过service文件实现
[root@centos7 ~]# vim /lib/systemd/system/harbor.service
[Unit]
Description=Harbor
After=docker.service systemd-networked.service systemd-resolved.service
Requires=docker.service
Documentation=http://github.com/vmware/harbor

[Service]
Type=simple
Restart=on-failure
RestartSec=5
ExecStart=/usr/bin/docker-compose -f /apps/harbor/docker-compose.yml up
ExecStop=/usr/bin/docker-compose -f /apps/harbor/docker-compose.yml down

[Install]
WantedBy=multi-user.target

# 方式2：通过rc.local实现
[root@centos7 harbor]# cat /etc/rc.local
#!/bin/bash
cd /apps/harbor
/usr/bin/docker-compose up
[root@centos7 harbor]# chmod +x /etc/rc.local

# 至此安装完毕 用浏览器访问 http://10.0.0.16
# 用户名：admin 密码：前面harbor.yml指定的密码

命令行登录harbor

[root@centos7 ~]# vim /lib/systemd/system/docker.service
ExecStart=/usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock --insecure-registry 10.0.0.16 --insecure-registry 10.0.0.17
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker
[root@centos7 harbor]# docker login 10.0.0.16
Username: admin
Password:
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded

# 查看进程是否添加上面的设置
[root@centos7 ~]# ps aux |grep dockerd
root      7875  0.5  4.1 1777524 78544 ?       Ssl  10:07   0:00 /usr/bin/dockerd -H fd:// --containerd=/run/containerd/containerd.sock --insecure-registry 10.0.0.16 --insecure-registry 10.0.0.17
root      9420  0.0  0.0 112680   984 pts/1    S+   10:09   0:00 grep --color=auto dockerd

本地镜像打标签上传至harbor

# 修改images的名称，不修改成指定格式无法将镜像上传到harbor仓库
# 格式为 （项目名需要登录Harbor管理页面去新建 如果不事先建立项目，上传镜像失败）
Harbor主机IP/项目名/image名字:版本

# 例如
[root@centos7 ~]# docker images
REPOSITORY                      TAG       IMAGE ID       CREATED         SIZE
busybox-chensir                 v1.0      71a52e0618a5   3 seconds ago   1.24MB
[root@centos7 ~]# docker login 10.0.0.16
Authenticating with existing credentials...
WARNING! Your password will be stored unencrypted in /root/.docker/config.json.
Configure a credential helper to remove this warning. See
https://docs.docker.com/engine/reference/commandline/login/#credentials-store

Login Succeeded
[root@centos7 ~]# docker tag busybox-chensir:v1.0 10.0.0.16/chensir/busybox-chensir:v1.0
[root@centos7 ~]# docker push 10.0.0.16/chensir/busybox-chensir:v1.0
The push refers to repository [10.0.0.16/chensir/busybox-chensir]
c1cf1676e7d0: Pushed
v1.0: digest: sha256:c501ccda169599fb77102ad0c2e2568336eaccf9ad83c94aec0d6f28fb55c0a0 size: 527

下载harbor镜像

在10.0.0.15的centos7主机上无需登录，即可下载镜像

注：下载前需修改docker的service文件，加入harbor服务器的地址才可以下载

[root@centos7 ~]# docker pull 10.0.0.16/chensir/busybox-chensir:v1.0
Error response from daemon: Get "https://10.0.0.16/v2/": dial tcp 10.0.0.16:443: connect: connection refused
[root@centos7 ~]# vim /lib/systemd/system/docker.service
[root@centos7 ~]# systemctl daemon-reload
[root@centos7 ~]# systemctl restart docker
[root@centos7 ~]# docker pull 10.0.0.16/chensir/busybox-chensir:v1.0
v1.0: Pulling from chensir/busybox-chensir
2c39bef88607: Pull complete
Digest: sha256:c501ccda169599fb77102ad0c2e2568336eaccf9ad83c94aec0d6f28fb55c0a0
Status: Downloaded newer image for 10.0.0.16/chensir/busybox-chensir:v1.0
10.0.0.16/chensir/busybox-chensir:v1.0
[root@centos7 ~]# vim /lib/systemd/system/docker.service
[root@centos7 ~]# docker images
REPOSITORY                          TAG       IMAGE ID       CREATED       SIZE
10.0.0.16/chensir/busybox-chensir   v1.0      71a52e0618a5   2 hours ago   1.24MB

修改harbor配置

# 后期修改harbor配置，比如：修改IP地址等，可执行以下步骤生效
# 方法1：
[root@centos7 ~]# cd /apps/harbor/
# 停止harbor相关容器
[root@centos7 harbor]# docker-compose stop
# 修改配置
[root@centos7 harbor]# vim harbor.yml
# 更新配置
[root@centos7 harbor]# /apps/harbor/prepare
# 启动harbor
[root@centos7 harbor]# docker-compose start

# 方法2：
[root@centos7 harbor]# /apps/harbor/install.sh

实现harbor高可用

Harbor支持基于策略的Docker镜像复制功能，这类似于MySQL的主从同步，其可以实现不同的数据中心，不同的运行环境之间同步镜像，并提供友好的管理界面，大大简化了实际运维中的镜像管理工作，已经有很多互联网公司使用harbor搭建内网docker仓库的案例，并且还有实现了双向复制功能

多个harbor需要登录管理页面新建相同的项目，然后在系统管理==>仓库管理==>新建目标，系统管理==>复制管理==>新建规则互相之前配置

Harbor安全配置https

harbor默认使用http，为了安全可以使用https

# 生成私钥和证书
[root@centos7 ~]#
[root@centos7 ~]# touch /root/.rnd
[root@centos7 ~]# mkdir /apps/harbor/certs
[root@centos7 ~]# cd /apps/harbor/certs/

# 生成CA证书
[root@centos7 certs]# openssl req -newkey rsa:4096 -nodes -sha256 -keyout ca.key -x509 -subj "/CN=ca.chensir.ink" -days 365 -out ca.crt
Generating a 4096 bit RSA private key
................................................................................++
..++
writing new private key to 'ca.key'
-----

# 生成harbor主机的证书申请
[root@centos7 certs]# openssl req -newkey rsa:4096 -nodes -sha256 -subj "/CN=ca.chensir.ink" -keyout harbor.chensir.ink.key -out harbor.chensir.ink.csr
Generating a 4096 bit RSA private key
..................................................................................................................................................................................................................................................++
...........................................................................................++
writing new private key to 'harbor.chensir.ink.key'
-----

# 给harbor主机颁发证书
[root@centos7 certs]# openssl x509 -req -in harbor.chensir.ink.csr -CA ca.crt -CAkey ca.key -CAcreateserial -out harbor.chensir.ink.crt
Signature ok
subject=/CN=ca.chensir.ink
Getting CA Private Key

[root@centos7 certs]# tree /apps/harbor/certs/
/apps/harbor/certs/
├── ca.crt
├── ca.key
├── ca.srl
├── harbor.chensir.ink.crt
├── harbor.chensir.ink.csr
└── harbor.chensir.ink.key

0 directories, 6 files

# 修改配置文件
[root@centos7 certs]# vim /apps/harbor/harbor.yml
# https related config
https:
  # https port for harbor, default is 443
  port: 443
  # The path of cert and key files for nginx
  certificate: /apps/harbor/certs/harbor.chensir.ink.crt
  private_key: /apps/harbor/certs/harbor.chensir.ink.key
  
# 更新配置
[root@centos7 harbor]# /apps/harbor/prepare
# 启动harbor
[root@centos7 harbor]# docker-compose start

在客户端下载CA的证书

# 直接登录和上传下载镜像会报错
[root@centos7 ~]# vim /etc/hosts
10.0.0.16 harbor.chensir.ink
[root@centos7 ~]# docker login harbor.chensir.ink
Username: admin
Password:
Error response from daemon: Get "https://harbor.chensir.ink/v2/": x509: certificate has expired or is not yet valid: current time 2022-09-08T13:41:28+08:00 is before 2022-09-08T06:20:55Z

# 在客户端下载CA证书
[root@centos7 ~]# mkdir -pv /etc/docker/certs.d/harbor.chensir.org/
[root@centos7 ~]# scp -r harbor.chensir.ink:/apps/harbor/certs/ca.crt /etc/docker/certs.d/harbor.chensir.org/
[root@centos7 ~]# tree /etc/docker/certs.d/
/etc/docker/certs.d/
└── harbor.chensir.org
    └── ca.crt

1 directory, 1 file

单机编排 Docker Compose

当在宿主机启动较多容器的时候，如果都是手动操作会觉得比较麻烦而且容易出错，此时推荐使用docker单机编排工具docker-compose

docker-compose是docker容器的一种单机编排服务，docker-compose是一个管理多个容器的工具，比如：可以解决容器之间的依赖关系，就像启动一个nginx前端的时候会调用后端额Tomcat，那就得先启动Tomcat，但是启动Tomcat容器还需要依赖数据库，那就还得启动数据库，docker-compose可以用来解决这样的嵌套依赖关系，并且可以替代docker命令对容器进行创建、启动和停止等手工的操作

因此，如果说docker命令就像linux的命令，docker-compose就像shell脚本，可以自动的执行容器批量操作，从而实现自动化的容器管理，或者说docker命令相当于Ansible命令，那么docker compose文件，就相当于ansible-playbook的yaml文件

docker-compose 项目是Docker官方开源项目，负责实现对Docker容器集群的快速编排，docker-compose将所管理的容器分为三层，分别是工程（project），服务（service）以及容器（Container）

命令格式

[root@centos7 certs]# docker-compose --help
Usage:  docker compose [OPTIONS] COMMAND

# 选项说明
-f  # 指定compose模板文件，默认为docker-compose.yml
-p   # 指定项目名称，默认将使用当前所在目录名称作为项目名
--verbose# 显示更多输出信息
--log-level LEVEL # 定义日志级别 （DEBUG，INFO，WARNING，ERROR，CRITICAL）
--no-ansi # 不显示ANSI 控制字符
-v # 显示版本

# 以下命令选项，需要造docker-compose.yml 文件所在目录里执行
build# 构建镜像
bundle# 从当前docker compose 文件生成一个以<当前目录>为名称的json格式的Docker Bundle备份文件
config -q # 查看当前配置，没有错误不输出任何信息
create# 创建服务，较少使用
down# 停止和删除所有容器、网络、镜像和卷
events# 从容器接收实时事件，可以指定json日志格式，较少使用
exec# 进入指定容器进行操作
help# 显示帮助信息
images    # 显示镜像信息，较少使用
kill# 强制终止运行中的容器
logs# 查看容器的日志
pause# 暂停服务
port# 查看端口
ps# 列出容器，较少使用
pull# 重新拉去镜像，镜像发生变化后，需要重新拉去镜像，较少使用
push# 上传镜像
restart# 重启服务，较少使用
rm# 删除已经停止的服务
run# 一次性运行容器
scale# 设置指定服务运行的容器个数
start# 启动服务，较少使用
stop# 停止服务，较少使用
top# 显示容器运行状态
unpause# 取消暂定
up# 床架并启动容器，较少使用

docker-compose文件格式

https://docs.docker.com/compose/compose-file/

docker-compose文件是一个yaml格式的文件，所以注意行首的缩进很严格

默认docker-compose命令会调用当前目录下的docker-compose.yml文件，因此一般执行docker-compose命令先进入docker-compose.yml文件所在目录

docker-compose启动单各容器

注意：使用docker-compose之前，先安装docker

创建docker-compose文件

docker-compose文件可以在任意目录没创建文件名为docker-compose.yml配置文件，要注意前后的缩进

[root@centos7 ~]# docker-compose --version
Docker Compose version v2.10.2
[root@centos7 ~]# mkdir /data/docker-compose
[root@centos7 ~]# cd /data/docker-compose/
[root@centos7 docker-compose]# vim docker-compose.yml
services:
 service-nginx-web:
  image: nginx
  container_name: nginx-web
  expose:
   - 80
   - 443
  ports:
   - "80:80"
   - "443:443"
# 查看配置和检查格式
[root@centos7 docker-compose]# docker-compose config
[root@centos7 docker-compose]# docker-compose config -q

启动/停止/删除/容器

注意：必须要在docker-compose文件所在的目录执行

# 前台启动
[root@centos7 docker-compose]# docker-compose up
# 后台启动
[root@centos7 docker-compose]# docker-compose up -d
# 停止容器
[root@centos7 docker-compose]# docker-compose stop
# 启动容器
[root@centos7 docker-compose]# docker-compose start
# 重新启动
[root@centos7 docker-compose]# docker-compose restart
# 只删除停止的容器
[root@centos7 docker-compose]# docker-compose rm
# 停止并删除容器及镜像
[root@centos7 docker-compose]# docker-compose down

指定同时启动容器的数量

[root@centos7 docker-compose]# vim docker-compose.yml
services:
 service-nginx-web:
  image: nginx
#  container_name: nginx-web  同时启动多个同一镜像的容器，不要指定容器名称，否则会冲突
  expose:
   - 80
   - 443
#  ports:   同时启动多个同一镜像，不要指定端口号，否则会冲突
#   - "80:80"
#   - "443:443"
[root@centos7 docker-compose]# docker-compose up -d --scale service-nginx-web=5

docker-compose启动多个容器

# 编辑docker-compose文件并使用数据卷
# 注意：同一个文件，数据卷的优先级比镜像内的文件优先级高
[root@centos7 docker-compose]# vim docker-compose.yml
services:
 service-nginx-web:
  image: nginx
  container_name: nginx-web
  volumes:
   - /data/nginx:/apps/nginx/html # 指定数据卷，将宿主机/data/nginx挂载到容器/apps/nginx/html
  expose:
   - 80
   - 443
  ports:
   - "80:80"
   - "443:443"
 service-tomcat-app1:
  image: tomcat
  expose:
   - 8080
  ports:
   - "8081:8080"
# 在宿主机准备nginx测试页面文件
[root@centos7 docker-compose]# mkdir /data/nginx
[root@centos7 docker-compose]# echo Docker compose test page > /data/nginx/index.html
[root@centos7 docker-compose]# docker-compose up -d

Docker的资源限制

https://docs.docker.com/config/containers/resource_constraints/

默认情况下，容器没有资源的使用限制，可以使用主机内核调度程序允许的尽可能多的资源

Docker提供了控制容器使用资源的方法，可以限制容器使用多少内存或CPU等，在docker run命令的运行时配置标志实现资源限制功能。

其中许多功能都要求宿主机的内核支持，要检查是否支持这些功能，可以使用docker info命令，如果内核中的某项特性可能会在输出结尾处看到警告，可参考 https://docs.docker.com/engine/install/linux-postinstall/#your-kernel-does-not-support-cgroup-swap-limit-capabilities 消除警告

OOM（Out of Memory Exception）

对于Linux主机，如果没有足够的内存来执行其他重要的系统任务，将会抛出OOM，随后系统会开始杀死进程已释放内存，凡是运行在宿主机的进程都有可能被kill，包括Dockerd和其他的应用程序，如果重要的系统进程被kill，会导致和该进程相关的服务全部宕机。通常越消耗内存比较大的应用越容易被kill，比如：MySQL数据库，java程序等

产生OOM异常时，Dockerd尝试通过调整Docker守护程序上的OOM优先级来减轻这些风险，以便它系统上的其他进程更不可能被杀死但是容器的OOM优先级未调整，这使得单个容器被杀死的可能性比Docker守护程序或其他系统进程被杀死的可能性更大，不推荐通过守护程序或容器上手动设置 oom-score-adj为极端负数，或通过在容器上设置 oom-kill-disable来绕过这些安全措施

oom优先级机制

linux会为每个进程算一个分数，最终将分数最高的kill

/proc/PID/oom_score_adj
# 范围为 -1000 到 1000，值越高越容易被宿主机kill掉，如果将该值设置为-1000，则进程永远不会被宿主机 kernel kill

/proc/PID/oom_adj
# 范围为 -17 到 +15 取值越高越容易被干掉，如果是 -17 则表示不能被 kill 该设置的存在是为了和旧版的linux内核兼容

/proc/PID/oom_score
# 这个值是系统综合进程的内存消耗量、CPU、时间（utime +、存活时间（uptime - start time））和oom_adj计算出的进程得分，消耗内存越多得分越高，容易被宿主机 kernel强制杀死

查看oom相关值

# docker服务进程的oom默认值
[root@centos7 docker-compose]# cat /proc/`pidof dockerd`/oom_adj
-8
[root@centos7 docker-compose]# cat /proc/`pidof dockerd`/oom_score
0
[root@centos7 docker-compose]# cat /proc/`pidof dockerd`/oom_score_adj
-500

容器的内存限制

Docker可以强制执行硬性内存限制，即只允许容器使用给定的内存大小

Docker也可以执行非硬性内存限制，即容器可以使用尽可能多的内存，除非内核检测到主机上的内存不够用了

以下设置大部分的选取正整数，跟着一个后缀 b,k,m,g 表示字节，千字节，兆字节或千兆字节

选项	描述
`-m`	容器可以使用的最大物理内存，硬限制，此选项最小允许值为 4m（4MB），常用
`--memory-swap`	允许此容器交换到磁盘的内存量，必须先用 `-m` 对内存限制才可以使用，详细说明如下
`–memory-swappiness`	设置容器使用交换分区的倾向性，值越高表示越倾向于使用swap分区，范围0-100，0为能不用就不用，100为能用就用
`--memory-reservation`	允许指定小于 –memory 的软限制，当docker检测到主机上的争用或内存不足时会激活该限制，如果使 `–memory-reservation`，则必须将其设置为低于 –memory才能使其优先生效。因为它是软限制，所以不能保证容器不超过限制
`--kernel-memory`	容器可以使用的最大内核内存量，最小为4m，由于内核内存与用户空间内存隔离，因此无法与用户空间内存直接交换，因此内核内存不足的容器可能会阻塞宿主机资源，这会对主机和其他容器或者其他服务进程产生影响，因此不建议设置内核内存大小
`–oom-kill-disable`	默认情况下，如果发生内存不足（OOM）错误，则内核将终止容器中的进程。要更改此行为，请使用该 –oom-kill-disable选项。仅在设置了 -m选项的容器上禁用OOM。如果-m未设置该标志，则主机可能会用完内存，内核可能需要终止系统的进程以释放内存

# 示例
[root@centos7 ~]# docker run -e MYSQL_ROOT_PASSWORD=123456 -it --rm -m 1g --oom-kill-disable mysql:5.7.29
[root@centos7 docker-compose]# sysctl -a |grep swappiness
sysctl: reading key "net.ipv6.conf.all.stable_secret"
sysctl: reading key "net.ipv6.conf.default.stable_secret"
sysctl: reading key "net.ipv6.conf.docker0.stable_secret"
sysctl: reading key "net.ipv6.conf.eth0.stable_secret"
sysctl: reading key "net.ipv6.conf.lo.stable_secret"
vm.swappiness = 30

swap限制

--memory-swap # 只有设置 --memory 后才会有意义。使用swap，可以让容器将超出限制部分的内存置换到磁盘上，WARNING：经常将内存交换到磁盘的应用程序会降低性能

不同的 --memory-swap 设置会产生不同的效果

–memory-swap	–memory	功能
正数S	正数M	容器可用内存总空间为S，其中ram为M，swap为S-M，若S=M，则无可用swap资源
0	正数M	相当于未设置swap（unset）
unset	正数M	若主机（Docker Host）启用于swap，则容器的可用swap为 2*M
-1	正数M	若主机（Docker Host）启用了swap，则容器可使用最大至主机上所有swap空间

--memory-swap # 值为正数，那么--memory 和 --memory-swap都必须要设置，--memory-swap表示你能使用的内存和swap分区大小的总和，例如：--memory=300m，--memory-swap=1g，那么该容器能够使用300m物理内存和700m swap，即--memory是实际物理内存大小值不变，而swap的实际计算方式为（--memory-swap）-（--memory）= 容器可用swap
--memory-swap # 如果设置为0，则忽略该配置，并将该值视为未设置，即未设置交换分区
--memory-swap # 如果等于--memory的值，并且--memory设置为正整数，容器无权访问swap
--memory-swap # 如果未设置，如果宿主机开启了swap，则容器的swap值最大为2*（--memory），即两倍物理内存大小，例如，如果--memory="300m"与--memory-swap没有设置，改哦让其可以使用300m总的内存和600m交换空间，但是并不准确（在容器使用free命令所看到的的swap空间并不精确，毕竟每个容器都可以看到具体大小，宿主机的swap是有上限的，而且不是所有容器看到的累计大小）
--memory-swap # 如果设置为-1，如果宿主机开启了swap，则容器可以使用主机上swap的最大空间

注意：在容器中执行free命令看到的是宿主机的内存和swap使用，而非容器自身的swap使用情况

stress-ng压力测试工具

stress-ng是一个压力测试工具，可以通过软件仓库进行安装，也提供了docker版本容器

# centos
yum install -y stress-ng
# 容器方式安装
docker pull lorel/docker-stress-ng

假如一个容器未做内存使用限制，则该容器可以利用到系统内存最大空间，默认创建的容器没有做内存资源限制

# 默认一个workers分配256M内存，2个即占512M内存
[root@centos7 ~]# docker run --name c1 -it --rm lorel/docker-stress-ng --vm 2
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm

# 上面命令是前台执行，下面在另一个终端窗口执行，可以看奥占用512M左右内存
[root@centos7 ~]# docker stats
CONTAINER ID   NAME      CPU %     MEM USAGE / LIMIT     MEM %     NET I/O     BLOCK I/O   PIDS
a28df8e66a8b   c1        197.23%   512.0MiB / 1.792GiB   28.02%    648B / 0B   0B / 0B     5

# 指定内存最大值
[root@centos7 ~]# docker run --name c1 -it --rm -m 300m lorel/docker-stress-ng --vm 2
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm

# 在另一窗口执行，一次性查看资源使用情况
[root@centos7 ~]# docker stats --no-stream
CONTAINER ID   NAME      CPU %     MEM USAGE / LIMIT   MEM %     NET I/O     BLOCK I/O     PIDS
c769402345f5   c1        163.55%   300MiB / 300MiB     100.00%   648B / 0B   6.75GB / 0B   5

# 内存限制 200M
[root@centos7 ~]# docker run -it --rm -m 200M lorel/docker-stress-ng --vm 2 --vm-bytes 256M
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm

[root@centos7 ~]# docker stats --no-stream
CONTAINER ID   NAME              CPU %     MEM USAGE / LIMIT   MEM %     NET I/O     BLOCK I/O    PIDS
c384505f559d   hardcore_shtern   192.41%   199.9MiB / 200MiB   99.96%    648B / 0B   741MB / 0B   5

# 查看基于 cgroup对容器进行资源的大小限制
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/c384505f559d799d9a20d0fbee95e131539778f3b0063829fdcf22226d435582/memory.limit_in_bytes
209715200

# 动态修改内存限制
[root@centos7 ~]# echo 300*1024*1024|bc
314572800
[root@centos7 ~]# echo 314572800 > /sys/fs/cgroup/memory/docker/c384505f559d799d9a20d0fbee95e131539778f3b0063829fdcf22226d435582/memory.limit_in_bytes
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/c384505f559d799d9a20d0fbee95e131539778f3b0063829fdcf22226d435582/memory.limit_in_bytes
314572800
[root@centos7 ~]# docker stats --no-stream
CONTAINER ID   NAME              CPU %     MEM USAGE / LIMIT   MEM %     NET I/O     BLOCK I/O     PIDS
c384505f559d   hardcore_shtern   181.25%   300MiB / 300MiB     100.00%   648B / 0B   10.7GB / 0B   5

# 通过echo命令可以改内存限制的值，但是可以在原基础上增大内存限制，缩小内存限制会报错 
# -bash: echo: 写错误: 无效的参数

# 内存大小软限制
[root@centos7 ~]# docker run -it --rm -m 256m --memory-reservation 128m --name c1 lorel/docker-stress-ng --vm 2 --vm-bytes 256m
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm

[root@centos7 ~]# docker stats --no-stream
CONTAINER ID   NAME      CPU %     MEM USAGE / LIMIT   MEM %     NET I/O     BLOCK I/O     PIDS
9fd1ea32cc83   c1        178.48%   255.9MiB / 256MiB   99.96%    648B / 0B   1.44GB / 0B   5

# 查看硬限制
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/9fd1ea32cc83788b3f223295d6976295fcb307b0adaf9b82ea883f1fba129c49/memory.limit_in_bytes
268435456

# 查看软限制
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/9fd1ea32cc83788b3f223295d6976295fcb307b0adaf9b82ea883f1fba129c49/memory.soft_limit_in_bytes

# 软限制不能高于硬限制

# 关闭OOM机制
# 查看docker OOM机制默认值
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/memory.oom_control
oom_kill_disable 0
under_oom 0

#启动容器时关闭OOM机制
[root@centos7 ~]# docker run -it --rm -m 200m --oom-kill-disable lorel/docker-stress-ng --vm 2 --vm-bytes 256m
stress-ng: info: [1] defaulting to a 86400 second run per stressor
stress-ng: info: [1] dispatching hogs: 2 vm
[root@centos7 ~]# docker stats --no-stream
CONTAINER ID   NAME          CPU %     MEM USAGE / LIMIT   MEM %     NET I/O     BLOCK I/O     PIDS
b0bccc1c29f7   epic_edison   0.00%     185.1MiB / 200MiB   92.56%    648B / 0B   28.7kB / 0B   5
[root@centos7 ~]# cat /sys/fs/cgroup/memory/docker/b0bccc1c29f7355073442a1d84270827a19dc38a9258eafb5b3f017e3378cae0/memory.oom_control
oom_kill_disable 1
under_oom 1

交换分区限制

docker run -it --rm -m 256m --memory-swap 512m --name c1 centos bash
cat /sys/fs/cgroup/memory/docker/容器ID/memory.memsw.limit_in_bytes

容器的CPU限制

一个宿主机，有几十个核心的CPU，但是宿主机上可以同时运行成百上千个不同的进程用已处理不同的任务，多进程共用一个CPU的核心为可压缩资源，即一个核心的 CPU可以通过调整而运行多个进程，但是同一个单位时间内只能有一个进程在CPU上运行，那这么多的进程怎么在CPU上执行可调度的呢

Linux kernel进程的调度基于CFS（Completely Fair Scheduler），完全公平调度

服务器资源密集型

CPU密集型的场景：优先级越低越好，计算密集型任务的特点是要进行大量的计算，消耗CPU资源，比如计算圆周率、数据处理、对视频频进行高清解码等等，全靠CPU的运算能力。
IO密集型的场景：优先级值高点，设计到网络。磁盘IO的任务都是IO密集型任务，这类任务的特点是CPU消耗很少，任务的大部分时间都在等IO操作完成（因为IO的速度远远低于CPU和内存的速度），比如Web应用，高并发，数据量大的动态网站来说，数据库应该为IO密集型

CFS原理

cfs定义了进程调度的新模型，它给cfs_rq（cfs的run queue）中的每一个进程安排一个虚拟时钟vruntime。如果一个进程得以执行，随着时间的增长，其vruntime将不断增大。没有得到执行的进程vruntime不变，而调度器总是选择vruntime跑得最慢的那个进程来执行。这就是所谓的“完全公平”。为了区别不同优先级的进程，优先级高的进程vruntime增长得慢，以至于它可能得到更多的运行机会。CFS的意义在于，在一个混杂着打来年计算型进程和IO交互进程的系统中，CFS调度器相对其它调度器在对待IO交互进程要更加友善和公平。

配置默认的CFS调度程序

默认情况下，每个容器对主机的CPU周期的访问都是不受限制的。可以设置各种约束，以限制给定容器对主机CPU周期的访问。大多数用户使用并配置默认的CFS调度程序。在Docker1.13及更高版本中，还可以配置realtime scheduler

CFS是用于常规Linux进程的Linux内核CPU调度程序。通过几个运行时标志，可以配置对容器拥有的CPU资源的访问量。使用这些设置时，Docker会在主机上修改容器cgroup的设置

选项	描述
`--cpus`	指定一个容器可以使用多少个可用的CPU核心资源。例如，如果主机有两个CPU，如果设置了`–cpus=“1.5”`，则可以保证容器最多使用1.5个CPU（如果是4核CPU，那么还可以是4核心上每核用一点，但是总计是1.5核心的CPU）。这相当于设置`–cpu-period=100000`和`–cpu-quota=“150000”`。此设置可在Docker1.13及更高版本中可用，目的是替代`–cpu-period`和`–cpu-quota`两个参数，从而是配置更简单，但是最大不能超过宿主机的CPU总核心数（在操作系统看到的CPU超线程后的数值），此项常用
`--cpu-period`	过时选项，指定CPU CFS调度程序周期，必须与cpu-quta一起使用。默认为100微秒。大多数用户不会更改默认设置。如果使用Docker1.13或更高版本，请改用cpus
`--cpu-quota`	过时选项，在容器上添加CPU CFS配额，计算方式为cpu-quota/cpu-period的结果值，docker1.13及以上版本通常使用cpus设置此值
`--cpuset-cpus`	用于指定容器运行的CPU编号，也就是所谓的CPU绑定。如果一个或多个CPU，则容器可以使用逗号分隔的列表或连字符分隔的CPU范围。第一个CPU编号为0.有效值可能是0-3（使用第一，第二，第三和第四CPU）或1,3（使用第二和第四CPU）
`--cpu-shares`	用于设置cfs中调度的相对最大比例权重，cpu-share的值越高的容器，将会分得更多的时间片（宿主机多核CPU总数为100%，假如容器A为1024，容器B为2048，那么容器B将最大是容器A的可用CPU的两倍），默认的时间片1024，最大262144.这是一个软限制。

使用stress-ng测试CPU配置

# 查看stress-n关于CPU的帮助
[root@centos7 ~]# docker run -it --rm --name c1 lorel/docker-stress-ng |grep cpu
 -c N, --cpu N            start N workers spinning on sqrt(rand())
       --cpu-ops N        stop when N cpu bogo operations completed
 -l P, --cpu-load P       load CPU by P %%, 0=sleep, 100=full load (see -c)
       --cpu-method m     specify stress cpu method m, default is all
Example: stress-ng --cpu 8 --io 4 --vm 2 --vm-bytes 128M --fork 4 --timeout 10s

# 不限制容器CPU
# 占用4个CPU资源，但只是平均的使用CPU资源
docker run -it --rm lorel/docker-stress-ng --cpu 4
# 限制使用CPU
docker run -it --rm --cpus 1.5 lorel/docker-stress-ng --cpu 4
# 绑定CPU
# 一般不建议绑在0号CPU上，因0号CPU一般会较忙
docker run -it --rm --cpus 1.5 --cpuset-cpus 2,4-5 lorel/docker-stress-ng --cpu 4

# 多个容器的CPU利用率比例
docker run -it --rm --name c1 --cpu-shares 1000 lorel/docker-stress-ng --cpu 4
docker run -it --rm --name c2 --spu-shares 500 lorel/docker-stress-ng --cpu 4

# 查看c1容器的cpu利用比例
cat /sys/fs/cgroup/cpu,cpuacct/docker/c1容器ID/cpu.shares
# 查看c2容器的cpu利用比例
cat /sys/fs/cgroup/cpu,cpuacct/docker/c2容器ID/cpu.shares
# 再打开新的容器，CPU分配比例会动态调整

# 动态调整cpu shares值
echo 2000 > /sys/fs/cgroup/cpu,cpuacct/docker/容器ID/cpu.shares

可视化图形工具Portainer

Portainer是一个可视化的容器镜像的图形管理工具，利用Portainer可以轻松构建，管理和维护Docker环境。而且完全免费，基于容器化的安装方式，方便高效。

官方站点：https://www.portainer.io

安装Portainer

[root@centos7 ~]# docker search portainer |head -n 3
NAME                                   DESCRIPTION                                     STARS     OFFICIAL   AUTOMATED
portainer/portainer                    This Repo is now deprecated, use portainer/p…   2262
portainer/portainer-ce                 Portainer CE - a lightweight service deliver…   1350

# portainer项目废弃
# portainer-ce项目替代portainer
[root@centos7 ~]# docker pull portainer/portainer-ce
Using default tag: latest
latest: Pulling from portainer/portainer-ce
772227786281: Pull complete
96fd13befc87: Pull complete
bc9eaab2cad1: Pull complete
6458f72e4747: Pull complete
Digest: sha256:444ade51d69d7fca889c7aa14525c459dba313a0e7ca79aee985e6c0749427de
Status: Downloaded newer image for portainer/portainer-ce:latest
docker.io/portainer/portainer-ce:latest
[root@centos7 ~]# docker volume create portainer_data
portainer_data
[root@centos7 ~]# docker run -d -p 8000:8000 -p 9000:9000 --name portainer --restart=always -v /var/run/docker.sock:/var/run/docker.sock -v portainer_data:/data portainer/portainer-ce
7d62ec92aaaca24218d44b13155fb47fb752847a596a1f732b90167687a986c3

浏览器访问 http://ip:9000

docker命令总结

attach# 当前shell下attach连接指定运行镜像
build# 通过Dockerfile定制镜像
commit# 提交当前容器为新的镜像
cp# 从容其中拷贝指定文件或者目录到宿主机中
create# 创建一个新的容器，同run 但不能启动
diff# 查看dokcer 容器变化
events# 从docker服务获取容器实时事件
exec# 在已存在的容器上运行命令
export# 导出容器的内容作为一个tar 归档文件[对应import]
history# 展示一个镜像形成的历史
images# 列出系统当前镜像
import# 从tar包中的内容创建一个新的文件系统映像[对应export]
info# 显示系统相关系统
inspect# 查看容器详细信息
kill# kill指定容器
load# 从一个tar包中加载一个镜像[对应save]
login# 注册或者登录一个docker源服务器
logout# 从当前docker registry退出
logs# 输出当前日志信息
port# 查看映射端口对应的容器内部源端口
pause# 暂停容器
ps# 列出容器列表
pull# 从docker镜像源服务器拉取指定镜像或者库镜像
push# 推送指定镜像或者库镜像至docker源服务器
restart# 重启运行的容器
rm# 移除一个或多个容器
rmi# 移除一个或多个镜像[无容器使用该镜像才可删除，否则需要删除相关容器才可继续 或 -f 强制删除]
run# 创建一个新的容器并运行一个命令
save# 保存一个镜像为一个tar包[对应load]
search# 在docker hub中搜索镜像
start# 启动容器
stop# 停止容器
tag# 给源中镜像打标签
top# 查看容器中运行的进程信息
unpause# 取消暂停容器
version# 查看docker版本号
wait# 截取容器停止时的退出状态值

链路追踪SkyWalking

2022-08-02T21:31:25.000Z

什么是SkyWalking

SkyWalking官网

SkyWalking是一个优秀的国产开源框架，2015年由个人吴晟（华为开发者）开源，2017年加入Apache孵化器。短短两年就被收入Apache麾下，实力可见一斑。SkyWalking支持dubbo，SpringCloud，SpringBoot集成，代码无侵入，通信方式采用GRPC，性能较好，实现方式是java探针，支持告警，支持JVM监控，支持全局调用统计等，功能比较完善。

SkyWalking优势

采用字节码增强的技术实现代码无侵入
功能比较丰富，报表统计，UI界面更加人性化

SkyWalking架构

SkyWalking和zipkin一样，分为服务端和客户端，服务端负责手机日志数据并且展示

SkyWalking在逻辑上风味四个部分：Probes（探针），Platform backend（平台后端），Storage （存储）and UI（用户界面）

Probes：收集数据并根据SkyWalking要求重新格式化（不同探头支持不同的来源）
Platform backend：支持数据聚合，分析，涵盖跟踪、指标和日志
Storage：存储SkyWalking数据，可以选择现有的实现，如ElasticSearch、H2、MySQL等
UI：负责提供web控制台，查看链路，查看各种指标，性能等等

部署skywalking

安装docker

# 安装依赖
sudo yum install -y yum-utils device-mapper-persistent-data lvm2

# 添加源
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

# 更新
sudo yum makecache fast

# 安装docker-ce
sudo yum -y install docker-ce

# 创建配置文件目录
sudo mkdir -p /etc/docker

# 创建配置文件
touch /etc/docker/daemon.json

# 新增配置文件内容 /mitr/middleware/docker目录已创建 
# 在 docker 19.xx 版本以后使用data-root来代替graph
cat <
{
"registry-mirrors":["https://docker.mirrors.ustc.edu.cn"],
"data-root": "/mitr/middleware/docker" # docker主目录 存储images等
}
EOF

# 加载启动并设置开机自启
systemctl daemon-reload && systemctl enable docker && systemctl start docker

部署Elasticsearch

# 1.拉取镜像
docker pull docker.elastic.co/elasticsearch/elasticsearch:7.7.1

# 2.调整系统内核参数
# elastic官方建议 生产环境下使用 elasticsearch镜像 需设置Linux参数 vm.max_map_count
echo "vm.max_map_count=262144" >> /etc/sysctl.conf
sysctl -p

# 3.新建 elasticsearch 目录
mkdir -p /hsadata/elasticsearch/{config,data,plugins}

# 4.修改 elasticsearch 配置
vim /hsadata/elasticsearch/config/elasticsearch.yml

# 配置内容如下
cluster.name: "docker-cluster"
network.host: 0.0.0.0
# 开启 elasticsearch 安全认证 xpack认证
http.cors.allow-headers: Authorization
xpack.security.enabled: true
xpack.security.transport.ssl.enabled: true

# 5.添加系统用户 elasticsearch
adduser elasticsearch

# 6.授权目录及所属
chmod g+rwx /hsadata/elasticsearch
chown -R elasticsearch:root /hsadata/elasticsearch/

# 7.创建并启动容器（4核8G）
# ES_JAVA_OPTS="-Xms2688m -Xmx2688m" JVM内核参数优化
# --ulimit nofile=65535:65535 设置 系统限制用户最大进程数 限制用户打开最大文件数
# --cpuset-cpus="1" -m 4G 限制容器可用的CPU和内存资源
# Redhat8.6 涉及到权限问题 导致启动失败
# 解决方案 不挂载data目录启动镜像 然后将容器内的data目录拷贝到宿主机即可
# docker cp es:/usr/share/elasticsearch/data /hsadata/elasticsearch/data
docker run -d -e ES_JAVA_OPTS="-Xms2688m -Xmx2688m" -e "discovery.type=single-node" -p 9200:9200 -p 9300:9300 --restart=always --ulimit nofile=65535:65535 --cpuset-cpus="1" -m 4G -v /hsadata/elasticsearch/data:/usr/share/elasticsearch/data -v /hsadata/elasticsearch/plugins:/usr/share/elasticsearch/plugins -v /hsadata/elasticsearch/config/elasticsearch.yml:/usr/share/elasticsearch/config/elasticsearch.yml --name es 830a894845e3

# 8.启动xpack认证 并设置 elasticsearch 密码
# 进入 docker 容器
docker exec -it es bash
# 在容器内执行 并设置密码
elasticsearch-setup-passwords interactive
#.... 设置 es_xpack 认证的6个账户密码 ....

# 9.验证部署是否成功
curl -u 用户名:密码 -XGET 'http://127.0.0.1:9200'

# 结果如下为部署成功
{
  "name" : "ba34d751f560",
  "cluster_name" : "docker-cluster",
  "cluster_uuid" : "AIm_UjiAT2-8X4gDjbPYxA",
  "version" : {
    "number" : "7.7.1",
    "build_flavor" : "default",
    "build_type" : "docker",
    "build_hash" : "ad56dce891c901a492bb1ee393f12dfff473a423",
    "build_date" : "2020-05-28T16:30:01.040088Z",
    "build_snapshot" : false,
    "lucene_version" : "8.5.1",
    "minimum_wire_compatibility_version" : "6.8.0",
    "minimum_index_compatibility_version" : "6.0.0-beta1"
  },
  "tagline" : "You Know, for Search"
}

部署SkyWalking OAP

# 拉取镜像
docker pull apache/skywalking-oap-server:8.3.0-es7

# 启动SkyWalking OAP
# 注：–link后面的第一个参数和elasticsearch容器名一致;
# -e SW_STORAGE_ES_CLUSTER_NODES：es7也可改为你es服务器部署的Ip地址，即ip:9200
# SW_ES_USER：es用户名
# SW_ES_PASSWORD：es密码
docker run --name oap --restart always -d --restart=always -p 12800:12800 -p 11800:11800 --link es:elasticsearch -e TZ=Asia/Shanghai -e SW_STORAGE=elasticsearch7 -e SW_STORAGE_ES_CLUSTER_NODES=elasticsearch:9200 -e SW_ES_USER=elastic -e SW_ES_PASSWORD=3cu8rt00@A apache/skywalking-oap-server:8.3.0-es7

部署SkyWalking UI

# 拉取镜像
docker pull apache/skywalking-ui:8.3.0

# 启动SkyWalking UI
# 注：–link后面的第一个参数和skywalking OAP容器名一致
docker run -d --name skywalking-ui --restart=always -p 8098:8080 --link oap:oap -e TZ=Asia/Shanghai -e SW_OAP_ADDRESS=oap:12800 apache/skywalking-ui:8.3.0

应用程序配合SkyWalking Agent

# 下载SkyWalking Agent
wget https://archive.apache.org/dist/skywalking/8.3.0/apache-skywalking-apm-es7-8.3.0.tar.gz

# 解压
tar -zxvf apache-skywalking-apm-es7-8.3.0.tar.gz

# 启动java服务 agent路径 我放到了 /mitr/middleware/skywalking-apm/apache-skywalking-apm-bin-es7/agent/skywalking-agent.jar 所以配置如下
# backend_service是skywalking-oap服务地址
java -jar  -javaagent:/mitr/middleware/skywalking-apm/apache-skywalking-apm-bin-es7/agent/skywalking-agent.jar -Dskywalking.agent.service_name=118erptest -Dskywalking.collector.backend_service=127.0.0.1:11800 app.jar

集成日志 logback

引入POM依赖

<dependency>
    <groupId>org.apache.skywalkinggroupId>
    <artifactId>apm-toolkit-traceartifactId>
    <version>8.3.0version>
    <scope>providedscope>
dependency>


<dependency>
    <groupId>org.apache.skywalkinggroupId>
    <artifactId>apm-toolkit-logback-1.xartifactId>
    <version>8.3.0version>
dependency>

修改logback.xml

"1.0" encoding="UTF-8"?>
<configuration scan="true" scanPeriod="10 seconds" debug="false">
    <property name="APP_NAME" value="hsa-iep-opp"/>
    <property name="APPLOG_PATH" value="/var/log/hsa-iep-opp-local"/>

    <appender name="dailyRollingFileAppender" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <File>${APPLOG_PATH}/${APP_NAME}.logFile>
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            <FileNamePattern>${APPLOG_PATH}/${APP_NAME}.%d{yyyy-MM-dd}.logFileNamePattern>
            <maxHistory>15maxHistory>
        rollingPolicy>
        
        <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder">
            <layout class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.TraceIdPatternLogbackLayout">
                <pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%tid] [%thread] %highlight(%5level) %cyan(%-40logger{40}) %4line : %msg %npattern>
            layout>
        encoder>
    appender>

    <appender name="dailyRollingFileErrorAppender" class="ch.qos.logback.core.rolling.RollingFileAppender">
        <File>${APPLOG_PATH}/${APP_NAME}-error.logFile>
        <rollingPolicy class="ch.qos.logback.core.rolling.TimeBasedRollingPolicy">
            
            <FileNamePattern>${APPLOG_PATH}/${APP_NAME}-error.%d{yyyy-MM-dd}.logFileNamePattern>
            
            <maxHistory>15maxHistory>
        rollingPolicy>
        
        <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder">
            <layout class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.TraceIdPatternLogbackLayout">
                <pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%tid] [%thread] %highlight(%5level) %cyan(%-40logger{40}) %4line : %msg %npattern>
            layout>
        encoder>
        <filter class="ch.qos.logback.classic.filter.LevelFilter">
            <level>ERRORlevel>
            <onMatch>ACCEPTonMatch>
            <onMismatch>DENYonMismatch>
        filter>
    appender>

    <appender name= "STDOUT" class="ch.qos.logback.core.ConsoleAppender">
        
        <encoder class="ch.qos.logback.core.encoder.LayoutWrappingEncoder">
            <layout class="org.apache.skywalking.apm.toolkit.log.logback.v1.x.TraceIdPatternLogbackLayout">
                <pattern>%d{yyyy-MM-dd HH:mm:ss.SSS} [%tid] [%thread] %highlight(%5level) %cyan(%-40logger{40}) %4line : %msg %npattern>
            layout>
        encoder>
    appender>

    
    <logger name="cn.hsa" level="DEBUG"/>
    <logger name="org.springframework" level="WARN"/>

    <root level="DEBUG">
        <appender-ref ref="dailyRollingFileAppender"/>
        <appender-ref ref="dailyRollingFileErrorAppender"/>
        <appender-ref ref="STDOUT"/>
    root>
configuration>

安全加固,浅谈OpenSSL和OpenSSH

2022-07-21T07:40:15.000Z

OpenSSL

OpenSSl是一个强大的安全套接字层密码库，Apache使用它加密HTTPS，OpenSSH使用它加密SSH，但是不能只将它作为一个库来使用，它是一个多用途。跨平台的密码工具。

基本功能

OpenSSL整个软件包大概可以分成三个主要的功能部分：密码算法库，SSL协议库以及应用程序。

OpenSSL的目录结构自然也是围绕这三个功能部分进行规划的。

OpenSSL：多用途的命令工具，每种功能都使用专用的子命令来实现
libcrypto：加密，解密库文件
libssl：加密模块应用库，实现了ssl及tls

密码算法库

对称加密算法

我们一般的加密使用一个密码加密文件，然后解密也用同样的密码，这个对是称加密。OpenSSL一共提供了8种对称加密算法，其中7种是分组加密算法，仅有的一种加密算法是RC4。这7种分组加密算法分别是AES、DES、Blowfish、CAST、IDEA、RC2、RC5，都支持电子密码本模式（ECB）、加密分组链接模式（CBC）、加密反馈模式（CFB）和输出反馈模式（OFB）四种常用的分组密码加密模式。其中AES使用的加密反馈模式（CFB）和输出反馈模式（OFB）分组长度是128位，其它算法使用的则是64位。事实上，DES算法里面不仅仅是常用的DES算法，还支持三个秘钥和两个秘钥DES算法。

非对称加密算法

有些加密用的一个密码，而解密用另外一组密码，这个叫非对称加密。OpenSSL一共实现了4中非对称加密算法，包括DH算法、RSA算法、DSA算法和椭圆曲线算法（EC）。DH算法一般用户秘钥交换。RSA算法既可以用于秘钥交换，也可以用于数字签名，当然，如果你能够忍受其缓慢的速度，那么也可以用于数据加密。DSA算法则一般只用于数字签名。

信息摘要算法

OpenSSL实现了5种信息摘要算法，分别是MD2、MD5、MDC2、SHA（SHA1）和RIPEMD。SHA算法事实上包括了SHA和SHA1两种信息摘要算法，此外，OpenSSL还实现了DSS标准中规定的两种信息摘要算法DSS和DSS1。

秘钥和证书管理

秘钥和证书管理是PKI的一个重要组成部分，OpenSSL为之提供了丰富的功能，支持多种标准。

首先，OpenSSL实现了ASN.1的证书和秘钥相关标准，提供了对证书、公钥、私钥、证书请求以及CRL等数据对象的DER、PEM和BASE64的编解码功能。OpenSSL提供了产生各种公开秘钥和对称秘钥的方法、函数和应用程序，同时提供了对公钥和私钥的DER编解码功能。并实现了私钥的PKCS#12和PKCS#8的编解码功能。OpenSSL在标准中提供了对私钥的加密保护功能，使得秘钥可以安全地进行存储和分发。

在此基础上，OpenSSL实现了对证书的X.509标准编解码、PKCS#12格式的编解码以及PKCS#7的编解码功能。并提供了一种文本数据库，支持证书的管理功能，包括秘钥产生、请求产生、证书签发、吊销和验证等功能。

事实上，OpenSSL提供的CA应用程序就是一个小型的证书管理中心（CA），实现了证书签发的整个流程和证书管理的大部分机制。

OpenSSL命令

查看程序版本号

openssl version

标准命令

enc crl ca dh req ……

对称加密

工具：openssl enc，gpg

算法：3des，aes，blowfish

enc命令

openssl enc -e -des3 -a -salt -in ipset.sh -out ipset

-enc：表示加密

-e：加密算法

-des3：des3加密算法

-a：基于ase64文本进行编码

-salt：加盐

-in：加密的文件

-out：输出文件

openssl enc -d -des3 -a -salt -in ipest -out ipset.sh

-d：表示解密

openssl enc -e -des3 -a -salt -in /etc/fstab -out fstab.ciphertext 加密文件 要输入密码

解密

openssl enc -d -des3 -a -salt -in fstab.ciphertext -out fstab

单向加密

获取数据的特征码

工具 MD5sum sha1sum sha224sum sha256sum…… openssl dgst

dgst命令

常用选项:

[-md5|-md4|-md2|-sha1|-sha|-mdc2|-ripemd160|-dss1] : 指定一种加密算法

-out filename：将加密的内容保存到指定文件中

Openssl dgst -md5 -hex fstab 相当于 md5sum fstab 默认16进制编码

单向加密除了openssl dgst 工具还有：md5sum，sha1sum，sha224sum，sha256sum，sha384sum，sha512sum

MAC：Message Autentication Code单向加密的一种延伸应用，用于实现网络通信中保证所传输的数据的完整性机制

CBC-MAC

HMAC：使用md5或sha1算法

生成用户密码

openssl passwd，用法如下：

openssl passwd [-crypt] [-1] [-apr1] [-salt string] [-in file] [-stdin] [-noverify] [-quiet] [-table] {password}

常用选项：

-1：使用md5加密算法

-salt string：加入随机数，最多8位随机数

-in file：对输入的文件内容进行加密

-stdin：对标准输入的内容进行加密

生成随机数（适合充当salt）

生成随机数需要用到标准命令rand，用法如下

openssl rand [-out file] [-rand file(s)] [-base64] [-hex] num

常用选项：

-out file：将生成的随机数保存至指定文件中

-base64：使用base64编码格式

-hex：使用16进制编码格式

公钥加密

加密算法：RSA ELGmal

工具：gpg，openssl rsautl man rsautl

数字签名：发送方用自己的私钥加密，接收方用发送方的公钥解密。

数字签名会加密语言数据的特征码，而不会加密语言数据本身。

算法：RSA，EIGamal，DSA（只能用来做签名，而无法用来加密）

DSA：digital signature algorithm

DSS：digital signature standard（只能私钥加密，公钥解密）

密钥交换

算法：dh

数字证书：公钥加密的另一个应用

证书格式：x509

生成密钥对

genrsa命令

openssl genrsa [-out filename] [-passout arg] [-des] [-des3] [-idea] [-f4] [-3] [-rand file(s)] [-engine id] [numbits]

常用选项：

-out filename：将生成的私钥保存至指定的文件中

-des|-des3|-idea：不同的加密算法

numbits：指定生成私钥的大小，默认2048

一般情况下密钥文件的权限一定要控制好，只能自己读写，因此可以使用umask命令设置生成的私钥权限

生成私钥

openssl genrsa -out /PATH/TO/PRIVATEKEY.FILE NUM_BITS

ras命令

openssl rsa [-inform PEM|NET|DER] [-outform PEM|NET|DER] [-in filename] [-passin arg] [-out filename] [-passout arg]
[-sgckey] [-des] [-des3] [-idea] [-text] [-noout] [-modulus] [-check] [-pubin] [-pubout] [-engine id]

常用选项:

-in filename：指明私钥文件

-out filename：指明将提取出的公钥保存至指定文件中

-pubout：根据私钥提取出公钥

生成公钥

私钥权限控制

# 加括号在子shell中运行，umask只在这一次有用 对私钥加密  3des
(umask 077; openssl genrsa -out key.pri 2048)

随机数生成器

熵池：在操作系统上有一个叫做熵池的地方，它是用来保存硬件终端产生的随机数（每一次硬件终端都会产生一个随机数）

/dev/random：仅从熵池中返回随机数，随机数耗尽时，取随机数的进程将会被阻塞

/dev/unrandom：仅从熵池中取随机数，随机数耗尽时，就通过伪随机数生成器生成伪随机数（伪随机数不安全）

熵池中随机数的来源：硬盘IO中断时间间隔

建立私有AC

数字证书的获取：

向RA注册申请，即公共信任的CA
自己创建私有CA，内部网络使用

CA 相关文件列表

openssl的配置文件：/etc/pki/tls/openssl.cnf
CA的工作目录：/etc/pki/CA
吊销列表的存放位置：/etc/pki/CA/crl
刚签署的证书的存放位置：/etc/pki/CA/newcerts
CA自身的公钥的位置：/etc/pki/CA/cacert.pem
发出的证书的编号位置：/etc/pki/CA/serial
为吊销的证书编号的位置：/etc/pki/CA/crlnumber
CA自己的私钥位置：/etc/pki/CA/private/cakey.pem
随机数文件：/etc/pki/CA/private/.rand

测试在centos上创建CA

实验环境：两台centos7机器，一台作为CA主机10.0.0.54，一台作为用户主机10.0.0.53（证书请求主机，web服务）

构建私有CA CA主机10.0.0.54，在确定为CA的服务器上生成一个自签证书，并为CA提供所需要的目录及文件

# 1.生成私钥，CA自签名证书，需要一个私钥，在openssl.cnf中，默认私钥文件存放路径为 /etc/pki/CA/private/cakey.pem
openssl genrsa -out /etc/pki/CA/private/cakey.pem 4096
chmod 077 /etc/pki/CA/private/cakey.pem

# 2.生成自签证书
openssl req -new -x509 -key /etc/pki/CA/private/cakey.pem -out /etc/pki/CA/cacert.pem -days 365

-new：生成新证书签署请求
-x509：生成自签格式证书，专用于创建私有CA
-key：生成请求时用到的私钥文件路径
-out：生成的请求文件路径；如果自签操作将直接生成签署过的证书
-days：证书的有效时长，单位为天

# 生成有效期长一些的证书
openssl req -new -x509 -key /etc/pki/CA/private/cakey.pem -out /etc/pki/CA/cacert.pem -days 3650

# 示例
[root@OpenSSH01 CA]# openssl req -new -x509 -key /etc/pki/CA/private/cakey.pem -out /etc/pki/CA/cacert.pem -days 3650
You are about to be asked to enter information that will be incorporated
into your certificate request.
What you are about to enter is what is called a Distinguished Name or a DN.
There are quite a few fields but you can leave some blank
For some fields there will be a default value,
If you enter '.', the field will be left blank.
-----
Country Name (2 letter code) [XX]:CN
State or Province Name (full name) []:LiaoNing
Locality Name (eg, city) [Default City]:DL
Organization Name (eg, company) [Default Company Ltd]:chensir.ink
Organizational Unit Name (eg, section) []:technology
Common Name (eg, your name or your server's hostname) []:chensir
Email Address []:xchensir@qq.com

# 3.为CA提供所需的目录及文件
mkdir -pv /etc/pki/CA/{certs,crl,newcerts}

# 创建 index.txt文件 （数据库文件）
touch index.txt

# 指明证书的开始编号
echo 01 >serial

向CA请求签署证书 CA用户主机10.0.0.53提供web服务需要用到证书进行安全通信的服务器，需要向CA请求签署证书

# 以httpd为例
# 在需要使用证书的主机上生成私钥，私钥位置随意
mkdir -p /etc/httpd/ssl
openssl genrsa -out /etc/httpd/ssl/httpd.key  2048
chmod 077 /etc/httpd/ssl/httpd.key

# 生成证书签署请求
openssl req -new  -key /etc/httpd/ssl/httpd.key -out /etc/httpd/ssl/httpd.csr -days 365

# 将生成的httpd.csr请求文件通过可靠的方式发给CA主机
scp /etc/httpd/ssl/httpd.csr root@10.0.0.54:/tmp/

在CA主机上签署证书

# 在CA主机上查看请求主机发送的证书请求
cat /tmp/httpd.csr

# 签署证书
openssl ca -in /tmp/httpd.csr  -out  /etc/pki/CA/certs/httpd.crt  -days 365

# 查看证书信息
openssl x509  -in /etc/pki/CA/certs/httpd.crt -noout -serial -subject

# 将签署完的证书发回请求主机
scp /etc/pki/CA/certs/httpd.crt root@10.0.0.53:/etc/httpd/ssl

吊销证书

# 客户端获取要吊销证书的Serial（在使用证书的主机执行）
openssl x509 -in /etc/pki/CA/certs/httpd.crt  -noout -serial  -subject

# CA主机吊销证书 先根据客户提交Serial和subject信息，对比其与本机数据库index.txt中存储的是否一致

# 吊销 其中的SERIAL要换成证书真正的序列号
openssl ca -revoke /etc/pki/CA/newcerts/SERIAL.PEM

# 生成吊销证书的吊销编号（第一次吊销证书时执行）
echo 01>/etc/pki/CA/crlnumber

# 更新吊销证书列表
openssl ca -gencrl -out thisca.crl

# 查看crl文件
openssl crl -in /path/from/crl_file.crl -noout -text

OpenSSH

OpenSSH和OpenSSL的关系

OpenSSH和OpenSSL并不是直系亲属，顶多算有共同志向的兄弟。

他们是由不同的团队开发，有不同目的，但都是开放源码，为安全通信提供支持。

SSl是通讯链路的附加层，可以包含很多协议 https,ftps……
SSH只是加密的shell，最初是用来替代telnet的，通过port forward，也可以让其他协议通过ssh的隧道起到加密的效果
OpenSSL：一个C语言函数库，是对SSL协议的实现
OpenSSH：是对SSH协议的实现
SSH利用OpenSSL提供的库。OpenSSH依赖于OpenSSL，没有OpenSSL的话OpenSSH就编译不过去，也运行不了

OpenSSH发展

ssh：secure shell，Protocol 22/tcp 安全的远程登录功能

openssh：ssh协议的开源实现

代替不安全的Telent telnet使用超级守恒进程xinet

SSH协议版本

V1 基于CRC-32做MAC（消息身份认证），不安全；man-in-middle

V2 双方主机协议选择安全的MAC方式

基于DH算法做密钥交换，基于RSA或DSA算法实现身份认证，两种方式的用户登录认证：

基于password认证
基于key

OpenSSH架构

C/S架构

C：ssh，scp，sftp

客户端组件

ssh，配置文件：/etc/ssh/ssh_config

StrictHostKeyChecking no 首次登录不显示检查提示

ssh [user@] host [COMMAND]

-p 监听端口 cmd 远程执行命令
-X [user@]host 支持x11的图形转发
-Y 支持信任的x11转发

# 存放已授权基于key登录的主机的公钥
~/.ssh/authorized_keys

# 存放本机SSH连接过的主机的公钥
~/.ssh/know_hosts

两种方式的用户登录认证

基于password

只要知道自己账号和口令就可以登录到远程主机。所有传输的数据都会被加密，但是不能保证你正在连接的服务器就是你想连接的服务器。可能会有别的服务器在冒充真正的服务器，也就是“中间人”这种方式的攻击。

大致流程：

客户端发起ssh请求，服务器会把自己的公钥发送给用户
用户会根据服务器发来的公钥对密码进行加密
加密后的信息回传给服务器，服务器用自己的私钥解密，如果密码正确，则用户登录成功

基于key

需要依靠秘钥，也就是你必须为自己创建一对密钥，并把公钥放在需要访问的服务器上。如果要连接到SSH服务器，客户端软件就会向服务器发出请求，请求你的密钥进行安全验证。服务器收到请求后，现在服务器上你的目录下找寻你的公钥，然后把它和你发送过来的公钥进行比较。如果两个密钥一致，服务器就用公钥加密质询（challenge）并把它发送给客户端软件。客户端软件收到质询之后就用你的私钥解密再把它发送给服务器。

大致流程：

在客户端生成一对密钥
并将客户端的公钥ssh-copy-id拷贝到服务器端对应用户的家目录下
当客户端再次发送一个连接请求，包括ip、用户名
服务端得到客户端的请求后，会到authorized_keys中查找，如果有相应的IP和用户，服务器就会发出质询，表现为一串随机字符，如：asfh
服务端将使用客户端拷贝过来的公钥对质询加密，然后发送给客户端
得到服务端发来质询后，客户端会使用私钥进行解密，然后将解密的字符串发送给服务端
服务端接收到客户端发来的字符串后，跟之前的字符串进对比，如果一致，就允许免密码登录

其他可以通过OpenSSH免密的工具

scp

常用选项：

-r：递归复制

-p：保持原文件的属性信息

-q：静默模式

-P：Port 指明远程主机监听端口

sftp

sftp root@10.0.0.53

服务端 sshd 配置文件 /etc/ssh/sshd_config /etc/ssh 密钥位置

# 常用参数：
Port 22  # 不要监听在默认端口
AddressFamily any  ipv4 or ipv6
ListenAddress ip    # 只监听内网地址
SyslogFacility      # 日志保存在 /var/log/secure
PermitRootLogin yes  # 允许管理员登录
MaxAuthTries 6       # 最大尝试次数
MaxSessions 10       # 最大并行会话数
AuthorizedKeyFile .ssh/authorized_key   # 服务器端公钥存放位置
PasswordAuthentication yes # 允许口令登录
X11Forward yes
Subsystem  sftp  # 支持sftp远程连接
UseDNS no        # 做DNS反向解析

# 限制可登录用户的办法
AllowUsers
AllowGroups

# 重启sshd服务 SElinux要关掉
# CentOS6：
service  sshd   restart 
# CentOS7：
systemctl restart sshd.service

Centos7升级OpenSSH

制作openssh-8.9p1 rpm包

# 安装编译依赖的组件
yum install -y rpm-build gcc gcc-c++ glibc glibc-devel openssl-devel openssl prce pcre-devel zlib zlib-devel make wget krb5-devel pam-devel libX11-devel xmkmf libXt-devel initscripts libXt-devel imake gtk2-devel lrzsz

# 建立编译目录
mkdir -pv /root/rpmbuild/{BUILD,BUILDROOT,RPMS,SOURCES,SPECS,SRPMS}

# 源码包下载到/root/rpmbuild/SOURCES
cd /root/rpmbuild/SOURCES
wget https://mirrors.aliyun.com/pub/OpenBSD/OpenSSH/portable/openssh-8.9p1.tar.gz

# 解压spec编译文件
tar -xf openssh-8.9p1.tar.gz openssh-8.9p1/contrib/redhat/openssh.spec
mv openssh-8.9p1 /root/rpmbuild/SPECS

# 配置spec编译文件
cd /root/rpmbuild/SPECS/openssh-8.9p1/contrib/redhat
sed -i -e "s/%global no_gnome_askpass 0/%global no_gnome_askpass 1/g" openssh.spec
sed -i -e "s/%global no_x11_askpass 0/%global no_x11_askpass 1/g" openssh.spec

# 解决openssl-devel < 1.1报错
sed -i '/openssl-devel < 1.1/s/^/#/' openssh.spec

# 编译openssh源码 编译好的rpm包会在：/root/rpmbuild/RPMS/x86_64/
rpmbuild -bb /root/rpmbuild/SPECS/openssh-8.9p1/contrib/redhat/openssh.spec

升级OpenSSH

安全备份

为防止升级过程中升级失败，配置telnet协议连接Linux

yum install -y telnet-server xinetd
systemctl enable xinetd telnet.socket

默认情况下，centos系统是不允许root用户通过telnet方式远程登录系统的。如果要使用root用户直接登录系统，需要添加以下配置

echo -e 'pts/0\npts/1\npts/2\npts/3' >>/etc/securetty

重启telnet服务

systemctl restart xinetd telnet.socket

验证结果

telnet localhost

ssh备份

mkdir /etc/sshconfig_backup
cp /etc/ssh/sshd_config /etc/sshconfig_backup/
cp /etc/pam.d/sshd /etc/sshconfig_backup/pam.d_sshd
cp -a /root/.ssh /etc/sshconfig_backup

升级

把准备好的rpm包上传到需要升级的服务器上

cd /root/rpmbuild/RPMS/x86_64
rpm -Uvh openssh*.rpm

# 恢复之前的配置
cp /etc/sshconfig_backup/sshd_config /etc/ssh/sshd_config 
cp /etc/sshconfig_backup/pam.d_sshd /etc/pam.d/sshd

# 允许root用户登录
sed -i "s/#PermitRootLogin yes/PermitRootLogin yes/g" /etc/ssh/sshd_config

# 修改ssh_host*key的权限，因为之前openssh旧版本权限太宽松，新版本要求比较严格
chmod 600 /etc/ssh/*

# sshd_config 最后添加一行KexAlgorithms
echo "KexAlgorithms curve25519-sha256@libssh.org,ecdh-sha2-nistp256,ecdh-sha2-nistp384,ecdh-sha2-nistp521,diffie-hellman-group-exchange-sha256,diffie-hellman-group14-sha1,diffie-hellman-group-exchange-sha1,diffie-hellman-group1-sha1" >> /etc/ssh/sshd_config

# 重启ssh
systemctl restart sshd

卸载并关闭telnet

yum remove -y telnet-server xinetd

轻量化日志中心 Grafana Loki

2022-07-13T19:41:55.000Z

需要集中的日志系统的原因

LPG

Loki + Promtail + GRafana

Loki：聚合并存储日志数据，可以作为Grafana的数据源，为Grafana提供可视化数据
Promtail：日志收集器，有点像Filebeat，可以手机日志文件中的日志，并把收集到的数据推送到Loki。
Grafana：从Loki中获取日志信息，进行可视化展示

Loki是 Grafana Labs 团队最新的开源项目，是一个水平可扩展，高可用，多租户的日志聚合系统。它的设计非常经济高效且易于操作，因为它不会为日志内容编制索引，而是为每个日志流编制一组标签，专门为 Prometheus和Kubernetes用户做了相关优化。

该项目受Prometheus启发，官方的介绍就是：Like Prometheus，But For Logs。类似Prometheus的日志系统。

项目地址：

https://github.com/grafana/loki/

与其他日志聚合系统相比，Loki具有以下特性：

不对日志进行全文索引。通过存储压缩非结构化日志和仅索引元数据，Loki操作起来会更简单，更省成本
通过使用与Prometheus相同的标签记录流对日志进行索引和分组，这使得日志的扩展和操作效率更高，能对接 alertmanager
特别适合存储Kubernetes Pod日志；诸如Pod标签之类的元数据会被自动删除和编入索引
受Grafana原生支持，避免Kibana和grafana来回切换

日志收集流程图

架构说明

部署

安装 docker

# 安装依赖
sudo yum install -y yum-utils device-mapper-persistent-data lvm2

# 添加源
sudo yum-config-manager --add-repo http://mirrors.aliyun.com/docker-ce/linux/centos/docker-ce.repo

# 更新
sudo yum makecache fast

# 安装docker-ce
sudo yum -y install docker-ce

# 创建配置文件目录
sudo mkdir -p /etc/docker

# 创建配置文件
touch /etc/docker/daemon.json

# 新增配置文件内容 /mitr/middleware/docker目录已创建
cat <
{
"registry-mirrors":["https://docker.mirrors.ustc.edu.cn"],
"data-root": "/mitr/middleware/docker"
}
EOF

# 加载启动并设置开机自启
systemctl daemon-reload && systemctl enable docker && systemctl start docker

安装grafana

# 拉取镜像
docker pull grafana/grafana

# 创建镜像并启动grafana 初始密码 admin/admin
docker run --name=grafana -id -p 3000:3000 grafana/grafana

安装Promtail

# 拉取镜像
docker pull grafana/promtail

# 创建配置文件目录
mkdir -p /etc/promtail

cat <
server:
  http_listen_port: 9080
  grpc_listen_port: 0

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://10.0.0.58:3100/loki/api/v1/push

scrape_configs:
- job_name: system
  static_configs:
  - targets:
      - localhost
    labels:
      job: varlogs
      host: localhost
      __path__: /var/log/*
EOF
# 创建并启动容器
docker run -di --name=promtail -v /etc/promtail/promtail-config.yaml:/etc/promtail/config.yml -v /var/log:/var/log -p 9080:9080 grafana/promtail

安装Loki

Loki配置文件参考

# 拉取镜像
docker pull grafana/loki

# 创建配置文件目录
mkdir -p /etc/loki

cat <
# 认证配置
# 通过X-Scope-OrgID头启用身份验证，该头必须存在
# 如果情况属实。如果为假，则OrgID将始终设置为"fake"
auth_enabled: false

# 端口配置
server:
  http_listen_port: 3100

ingester:
  # WAL(Write Ahead Log)记录传入的日志，并将他们存储在本地文件系统，在进程雪崩的情况下，保证已确认数据的持久性。
  wal:
    enabled: true
    dir: /loki/wal
  
  # 生命周期配置
  lifecycler:
    address: 127.0.0.1
    ring:
      kvstore:
        # Backend storage to use for the ring. Supported values are: consul, etcd,
        # inmemory, memberlist
        # CLI flag: -ring.store
        store: inmemory

      # The number of ingesters to write to and read from 
      # default = 3
      replication_factor: 1
    # 在退出以确保指标被抓取之前休眠的持续时间 default = 30s  
    final_sleep: 0s
  chunk_idle_period: 1h       # Any chunk not receiving new logs in this time will be flushed
  max_chunk_age: 1h           # All chunks will be flushed when they hit this age, default is 1h
  chunk_target_size: 1048576  # Loki will attempt to build chunks up to 1.5MB, flushing first if chunk_idle_period or max_chunk_age is reached first
  chunk_retain_period: 30s    # Must be greater than index read cache TTL if using an index cache (Default index read cache TTL is 5m)
  max_transfer_retries: 0     # Chunk transfers disabled

schema_config:
  configs:
    - from: 2020-10-24
      store: boltdb-shipper
      object_store: filesystem
      schema: v11
      index:
        prefix: index_
        period: 24h

# 配置Loki存储数据的位置
storage_config:
  boltdb_shipper:
    active_index_directory: /loki/boltdb-shipper-active
    cache_location: /loki/boltdb-shipper-cache
    cache_ttl: 24h         # Can be increased for faster performance over longer query periods, uses more disk space
    shared_store: filesystem
  filesystem:
    directory: /loki/chunks

# 压缩块配置压缩器组件，该组件压缩索引碎片以提高性能
compactor:
  working_directory: /loki/boltdb-shipper-compactor
  shared_store: filesystem

limits_config:
  reject_old_samples: true
  # Maximum accepted sample age before rejecting
  reject_old_samples_max_age: 168h

chunk_store_config:
  # 向后查找日志行所需的最大时间。仅适用于即时日志查询 default = 30s
  max_look_back_period: 0s

table_manager:
  retention_deletes_enabled: true
  retention_period: 360h

# ruler:
#   storage:
#     type: local
#     local:
#       directory: /loki/rules
#   rule_path: /loki/rules-temp
#   alertmanager_url: http://localhost:9093
#   ring:
#     kvstore:
#       store: inmemory
#   enable_api: true  
EOF

# 创建并启动容器
docker run -di --name=loki -v loki-data:/loki -v /etc/loki/local-config.yaml:/etc/loki/local-config.yaml -p 3100:3100 grafana/loki

使用

Grafana配置Loki数据源

如下图：

源地址配置 http://10.0.0.74:3100 即可保存

保存之后，切换到grafana左侧区域的Explore，即可进入到Loki页面

然后点击Log browser 就可以把当前系统采集的日志标签显示出来，再根据这些标签进行日志的过滤查询即可，比如这里选择 /var/log/message，10.0.0.74，就会把该文件下面的日志过滤展示出来

这里展示的是Promtail容器里面的 /var/log 目录中的日志

Promtail容器 /etc/promtail/config.yml

server:
  http_listen_port: 9080
  grpc_listen_port: 0

positions:
  filename: /tmp/positions.yaml

clients:
  - url: http://loki:3100/loki/api/v1/push

scrape_configs:
- job_name: system
  static_configs:
  - targets:
      - localhost
    labels:
      job: varlogs
      __path__: /var/log/*log

这里的 job 就是varlog，文件路径就是 /var/log/*log

只索引标签：之前多次看到Loki和ES最大的不同是Loki只对标签进行索引而不对内容索引。

静态标签匹配模式

以简单的Promtail配置举例

scrape_configs:
 - job_name: system
   pipeline_stages:
   static_configs:
   - targets:
      - localhost
     labels:
      job: message
      __path__: /var/log/messages

解读：

上面这段配置代表启动一个日志采集任务
这个任务有一个固定标签 job: message
采集日志路径为 /var/log/messages，会以一个名为filename的固定标签
在Promtail的web页面上可以看到类似Promtail的target信息页面

可以和使用Prometheus一样的标签匹配语句进行查询 {job=”message”}

scrape_configs:
 - job_name: system
   pipeline_stages:
   static_configs:
   - targets:
      - localhost
     labels:
      job: syslog
      __path__: /var/log/syslog
 - job_name: system
   pipeline_stages:
   static_configs:
   - targets:
      - localhost
     labels:
      job: apache
      __path__: /var/log/apache.log

如果我们配置了两个job，则可以使用 {job=~”message|varlogs”} 进行多job匹配；同时也支持正则匹配

标签匹配模式特点

和Prometheus一致，相同标签对应的是一个流Prometheus处理series的模式
Prometheus中标签一致对应的同一个hash值和refid（正整数递增的id），也就是同一个series
时序数据不断的append追加到这个memseries中
当有人以标签发生变化时会产生新的hash值和refid，对应新的series

Loki处理日志的模式和Prometheus一致，loki一组标签值会生成一个stream。日志随着时间的递增会追加到这个stream中，最后压缩为chunk。当有人以标签发生变化时会产生新的hash值，对应新的stream

查询过程：

loki现根据标签算出hash值在倒排索引中找到对应的chunk
然后再根据查询语句中的关键词等进行过滤，这样可以提速
因为这种根据标签算哈希在倒排中查找id，对应找到存储的块在Prometheus中已经被验证过了
属于第开销速度快

动态标签和高基数

动态标签：标签的value不固定
高基数标签：标签的value可能性太多了，达到10万，100万甚至更多

比如Apache的access日志

11.11.11.11 - frank [25/Jan/2000:14:00:01 -0500] "GET /1986.js HTTP/1.1" 200 932 "-" "Mozilla/5.0 (Windows; U; Windows NT 5.1; de; rv:1.9.1.7) Gecko/20091221 Firefox/3.5.7 GTB6"

在Promtail中使用regex想要匹配action和status_code两个标签：

scrape_configs:
 - job_name: system
   pipeline_stages:
   static_configs:
   - targets:
      - localhost
     labels:
      job: syslog
      __path__: /var/log/syslog
 - job_name: system
   pipeline_stages:
   static_configs:
   - targets:
      - localhost
     labels:
      job: apache
      __path__: /var/log/apache.log

  - job_name: system
    pipeline_stages:
       - regex:
         expression: "^(?P\\S+) (?P\\S+) (?P\\S+) \\[(?P[\\w:/]+\\s[+\\-]\\d{4})\\] \"(?P\\S+)\\s?(?P\\S+)?\\s?(?P\\S+)?\" (?P\\d{3}|-) (?P\\d+|-)\\s?\"?(?P[^\"]*)\"?\\s?\"?(?P[^\"]*)?\"?$"
     - labels:
         action:
         status_code:
    static_configs:
    - targets:
       - localhost
      labels:
       job: apache
       env: dev
       __path__: /var/log/apache.log

那么对应action=get/post 和 status_code=200/400 则对应4个流：

11.11.11.11 - frank [25/Jan/2000:14:00:01 -0500] "GET /1986.js HTTP/1.1" 200 932 "-" "Mozilla/5.0 (Windows; U; Windows NT 5.1; de; rv:1.9.1.7) Gecko/20091221 Firefox/3.5.7 GTB6"
11.11.11.12 - frank [25/Jan/2000:14:00:02 -0500] "POST /1986.js HTTP/1.1" 200 932 "-" "Mozilla/5.0 (Windows; U; Windows NT 5.1; de; rv:1.9.1.7) Gecko/20091221 Firefox/3.5.7 GTB6"
11.11.11.13 - frank [25/Jan/2000:14:00:03 -0500] "GET /1986.js HTTP/1.1" 400 932 "-" "Mozilla/5.0 (Windows; U; Windows NT 5.1; de; rv:1.9.1.7) Gecko/20091221 Firefox/3.5.7 GTB6"
11.11.11.14 - frank [25/Jan/2000:14:00:04 -0500] "POST /1986.js HTTP/1.1" 400 932 "-" "Mozilla/5.0 (Windows; U; Windows NT 5.1; de; rv:1.9.1.7) Gecko/20091221 Firefox/3.5.7 GTB6"

那四个日志行将变成4个单独的流，并开始填充4个单独的块，如果出现另一个独特的标签组合（如 status_code=500）,则会创建另一个新流。

高基数问题：就像上面，如果给ip设置一个标签，来自用户的每个不同的ip请求不仅成为唯一的流。可以快速生成成千上万的流，这是高基数，这样可以杀死Loki

如果字段没有被当做标签被索引，会不会查询很慢，Loki的能力是将查询分解为小块并行分发，以便可以在短时间内查询大量日志数据

全文索引问题

大索引既复杂又昂贵。通常日志数据的全文索引的大小等于或大于日志数据本身的大小。

要查询日志数据，需要加载此索引，并且为了提高性能，它可能在内存中。这很难扩展，并随着日志增多，索引会迅速变大。

Loki的索引通常比摄取的日志量小一个数量级，索引的增长非常缓慢。

加速查询没标签字段：以👆提到的ip字段为例，使用过滤器表达式查询

{job="apache"}|="11.11.11.11"

loki查询时的分片（按时间范围分段 grep）

Loki把查询分解成较小的分片，并且与标签匹配的流打开每个区块，并开始寻找IP地址
这些分片的大小和并行化的数量是可以配置的，并取决于提供的资源
如果需要，可以将分片间隔配置文件5min，部署20个查询器，并在几秒钟内处理千兆字节的日志
或者，可以设置200个查询器并处理TB的日志

两种索引模式对比

es的大索引，不管你查不查询，它都必须时刻存在。比如长时间占用过多的内存
loki的逻辑是查询时在启动多个分段并行查询

日志量少时少加标签

因为每多加载一个chunk就有额外的开销
举例，如果查询是 {app=“loki”,level!=“bug”}
在没加level标签的情况下只需要加载一个chunk 即app=“loki”的标签
如果加了level的情况，则需要把level=info,warn,error,critical 5个chunk都加载再查询

需要标签是再去添加

当chunk_target_size=1M时以1M的压缩大小来切割块
对应原始日志大小在5M—10M，如果日志在max_chunk_age时间内能达到10M，考虑添加标签

日志应当按时间递增

这个问题和tsdb中处理旧数据是一样的道理
目前loki为了性能考虑直接拒绝掉旧数据

对接Prometheus监控

修改 prometheus.yml

scrape_configs:
    - job_name: 'Loki'
      static_configs:
        - targets: ["10.0.0.74:3100"]

然后加载Prometheus即可

Grafana dashboard

安装插件

grafana-cli plugins install grafana-piechart-panel

dashboard效果图

import Dashboard Json

{
  "annotations": {
    "list": [
      {
        "$$hashKey": "object:7",
        "builtIn": 1,
        "datasource": "-- Grafana --",
        "enable": true,
        "hide": true,
        "iconColor": "rgba(0, 211, 255, 1)",
        "name": "Annotations & Alerts",
        "target": {
          "limit": 100,
          "matchAny": false,
          "tags": [],
          "type": "dashboard"
        },
        "type": "dashboard"
      }
    ]
  },
  "description": "Loki metrics via 2.0",
  "editable": true,
  "gnetId": 13407,
  "graphTooltip": 0,
  "id": 28,
  "links": [],
  "panels": [
    {
      "datasource": "Prometheus",
      "description": "",
      "gridPos": {
        "h": 2,
        "w": 24,
        "x": 0,
        "y": 0
      },
      "id": 21,
      "interval": "",
      "options": {
        "content": "\n   \n  Loki Global Metrics\n
",
        "mode": "html"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "loki_build_info",
          "format": "table",
          "instant": false,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "transparent": true,
      "type": "text"
    },
    {
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "decimals": 4,
          "links": [],
          "mappings": [],
          "thresholds": {
            "mode": "absolute",
            "steps": [
              {
                "color": "green",
                "value": null
              }
            ]
          },
          "unit": "short"
        },
        "overrides": []
      },
      "gridPos": {
        "h": 3,
        "w": 6,
        "x": 0,
        "y": 2
      },
      "id": 59,
      "interval": "",
      "options": {
        "colorMode": "background",
        "graphMode": "none",
        "justifyMode": "center",
        "orientation": "auto",
        "reduceOptions": {
          "calcs": [
            "last"
          ],
          "fields": "/^version$/",
          "values": false
        },
        "text": {},
        "textMode": "auto"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "loki_build_info",
          "format": "table",
          "instant": false,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "title": "Loki Version",
      "type": "stat"
    },
    {
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "decimals": 0,
          "links": [],
          "mappings": [],
          "thresholds": {
            "mode": "absolute",
            "steps": [
              {
                "color": "green",
                "value": null
              }
            ]
          },
          "unit": "short"
        },
        "overrides": []
      },
      "gridPos": {
        "h": 3,
        "w": 6,
        "x": 6,
        "y": 2
      },
      "id": 10,
      "interval": "",
      "options": {
        "colorMode": "value",
        "graphMode": "none",
        "justifyMode": "center",
        "orientation": "auto",
        "reduceOptions": {
          "calcs": [
            "last"
          ],
          "fields": "",
          "values": false
        },
        "text": {},
        "textMode": "auto"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "sum(log_messages_total)",
          "instant": false,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "title": "Message Total",
      "type": "stat"
    },
    {
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "decimals": 4,
          "links": [],
          "mappings": [],
          "thresholds": {
            "mode": "absolute",
            "steps": [
              {
                "color": "green",
                "value": null
              }
            ]
          },
          "unit": "short"
        },
        "overrides": []
      },
      "gridPos": {
        "h": 3,
        "w": 4,
        "x": 12,
        "y": 2
      },
      "id": 23,
      "interval": "",
      "options": {
        "colorMode": "value",
        "graphMode": "area",
        "justifyMode": "auto",
        "orientation": "auto",
        "reduceOptions": {
          "calcs": [
            "mean"
          ],
          "fields": "",
          "values": false
        },
        "text": {},
        "textMode": "auto"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "sum(loki_store_series_total)",
          "instant": false,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "title": "Store Series Total",
      "type": "stat"
    },
    {
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "decimals": 4,
          "links": [],
          "mappings": [],
          "thresholds": {
            "mode": "absolute",
            "steps": [
              {
                "color": "green",
                "value": null
              }
            ]
          },
          "unit": "bytes"
        },
        "overrides": []
      },
      "gridPos": {
        "h": 3,
        "w": 5,
        "x": 16,
        "y": 2
      },
      "id": 41,
      "interval": "",
      "options": {
        "colorMode": "value",
        "graphMode": "none",
        "justifyMode": "auto",
        "orientation": "auto",
        "reduceOptions": {
          "calcs": [
            "mean"
          ],
          "fields": "",
          "values": false
        },
        "text": {},
        "textMode": "auto"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "sum(loki_ingester_chunk_stored_bytes_total)",
          "instant": true,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "title": "Store Chunks Total",
      "type": "stat"
    },
    {
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "decimals": 4,
          "links": [],
          "mappings": [],
          "thresholds": {
            "mode": "absolute",
            "steps": [
              {
                "color": "green",
                "value": null
              }
            ]
          },
          "unit": "short"
        },
        "overrides": []
      },
      "gridPos": {
        "h": 3,
        "w": 3,
        "x": 21,
        "y": 2
      },
      "id": 24,
      "interval": "",
      "options": {
        "colorMode": "value",
        "graphMode": "none",
        "justifyMode": "center",
        "orientation": "auto",
        "reduceOptions": {
          "calcs": [
            "last"
          ],
          "fields": "",
          "values": false
        },
        "text": {},
        "textMode": "auto"
      },
      "pluginVersion": "8.1.3",
      "targets": [
        {
          "expr": "loki_panic_total",
          "instant": false,
          "interval": "",
          "legendFormat": "",
          "refId": "A"
        }
      ],
      "timeFrom": null,
      "timeShift": null,
      "title": "Panic ",
      "type": "stat"
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 12,
        "x": 0,
        "y": 5
      },
      "hiddenSeries": false,
      "id": 11,
      "interval": "",
      "legend": {
        "alignAsTable": true,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": true,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_request_duration_seconds_bucket[5m])) by (le,route))",
          "interval": "",
          "legendFormat": "{{ route }}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "API Request Durations",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "s",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 12,
        "x": 12,
        "y": 5
      },
      "hiddenSeries": false,
      "id": 12,
      "interval": "",
      "legend": {
        "alignAsTable": true,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": true,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_logql_querystats_latency_seconds_bucket[5m])) by (le,type))",
          "interval": "",
          "legendFormat": "{{ type }}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "LogQL Latency",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "s",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 7,
        "w": 24,
        "x": 0,
        "y": 11
      },
      "hiddenSeries": false,
      "id": 13,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_logql_querystats_bytes_processed_per_seconds_bucket[5m])) by (le,type))",
          "interval": "",
          "legendFormat": "{{ type }}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "LogQL  Processed bytes",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "Bps",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "collapsed": false,
      "datasource": "Prometheus",
      "gridPos": {
        "h": 1,
        "w": 24,
        "x": 0,
        "y": 18
      },
      "id": 19,
      "panels": [],
      "title": "Distributor",
      "type": "row"
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 6,
        "x": 0,
        "y": 19
      },
      "hiddenSeries": false,
      "id": 20,
      "legend": {
        "avg": false,
        "current": false,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": false
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "sum by (tenant) (rate(loki_distributor_lines_received_total[5m]))",
          "interval": "",
          "legendFormat": "distributor / {{ tenant}}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Received Lines / sec",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 6,
        "x": 6,
        "y": 19
      },
      "hiddenSeries": false,
      "id": 15,
      "legend": {
        "avg": false,
        "current": false,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": false
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "sum(rate(loki_distributor_bytes_received_total[5m])) by (tenant)",
          "interval": "",
          "legendFormat": "distributor / {{tenant}}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Distributor  Received bytes / sec",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:837",
          "format": "Bps",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:838",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 6,
        "x": 12,
        "y": 19
      },
      "hiddenSeries": false,
      "id": 17,
      "legend": {
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "rate(loki_distributor_ingester_appends_total[5m])",
          "interval": "",
          "legendFormat": "successed",
          "refId": "A"
        },
        {
          "expr": "loki_distributor_ingester_append_failures_total",
          "interval": "",
          "legendFormat": "failed",
          "refId": "B"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "batch appends sent to ingesters / sec",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": [],
          "unit": "short"
        },
        "overrides": []
      },
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 6,
        "x": 18,
        "y": 19
      },
      "hiddenSeries": false,
      "id": 22,
      "interval": "",
      "legend": {
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "sum by (status) (rate(loki_store_series_total[5m]))",
          "instant": false,
          "interval": "",
          "legendFormat": "{{status}}",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Store Series / sec",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:88",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:89",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "collapsed": false,
      "datasource": "Prometheus",
      "gridPos": {
        "h": 1,
        "w": 24,
        "x": 0,
        "y": 25
      },
      "id": 66,
      "panels": [],
      "title": "Ingster",
      "type": "row"
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 0,
        "y": 26
      },
      "hiddenSeries": false,
      "id": 71,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_blocks_per_chunk_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "blocks",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Blocks / Chunk",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "none",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 8,
        "y": 26
      },
      "hiddenSeries": false,
      "id": 68,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_chunk_size_bytes_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "chunk size",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunk Size",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "decbytes",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 16,
        "y": 26
      },
      "hiddenSeries": false,
      "id": 72,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_chunk_age_seconds_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "ages",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunk Age",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "s",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 0,
        "y": 32
      },
      "hiddenSeries": false,
      "id": 70,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_chunk_compression_ratio_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "ratio",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunk Compression Ratios",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "percent",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 8,
        "y": 32
      },
      "hiddenSeries": false,
      "id": 69,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_chunk_encode_time_seconds_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "durations.",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunk Encode Time",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "s",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fieldConfig": {
        "defaults": {
          "links": []
        },
        "overrides": []
      },
      "fill": 0,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 16,
        "y": 32
      },
      "hiddenSeries": false,
      "id": 73,
      "interval": "",
      "legend": {
        "alignAsTable": false,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": false,
        "show": true,
        "sort": "current",
        "sortDesc": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null as zero",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "histogram_quantile(0.95, sum(rate(loki_ingester_chunk_entries_bucket[5m])) by (le))",
          "interval": "",
          "legendFormat": "lines",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Lines / Chunk",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:155",
          "format": "none",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:156",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 0,
        "y": 38
      },
      "hiddenSeries": false,
      "id": 60,
      "legend": {
        "alignAsTable": true,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": true,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "rate(loki_ingester_chunks_created_total[5m])",
          "interval": "",
          "legendFormat": "create",
          "refId": "A"
        },
        {
          "expr": "sum by (reason) (rate(loki_ingester_chunks_flushed_total[5m]))",
          "interval": "",
          "legendFormat": "flush / {{ reason }}",
          "refId": "B"
        },
        {
          "expr": "sum by (fake) (rate(loki_ingester_chunks_stored_total[5m]))",
          "interval": "",
          "legendFormat": "stored",
          "refId": "C"
        },
        {
          "expr": "",
          "interval": "",
          "legendFormat": "",
          "refId": "D"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunk Status",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 8,
        "y": 38
      },
      "hiddenSeries": false,
      "id": 61,
      "legend": {
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "loki_ingester_memory_chunks",
          "interval": "",
          "legendFormat": "chunks",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunks in Memory",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 6,
        "w": 8,
        "x": 16,
        "y": 38
      },
      "hiddenSeries": false,
      "id": 62,
      "legend": {
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "sum by (tenan) (loki_ingester_memory_streams)",
          "interval": "",
          "legendFormat": "streams",
          "refId": "A"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Chunks in Streams",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    },
    {
      "aliasColors": {},
      "bars": false,
      "dashLength": 10,
      "dashes": false,
      "datasource": "Prometheus",
      "fill": 1,
      "fillGradient": 0,
      "gridPos": {
        "h": 5,
        "w": 24,
        "x": 0,
        "y": 44
      },
      "hiddenSeries": false,
      "id": 67,
      "legend": {
        "alignAsTable": true,
        "avg": false,
        "current": true,
        "max": false,
        "min": false,
        "rightSide": true,
        "show": true,
        "total": false,
        "values": true
      },
      "lines": true,
      "linewidth": 1,
      "nullPointMode": "null",
      "options": {
        "alertThreshold": true
      },
      "percentage": false,
      "pluginVersion": "8.1.3",
      "pointradius": 2,
      "points": false,
      "renderer": "flot",
      "seriesOverrides": [],
      "spaceLength": 10,
      "stack": false,
      "steppedLine": false,
      "targets": [
        {
          "expr": "rate(loki_ingester_streams_created_total[5m])",
          "interval": "",
          "legendFormat": "create",
          "refId": "A"
        },
        {
          "expr": "rate(loki_ingester_streams_removed_total[5m])",
          "interval": "",
          "legendFormat": "delete",
          "refId": "B"
        }
      ],
      "thresholds": [],
      "timeFrom": null,
      "timeRegions": [],
      "timeShift": null,
      "title": "Strams Stats",
      "tooltip": {
        "shared": true,
        "sort": 0,
        "value_type": "individual"
      },
      "type": "graph",
      "xaxis": {
        "buckets": null,
        "mode": "time",
        "name": null,
        "show": true,
        "values": []
      },
      "yaxes": [
        {
          "$$hashKey": "object:1092",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        },
        {
          "$$hashKey": "object:1093",
          "format": "short",
          "label": null,
          "logBase": 1,
          "max": null,
          "min": null,
          "show": true
        }
      ],
      "yaxis": {
        "align": false,
        "alignLevel": null
      }
    }
  ],
  "schemaVersion": 30,
  "style": "dark",
  "tags": [
    "loki"
  ],
  "templating": {
    "list": []
  },
  "time": {
    "from": "now-1h",
    "to": "now"
  },
  "timepicker": {
    "refresh_intervals": [
      "5s",
      "10s",
      "30s",
      "1m",
      "5m",
      "15m",
      "30m",
      "1h",
      "2h",
      "1d"
    ]
  },
  "timezone": "",
  "title": "Loki2.0 Global Metrics",
  "uid": "MQHVDmtWk",
  "version": 3
}

从JDK源码剖析JVM类加载机制

2022-06-20T12:41:55.000Z

JVM类加载机制

类加载运行全过程

当用java命令运行某个类的main函数启动程序时，首先需要通过类加载器把主类加载到JVM。

package ink.chensir.jvm;

/**
 * @description: Hello JVM
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class SayHello {
    public static final String HELLO_STR ="Hello Jvm !";

    public void helloJvm(){
        System.out.println(HELLO_STR);
    }

    public static void main(String[] args) {
        SayHello sayHello = new SayHello();
        sayHello.helloJvm();
    }

}

通过java命令执行代码的大体流程如下：

loadClass的类加载过程

加载 >> 验证 >> 准备 >> 解析 >> 初始化 >> 使用 >> 卸载

加载：在硬盘上查找并通过IO读入字节码文件，使用到类的时候才会加载，例如调用类的main()方法，new对象等等，在加载阶段会在内存中生成一个代表这个类的 java.lang.Class对象，作为方法区这个类的各种数据访问入口
**验证：**校验字节码文件的正确性
**准备：**给类的静态变量分配内存，并赋予默认值
**解析：**把静态方法的符号(变量名)引用替换为直接引用(内存地址) => **静态链接 ** ; 动态链接 (程序运行期间符号引用替换为直接引用)；
**初始化：**对类的静态变量初始化为指定的值，执行静态代码块

类被加载到方法区中后主要包含运行时常量池、类型信息、字段信息、方法信息、类加载器的引用、对应class实例的引用等信息。

**类加载器的引用：**这个类到类加载器实例的引用

**对应class实例的引用：**类加载器在加载类信息放到方法区中后，会创建一个对应的class类型的对象实例放到堆（Heap）中，作为开发人员访问方法区中类定义的入口和切入点。

注意，主类在运行过程中如果使用其他类，会逐步加载这些类。jar包或war包里的类不是一次性全部加载的，是使用到时才加载。

package ink.chensir.jvm;

public class A {
    static {
        System.out.println("************* load A ************");
    }
    public A (){
        System.out.println("************* initial A ************");
    }
}
========================================================================================
  
package ink.chensir.jvm;

public class B {
    static {
        System.out.println("************* load B ************");
    }
    public B (){
        System.out.println("************* initial B ************");
    }
}

========================================================================================
  
package ink.chensir.jvm;

/**
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class TestDynamicLoad {
    static {
        System.out.println("************* load TestDynamicLoad ************");
    }

    public static void main(String[] args) {
        new A();
        System.out.println("************* load test ************");
        B b = null; // B不会加载，除非这里执行 new B()
    }
}

========================================================================================

运行结果：
************* load TestDynamicLoad **********
************* load A ************************
************* initial A *********************
************* load test *********************

类加载器和双亲委派机制

上面的类加载过程主要是通过类加载器来实现的，java里有如下几种类加载器

Java类加载器

**引导类加载器：**负责加载支撑JVM运行的位于JRE的lib目录下的核心类库，比如 rt.jar、charsets.jar等
**扩展类加载器：**负责加载支撑JVM运行的位于JRElib目录下的ext扩展目录中的jar类包
**应用程序类加载器：**负责加载ClassPath路径下的类包，主要就是加载你自己写的那些类
**自定义类加载器：**负责加载用户自定义路径下的类包

类加载器示例

package ink.chensir.jvm;

import sun.misc.Launcher;

import java.net.URL;

/**
 * @description: test jdk classloader
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class TestJDKClassLoader {
    public static void main(String[] args) {
        System.out.println(String.class.getClassLoader());
        System.out.println(com.sun.crypto.provider.DESKeyFactory.class.getClassLoader().getClass().getName());
        System.out.println(TestJDKClassLoader.class.getClassLoader().getClass().getName());
        System.out.println("===========================================");

        ClassLoader appClassLoader = ClassLoader.getSystemClassLoader();
        ClassLoader extClassLoader = appClassLoader.getParent();
        ClassLoader bootStrapClassLoader = extClassLoader.getParent();

        System.out.println("引导类加载器："+bootStrapClassLoader);
        System.out.println("扩展类加载器："+extClassLoader);
        System.out.println("应用类加载器："+appClassLoader);
        System.out.println("===========================================");

        System.out.println("引导类加载器，加载以下文件:");
        URL[] urLs = Launcher.getBootstrapClassPath().getURLs();
        for (URL urL : urLs) {
            System.out.println(urL);
        }

        System.out.println("扩展类加载器，加载以下文件:");
        System.out.println(System.getProperty("java.ext.dirs"));
        System.out.println("===========================================");

        System.out.println("应用类加载器，加载以下文件:");
        System.out.println(System.getProperty("java.class.path"));

    }
}

运行结果：
null
sun.misc.Launcher$ExtClassLoader
sun.misc.Launcher$AppClassLoader
===========================================
引导类加载器：null
扩展类加载器：sun.misc.Launcher$ExtClassLoader@5b480cf9
应用类加载器：sun.misc.Launcher$AppClassLoader@18b4aac2
===========================================
引导类加载器，加载以下文件:
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/resources.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/rt.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/sunrsasign.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jsse.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jce.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/charsets.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jfr.jar
file:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/classes
扩展类加载器，加载以下文件:
/Users/chensir/Library/Java/Extensions:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext:/Library/Java/Extensions:/Network/Library/Java/Extensions:/System/Library/Java/Extensions:/usr/lib/java
===========================================
应用类加载器，加载以下文件:
/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/charsets.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/deploy.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/cldrdata.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/dnsns.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/jaccess.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/jfxrt.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/localedata.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/nashorn.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/sunec.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/sunjce_provider.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/sunpkcs11.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/ext/zipfs.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/javaws.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jce.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jfr.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jfxswt.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/jsse.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/management-agent.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/plugin.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/resources.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/jre/lib/rt.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/ant-javafx.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/dt.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/javafx-mx.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/jconsole.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/packager.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/sa-jdi.jar:/Library/Java/JavaVirtualMachines/jdk1.8.0_311.jdk/Contents/Home/lib/tools.jar:/Users/chensir/Desktop/jvm/target/classes:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/boot/spring-boot-starter/2.7.0/spring-boot-starter-2.7.0.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/boot/spring-boot/2.7.0/spring-boot-2.7.0.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-context/5.3.20/spring-context-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-aop/5.3.20/spring-aop-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-beans/5.3.20/spring-beans-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-expression/5.3.20/spring-expression-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/boot/spring-boot-autoconfigure/2.7.0/spring-boot-autoconfigure-2.7.0.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/boot/spring-boot-starter-logging/2.7.0/spring-boot-starter-logging-2.7.0.jar:/Users/chensir/Documents/MITR_Repository/Repository/ch/qos/logback/logback-classic/1.2.11/logback-classic-1.2.11.jar:/Users/chensir/Documents/MITR_Repository/Repository/ch/qos/logback/logback-core/1.2.11/logback-core-1.2.11.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/apache/logging/log4j/log4j-to-slf4j/2.17.2/log4j-to-slf4j-2.17.2.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/apache/logging/log4j/log4j-api/2.17.2/log4j-api-2.17.2.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/slf4j/jul-to-slf4j/1.7.36/jul-to-slf4j-1.7.36.jar:/Users/chensir/Documents/MITR_Repository/Repository/jakarta/annotation/jakarta.annotation-api/1.3.5/jakarta.annotation-api-1.3.5.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-core/5.3.20/spring-core-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/springframework/spring-jcl/5.3.20/spring-jcl-5.3.20.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/yaml/snakeyaml/1.30/snakeyaml-1.30.jar:/Users/chensir/Documents/MITR_Repository/Repository/org/slf4j/slf4j-api/1.7.36/slf4j-api-1.7.36.jar:/Applications/IntelliJ IDEA.app/Contents/lib/idea_rt.jar

类加载器初始化过程

见上面的java类加载过程的大体流程图可知其中会创建JVM启动器实例 sun.misc.Launcher。

sun.misc.Launcher初始化使用了单例模式，保证一个JVM虚拟机内只有一个sun.misc.Launcher实例。

在Launcher构造方法内部，其创建了两个类加载器，分别是 sun.misc.Launcher.ExtClassLoader（扩展类加载器）和 sun.misc.Launcher.AppClassLoader（应用类加载器）。

jvm默认使用Launcher的getClassLoader()方法返回的类加载器AppCLassLoader的实例加载我们的应用程序。

// Launcher的构造方法
public Launcher() {
    ExtClassLoader var1;
    try {
      // 构造扩展类加载器，在构造的过程中将其父加载器设置为null
        var1 = Launcher.ExtClassLoader.getExtClassLoader();
    } catch (IOException var10) {
        throw new InternalError("Could not create extension class loader", var10);
    }

    try {
        // 构造应用类加载器，在构造的过程中将其父加载器设置为ExtClassLoader
        // Launcher的loader属性值是AppClassLoader，我们一般是用这个类加载器来加载我们自己写的应用程序
        this.loader = Launcher.AppClassLoader.getAppClassLoader(var1);
    } catch (IOException var9) {
        throw new InternalError("Could not create application class loader", var9);
    }

    Thread.currentThread().setContextClassLoader(this.loader);
    String var2 = System.getProperty("java.security.manager");

  。。。。。。 // 此处省略一些不需要关注的代码段
}

双亲委派机制

jvm类加载器是有亲子层级结构的，如下图

**双亲委派机制：**加载某个类时会先委托父加载器寻找目标类，找不到在委托上层父加载器加载，如果所有父加载器在自己的加载类路径下都找不到目标类，则在自己的类加载路径中查找并载入目标类。

比如SayHello这个类，最先会找应用程序类加载器加载，应用程序类加载器会先委托扩展类加载器加载，扩展类加载器再委托引导类加载器，顶层引导类加载器在自己的类加载路径里没有找到SayHello类，则向下退回加载SayHello类的请求，扩展类加载器收到回复就自己加载，在自己的类加载路径里也没找到SayHello类，又向下退回SayHello类的加载请求给应用程序类加载器，应用程序类加载器于是在自己的类加载路径里找SayHello类，结果找到了就自己加载。双亲委派机制简单说就是，先找父加载器加载，找不到再由儿子自己加载。

AppCLassLoader的双亲委派机制

AppClassLoader的loadClass方法最终会调用其父类ClassLoader的loadClass方法，该方法大体逻辑如下：

1、先检查指定名称的类是否已经加载过，如果加载过了，就不需要加载，直接返回

2、如果此类没有加载过，再判断一下是否有父类加载器，如果有父类加载器，则由父类加载器加载（即调用parent.loadClass(name,false)）或者是调用bootstrap类加载器来加载

3、如果父加载器及bootstrap类加载器都没有找到指定的类，那么调用当前类加载器的findClass方法来完成类加载

// ClassLoader类的loadClass方法，里面实现了双亲委派机制
protected Class loadClass(String name, boolean resolve)
    throws ClassNotFoundException
{
    synchronized (getClassLoadingLock(name)) {
        // First, check if the class has already been loaded
        // 检查当前类加载器是否已经加载了该类
        Class c = findLoadedClass(name);
        if (c == null) {
            long t0 = System.nanoTime();
            try {
                if (parent != null) { // 如果当前加载器父类加载器不为空则委托父加载器加载该类
                    c = parent.loadClass(name, false);
                } else { // 如果当前加载器父加载器为空则委托引导类加载器加载该类
                    c = findBootstrapClassOrNull(name);
                }
            } catch (ClassNotFoundException e) {
                // ClassNotFoundException thrown if class not found
                // from the non-null parent class loader
            }

            if (c == null) {
                // If still not found, then invoke findClass in order
                // to find the class.
                long t1 = System.nanoTime();
                // 都会调用URLClassLoader的findClass方法在加载器类路径里查找并加载该类
                c = findClass(name);

                // this is the defining class loader; record the stats
                sun.misc.PerfCounter.getParentDelegationTime().addTime(t1 - t0);
                sun.misc.PerfCounter.getFindClassTime().addElapsedTimeFrom(t1);
                sun.misc.PerfCounter.getFindClasses().increment();
            }
        }
        if (resolve) { // 不会执行
            resolveClass(c);
        }
        return c;
    }
}

为什么要设计双亲委派机制

沙箱安全机制：自己写的java.lang.String.class类不会被加载，这样可以防止核心API库被随意篡改
避免类的重复加载：当父亲已经加载了该类时，就没有必要让子类加载器ClassLoader再加载一次，保证被加载类的唯一性

类加载示例：

package java.lang;

/**
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class String {
    public static void main(String[] args) {
        System.out.println("My String Class");
    }
}

运行结果：
错误: 在类 java.lang.String 中找不到 main 方法, 请将 main 方法定义为:
   public static void main(String[] args)
否则 JavaFX 应用程序类必须扩展javafx.application.Application

全盘负责委托机制

**“全盘负责”**是指当一个ClassLoader装载一个类时，除非显示的使用另一个ClassLoader，该类所依赖及引用的类也由这个ClassLoader载入

自定义类加载器示例

自定义类加载器只需要继承java.lang.ClassLoader类

ClassLoader类有两个核心方法，一个是loadClass(String name, boolean resolve)，实现了双亲委派机制，还有一个方法是findClass(String name)，默认实现是空方法，所以我们自定义类加载器主要是重写 findClass方法

package ink.chensir.jvm;

import java.io.FileInputStream;
import java.lang.reflect.Method;

/**
 * @description: 自定义类加载器
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class MyClassLoaderTest{

    static class MyClassLoader extends ClassLoader{
        private String classPath;

        public  MyClassLoader(String classPath) {
            this.classPath = classPath;
        }

        private byte[] loadByte(String name) throws Exception{
            name = name.replaceAll("\\.", "/");
            FileInputStream fis = new FileInputStream(classPath + "/" + name + ".class");
            int len = fis.available();
            byte[] data = new byte[len];
            fis.read(data);
            fis.close();
            return data;
        }

        @Override
        protected Class findClass(String name) throws ClassNotFoundException {
            try {
                byte[] data = loadByte(name);
                //defineClass将一个字节数组转为Class对象，这个字节数组是class文件读取后最终的字节 数组。
                return defineClass(name,data,0,data.length);
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
        }
    }


    public static void main(String[] args) throws Exception {
        //初始化自定义类加载器，会先初始化父类ClassLoader，其中会把自定义类加载器的父加载器设置为应用程序类加载器AppClassLoader
        MyClassLoader classLoader = new MyClassLoader("/Users/chensir/Desktop/test");
        //创建 /Users/chensir/Desktop/test/ink/chensir/jvm 几级目录，将SayHello类的复制类SayHello1.class丢入该目录
        Class clazz = classLoader.loadClass("ink.chensir.jvm.SayHello1");
        Object obj = clazz.newInstance();
        Method method = clazz.getDeclaredMethod("helloJvm", null);
        method.invoke(obj);
        System.out.println(clazz.getClassLoader().getClass().getName());
    }
}

运行结果：
Hello Jvm1 !
=======自己的加载器加载类调用方法=======
ink.chensir.jvm.MyClassLoaderTest$MyClassLoader

打破双亲委派机制

沙箱安全机制（自定义类加载器无法加载核心API）示例；

尝试打破双亲委派机制，用自定义的类加载器加载自己实现的 java.lang.String.class

package ink.chensir.jvm;

import java.io.FileInputStream;
import java.lang.reflect.Method;

/**
 * @description: 自定义类加载器
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class MyClassLoaderTest{

    static class MyClassLoader extends ClassLoader{
        private String classPath;

        public  MyClassLoader(String classPath) {
            this.classPath = classPath;
        }

        private byte[] loadByte(String name) throws Exception{
            name = name.replaceAll("\\.", "/");
            FileInputStream fis = new FileInputStream(classPath + "/" + name + ".class");
            int len = fis.available();
            byte[] data = new byte[len];
            fis.read(data);
            fis.close();
            return data;
        }

        @Override
        protected Class findClass(String name) throws ClassNotFoundException {
            try {
                byte[] data = loadByte(name);
                //defineClass将一个字节数组转为Class对象，这个字节数组是class文件读取后最终的字节 数组。
                return defineClass(name,data,0,data.length);
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
        }

        /**
         * 重写类加载方法，实现自己的加载逻辑，不委派给双亲加载
         */
        @Override
        protected Class loadClass(String name, boolean resolve) throws ClassNotFoundException {
            synchronized (getClassLoadingLock(name)) {
                // First, check if the class has already been loaded
                Class c = findLoadedClass(name);
                if (c == null) {
                    long t0 = System.nanoTime();
                    // If still not found, then invoke findClass in order
                    // to find the class.
                    //非自定义的类还是走双亲委派加载
                    if (!name.startsWith("ink.chensir.jvm")) {
                        c = this.getParent().loadClass(name);
                    } else {
                        c = findClass(name);
                    }
                    long t1 = System.nanoTime();
                    // this is the defining class loader; record the stats
                    sun.misc.PerfCounter.getParentDelegationTime().addTime(t1 - t0);
                    sun.misc.PerfCounter.getFindClassTime().addElapsedTimeFrom(t1);
                    sun.misc.PerfCounter.getFindClasses().increment();
                }
                if (resolve) {
                    resolveClass(c);
                }
                return c;
            }
        }
    }


    public static void main(String[] args) throws Exception {
        //初始化自定义类加载器，会先初始化父类ClassLoader，其中会把自定义类加载器的父加载器设置为应用程序类加载器AppClassLoader
        MyClassLoader classLoader = new MyClassLoader("/Users/chensir/Desktop/test");
        //创建 /Users/chensir/Desktop/test/java/lang 几级目录，将自己写的String.class丢入该目录
        Class clazz = classLoader.loadClass("java.lang.String");
        Object obj = clazz.newInstance();
        Method method = clazz.getDeclaredMethod("sayHello", null);
        method.invoke(obj);
        System.out.println(clazz.getClassLoader().getClass().getName());
    }

}

运行结果
Exception in thread "main" java.lang.RuntimeException: java.lang.SecurityException: Prohibited package name: java.lang
at ink.chensir.jvm.MyClassLoaderTest$MyClassLoader.findClass(MyClassLoaderTest.java:37)
at ink.chensir.jvm.MyClassLoaderTest$MyClassLoader.loadClass(MyClassLoaderTest.java:51)
at java.lang.ClassLoader.loadClass(ClassLoader.java:351)
at ink.chensir.jvm.MyClassLoaderTest.main(MyClassLoaderTest.java:70)
Caused by: java.lang.SecurityException: Prohibited package name: java.lang
at java.lang.ClassLoader.preDefineClass(ClassLoader.java:655)
at java.lang.ClassLoader.defineClass(ClassLoader.java:754)
at java.lang.ClassLoader.defineClass(ClassLoader.java:635)
at ink.chensir.jvm.MyClassLoaderTest$MyClassLoader.findClass(MyClassLoaderTest.java:35)
... 3 more

Tomcat打破双亲委派机制

问题： Tomcat如果使用默认的双亲委派类加载机制行不行？

思考：Tomcat是web容器，那么它需要解决什么问题？

1、一个web容器可能需要部署两个应用程序，不同的应用程序可能会依赖同一个第三方类库的不同版本，不能要求同一个类库在同一个服务器只有一份，因此要保证每个应用程序的类库都是独立的，保证相互隔离。

2、部署在同一个web容器中相同的类库相同的版本可以共享。否则，如果服务器有10个应用程序，那么要有10份相同的类库加载进虚拟机。

3、**web容器也有自己的依赖库，不能与应用程序的类库混淆。**基于安全考虑，应该让容器的类库和程序的类库隔离开来。

4、web容器要支持jsp的修改，jsp文件最终也是要编译成class文件才能在虚拟机中运行，但程序运行后修改jsp已经是司空见惯的事情，web容器需要支持jsp修改后不用重启。

所以，Tomcat使用默认的双亲委派类加载机制是不行的

原因：1、如果使用默认类的加载机制，那么无法加载两个相同类库的不同版本，默认的类加载器是不管你是什么版本的，只在乎你的全限定类名，并且只有一份。

2、默认的类加载器是能够实现的，因为它的职责就是保证唯一性。

3、与1一样

4、jsp文件其实也就是class文件，如果修改了，但类名还是一样，类加载器会直接去方法区中已经存在的，修改后的jsp是不会重新加载的。我们可以直接卸载掉这个jsp文件的类加载器，就是每个jsp文件对应一个唯一的类加载器，当一个jsp文件修改了，就直接卸载这个jsp类加载器。重新创建类加载器，重新加载jsp文件。

Tomcat类加载机制违背了java推荐的双亲委派模型，Tomcat为了实现隔离性，没有遵守约定，每个webAppClass加载自己的目录下的class文件，不会传递给父类加载器，打破了双亲委派机制

注意：同一个JVM，两个相同包名和类名的类对象可以共存，因为他们的类加载器可以不一样，所以看两个类对象是否是同一个，除了看类的包名和类名是否相同之外，还需要他们的类加载器也是同一个才能认为他们是同一个。

手写模拟简易Tomcat类加载

package ink.chensir.jvm;

import java.io.FileInputStream;
import java.lang.reflect.Method;

/**
 * @description: 自定义类加载器
 * @author: chensir
 * @slogan: 时间从来不语 却回答了所有问题
 */
public class MyClassLoaderTest {

    static class MyClassLoader extends ClassLoader {
        private String classPath;

        public MyClassLoader(String classPath) {
            this.classPath = classPath;
        }

        private byte[] loadByte(String name) throws Exception {
            name = name.replaceAll("\\.", "/");
            FileInputStream fis = new FileInputStream(classPath + "/" + name + ".class");
            int len = fis.available();
            byte[] data = new byte[len];
            fis.read(data);
            fis.close();
            return data;
        }

        @Override
        protected Class findClass(String name) throws ClassNotFoundException {
            try {
                byte[] data = loadByte(name);
                //defineClass将一个字节数组转为Class对象，这个字节数组是class文件读取后最终的字节 数组。
                return defineClass(name, data, 0, data.length);
            } catch (Exception e) {
                throw new RuntimeException(e);
            }
        }

        /**
         * 重写类加载方法，实现自己的加载逻辑，不委派给双亲加载
         */
        @Override
        protected Class loadClass(String name, boolean resolve) throws ClassNotFoundException {
            synchronized (getClassLoadingLock(name)) {
                // First, check if the class has already been loaded
                Class c = findLoadedClass(name);
                if (c == null) {
                    long t0 = System.nanoTime();
                    // If still not found, then invoke findClass in order
                    // to find the class.
                    //非自定义的类还是走双亲委派加载
                    if (!name.startsWith("ink.chensir.jvm")) {
                        c = this.getParent().loadClass(name);
                    } else {
                        c = findClass(name);
                    }
                    long t1 = System.nanoTime();
                    // this is the defining class loader; record the stats
                    sun.misc.PerfCounter.getParentDelegationTime().addTime(t1 - t0);
                    sun.misc.PerfCounter.getFindClassTime().addElapsedTimeFrom(t1);
                    sun.misc.PerfCounter.getFindClasses().increment();
                }
                if (resolve) {
                    resolveClass(c);
                }
                return c;
            }
        }
    }


    public static void main(String[] args) throws Exception {
        MyClassLoader classLoader1 = new MyClassLoader("/Users/chensir/Desktop/test1");
        //创建 /Users/chensir/Desktop/test/ink/chensir/jvm 几级目录，SayHello1.class丢入该目录
        Class clazz1 = classLoader1.loadClass("ink.chensir.jvm.SayHello1");
        Object obj1 = clazz1.newInstance();
        Method method1 = clazz1.getDeclaredMethod("helloJvm", null);
        method1.invoke(obj1);
        System.out.println(clazz1.getClassLoader().getClass().getName());

        MyClassLoader classLoader2 = new MyClassLoader("/Users/chensir/Desktop/test2");
        Class clazz2 = classLoader2.loadClass("ink.chensir.jvm.SayHello1");
        Object obj2 = clazz2.newInstance();
        Method method2 = clazz2.getDeclaredMethod("helloJvm", null);
        method2.invoke(obj2);
        System.out.println(clazz2.getClassLoader().getClass().getName());
    }
}

企业级反向代理HAProxy

2021-09-02T09:06:54.000Z

HAProxy简介

HAProxy是法国开发者Willy Tarreau在2000年使用C语言开发的一个开源软件，是一款具备高并发(一万以上)、高性能的TCP和HTTP负载均衡器，支持基于cookie的持久性，自动故障切换，支持正则表达式及web状态统计。从2013年HAProxy分为社区版和企业版，企业版将提供更多的特性和功能以及全天24小时的技术支持等服务。

企业版

https://www.haproxy.com

社区版

http://www.haproxy.org

https://github.com/haproxy

HAProxy功能

支持功能

TCP 和 HTTP反向代理
SSL/TSL服务器
可以针对HTTP请求添加cookie，进行路由后端服务器
可平衡负载至后端服务器，并支持持久性连接
支持所有主服务器故障切换至备用服务器
支持专用端口实现监控服务
支持停止接收新连接请求，而不影响现有连接
可以双向添加，修改或删除HTTP报文首部
响应报文压缩
支持基于pattern实现连接请求的访问控制
通过特定的URI为授权用户提供详细的状态信息
支持HTTP反向代理
支持动态程序的反向代理
支持基于数据库的反向代理

不具备的功能

正向代理 squid，nginx
缓存代理 varnish
web服务 nginx，tengine，apache，PHP，Tomcat
UDP 目前不支持UDP协议
单机性能相比LVS性能较差

HAProxy编译安装

编译安装haproxy-2.4.3LTS版本，更多源码包下载地址 http://www.haproxy.org/#down

准备lua环境

HAProxy支持基于lua实现功能扩展，lua是一种小巧的脚本语言，与1993年由巴西里约热内卢天主教大学里的一个研究小组开发，其设计目的是为了嵌入应用程序中，从而为应用程序提供灵活的扩展和定制功能。

Lua官网：www.lua.org

Lua应用场景

游戏开发
独立应用脚本
web应用脚本
扩展和数据库插件，如mysql proxy
安全系统，如入侵检测系统

centos基础环境

参考：http://www.lua.org/start.html

由于centos7之前版本自带的lua版本比较低，不符合HAProxy要求的lua最低版本(5.3)的要求，因此需要编译安装较新版本的lua环境，然后才能编译安装HAProxy，过程如下

# 查看当前版本
lua -v

# 安装基础命令及编译依赖环境
yum install -y gcc redline-devel
curl -R -O http://www.lua.org/ftp/lua-5.4.3.tar.gz
tar zxf lua-5.4.3.tar.gz
cd lua-5.4.3
make all

# 删除原有的链接
rm -rf /usr/bin/lua /usr/bin/luac

# 新建链接
ln -s /software/lua-5.4.3/src/lua /usr/bin/
ln -s /software/lua-5.4.3/src/luac /usr/bin/

开始编译安装HAProxy

# 安装依赖
yum install -y gcc openssl-devel pcre-devel systemd-devel

# 上传并解压 haproxy-2.4.3
tar -zxvf haproxy-2.4.3.tar.gz
cd haproxy-2.4.3

# 查看安装方法
cat README
cat INSTALL

# 参考INSTALL文件进行编译安装
make clean
make -j $(nproc) TARGET=linux-glibc USE_OPENSSL=1 USE_LUA=1 USE_PCRE=1 USE_SYSTEMD=1 USE_ZLIB=1 LUA_INC=/mitr/software/lua-5.4.3/src LUA_LIB=/mitr/software/lua-5.4.3/src PREFIX=/usr/haproxy
make install PREFIX=/usr/haproxy

！！！！！ln -s /usr/haproxy/sbin/haproxy /usr/bin/
！！！！！cp /usr/haproxy/sbin/haproxy /usr/bin/

# 查看生成的文件
yum install -y tree
tree /usr/haproxy/

/usr/haproxy/
├── doc
│   └── haproxy
│       ├── 51Degrees-device-detection.txt
│       ├── architecture.txt
│       ├── close-options.txt
│       ├── configuration.txt
│       ├── cookie-options.txt
│       ├── DeviceAtlas-device-detection.txt
│       ├── intro.txt
│       ├── linux-syn-cookies.txt
│       ├── lua.txt
│       ├── management.txt
│       ├── netscaler-client-ip-insertion-protocol.txt
│       ├── network-namespaces.txt
│       ├── peers.txt
│       ├── peers-v2.0.txt
│       ├── proxy-protocol.txt
│       ├── regression-testing.txt
│       ├── seamless_reload.txt
│       ├── SOCKS4.protocol.txt
│       ├── SPOE.txt
│       └── WURFL-device-detection.txt
├── sbin
│   └── haproxy
└── share
    └── man
        └── man1
            └── haproxy.1
6 directories, 22 files

# 验证HAProxy并查看版本及用法
haproxy -V
haproxy -vv

HAProxy配置文件

# 查看配置文件范例
tree haproxy-2.4.3/examples/

haproxy-2.4.3/examples/
├── acl-content-sw.cfg
├── basic-config-edge.cfg
├── content-sw-sample.cfg
├── errorfiles
│   ├── 400.http
│   ├── 403.http
│   ├── 408.http
│   ├── 500.http
│   ├── 502.http
│   ├── 503.http
│   ├── 504.http
│   └── README
├── haproxy.init
├── option-http_proxy.cfg
├── quick-test.cfg
├── socks4.cfg
├── transparent_proxy.cfg
└── wurfl-example.cfg

1 directory, 17 files

# 创建自定义文件夹
mkdir /etc/haproxy

# 编辑配置文件
vim /etc/haproxy/haproxy.cfg

# 添加内容如下
global
   chroot /usr/haproxy
   daemon
   stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin 
   user root
   group root
   maxconn 100000
   pidfile /var/lib/haproxy/haproxy.pid
   log 127.0.0.1 local3 info

defaults
   option http-keep-alive
   option forwardfor
   maxconn 100000
   mode http
   timeout client 300000ms
   timeout server 300000ms
   timeout connect 300000ms

listen stats
   mode http
   bind 0.0.0.0:9999
   stats enable
   log global
   stats uri /haproxy-status
   stats auth admin:123456

HAProxy启动文件

# 新建启动文件
vim /etc/systemd/system/haproxy.service

# 内容如下
[Unit]
Description=HAProxy Load Balancer
After=network-online.target
[Service]
ExecStartPre=/usr/sbin/haproxy -f /etc/haproxy/haproxy.cfg -c -q
ExecStart=/usr/sbin/haproxy -Ws -f /etc/haproxy/haproxy.cfg -p /var/lib/haproxy/haproxy.pid
ExecReload=/bin/kill -USR2 $MAINPID
[Install]
WantedBy=multi-user.target

# 新建存放haproxy.pid的目录
mkdir /var/lib/haproxy/

# 设置开机自启并启动
systemctl enable --now haproxy

HAProxy基础配置详解

HAProxy的配置文件haproxy.cfg由两大部分组成，分别是global和proxies

global 全局配置段：
- 进程及安全配置相关的参数
- 性能调整相关参数
- Debug参数
proxies 代理配置段
- defaults：为frontend，backend，listen提供默认配置
- frontend：前端，相当于nginx中的server {}
- backend：后端，相当于nginx中的upstream {}
- listen：同时拥有前端和后端配置，配置简单，生产推荐使用

global配置参数说明

官方文档：http://cbonte.github.io/haproxy-dconv/2.1/configuration.html#3

# 锁定运行目录
chroot 

# 以守护进程运行
deamon 

# socket文件
stats socket /var/lib/haproxy/haproxy.sock mode 600 level admin process 1

# 运行HAProxy的用户身份
user,group,uid,gid

# 开启的haproxy work进程数，默认进程数是1
nbproc n

# 指定每个haproxy进程开启的线程数，默认为每个进程一个线程
nbthread 1

# 绑定haproxy worker进程至指定CPU，将第2个work进程绑定至0号CPU
cpu-map 1 0
# 绑定haproxy worker进程至指定CPU，将第2个work进程绑定至1号CPU
cpu-map 2 1

# 每个haproxy进程的最大并发连接数
maxconn n

# 每个haproxy进程ssl最大连接数，用于haproxy配置了证书的场景下
maxsslconn n

# 每个进程每秒创建的最大连接数
maxconnrate n

# 后端server状态check随机提前或延迟百分比时间，建议2-5（20%-50%）之间，默认0
spread-checks n

# 指定pid文件路径
pidfile

# 定义全局的syslog服务器：日志服务器需要开启UDP协议，最多可以定义两个
log 127.0.0.1 local2 info

多进程和线程

范例：多进程和socket文件

vim /etc/haproxy/haproxy.cfg

# 配置如下
global
 maxconn 100000
 chroot /usr/haproxy
 stats socket /var/lib/haproxy/haproxy.sock1 mode 600 level admin process 1
 stats socket /var/lib/haproxy/haproxy.sock2 mode 600 level admin    process 2
 uid 99
 gid 99
 daemon
 nbproc 2

# 重启haproxy
systemctl restart haproxy

HAProxy日志配置

HAProxy本身不记录客户端的访问日志，此外为减少服务器负载，一般生产中HAProxy不记录日志，也可以配置HAProxy利用rsyslog服务记录日志到指定文件中

# 在global配置项定义 
# 基于syslog记录日志到指定设备，级别（err、warning、info、debug）
# log 127.0.0.1 local{1-7} info
log 127.0.0.1 local3 info

listen web_port
    bind 127.0.0.1:80
    mode http
    # 开启当前web_port的日志功能，默认不记录日志
    log global
    server web1 127.0.0.1:8080 check inter 3000 fall 2 rise 5
    
# 重启haproxy
systemctl restart haproxy

Rsyslog配置

# 修改rsyslog.conf
vim /etc/rsyslog.conf

# 编辑内容如下
$ModLoad imudp
$UDPServerRun 514
local3.* /var/log/haproxy.log

# 重启rsyslog
systemctl restart rsyslog

# rsyslog日志级别说明：
emerg 0       系统不可用
alert 1       必须马上采取行动的事件
crit 2        关键的事件
err 3        错误事件
warning 4      警告事件
notice 5      普通但重要的事件
info 6       有用的信息
debug 7      调试信息

Centos7磁盘IOPS压力测试

2021-08-30T06:15:33.000Z

什么是IOPS

IOPS（Input/Output Per Second）即每秒的输入输出量（或读写次数），是衡量磁盘性能的主要指标之一。

IOPS是指单位时间内系统能处理的I/O请求数量，一般以每秒处理的I/O请求数量为单位，I/O请求通常为读或写数据操作请求。

随机读写频繁的应用：小文件存储（图片）、OLTP数据库、邮件服务器，关注随机写性能，IOPS是关键衡量指标。

顺序读写频繁的应用：传输大量连续数据、电视台的视频编辑、视频点播VOD（Video On Demand），关注连续读写性能。数据吞吐量是关键衡量指标。

IOPS和数据吞吐量适用于不同的场合：

读取10000个1KB文件，用时10秒 Throught（吞吐量）=1MB/s，IOPS=1000 追求IOPS

读取1个10MB文件，用时0.2秒 Throught（吞吐量）=50MB/s，追求吞吐量

简而言之：

磁盘的IOPS，也就是在一秒内，磁盘进行多少次I/O读写。

磁盘的吞吐量，也就是每秒磁盘I/O的流量，即磁盘写入加上读出的数据的大小。

IOPS计算公式

对于磁盘来说一个完整的IO操作是这样进行的：

当控制器对磁盘发出一个IO操作命令的时候，磁盘的驱动臂（Actuator Arm）带读写磁头（Head）离开着陆区（Landing Zone，位于内圈没有数据的区域），移动到要操作的初始数据块所在的磁道（Track）的正上方，这个过程被称为寻址（Seeking），对应消耗的时间被称为寻址时间（Seek Time）；但是找到对应磁道还不能马上读取数据，这时候磁头要等到磁盘盘片（Platter）旋转到初始数据块所在的扇区（Sector）落在读写磁头正上方的之后才能开始读取数据，在这个等待盘片的旋转到可操作性扇区的过程中消耗的时间称为旋转延时（Rotational Delay），接下来就随着盘片的旋转，磁头不断的读/写相应的数据块，直到完成这次IO所需要操作的全部数据，这个过程称为数据传送（Data Transfer），对应的时间称为传送时间（Transfer Time）。完成这三个步骤之后一次IO操作也就完成了。

硬盘IOPS：是指硬盘每秒的读写次数

IO时间（读写时间） = 磁头移动时间 + 磁盘转动时间 +数据处理时间

IO时间（读写时间） = (磁头移动时间 + 60s/转速/2 + IOChunkSize/传输速度)

IOPS = 1000/IO时间

带宽=IOPS*IO大小

常见磁盘平均物理寻道时间

7200转/分的STAT硬盘平均物理寻道时间是9ms
10000转/分的STAT硬盘平均物理寻道时间是6ms
15000转/分的SAS硬盘平均物理寻道时间是4ms

常见硬盘的旋转延迟时间

7200 rpm的磁盘平均旋转延迟大约为601000/7200/2 = 4.17m
10000 rpm的磁盘平均旋转延迟大约为601000/10000/2 = 3ms
15000 rpm的磁盘其平均旋转延迟约为60*1000/15000/2 = 2ms

最大IOPS的理论计算方法

IOPS = 1000 ms/ (寻道时间 + 旋转延迟)。可以忽略数据传输时间。

7200 rpm的磁盘IOPS = 1000 / (9 + 4.17) = 76 IOPS
10000 rpm的磁盘IOPS = 1000 / (6+ 3) = 111 IOPS
15000 rpm的磁盘IOPS = 1000 / (4 + 2) = 166 IOPS

Centos7 测试IOPS方法

# 安装 FIO压测工具
wget http://brick.kernel.dk/snaps/fio-2.0.7.tar.gz
# 若系统无法上网可配置离线yum仓库
# https://chensir.ink/0abec7f652b7/#配置离线yum仓库
yum -y install libaio-devel 
tar -zxvf fio-2.0.7.tar.gz
cd fio-2.0.7
make  && make install

随机读写测试

# 4k顺序读
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=read -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=sqe_100read_4k

# 4k顺序写
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=write -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=sqe_100write_4k

# 4k顺序混合读写
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=rw -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=sqe_70read_4k

# 4k随机读
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=randread -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=rand_100read_4k

# 4k随机写
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=randwrite -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=rand_100write_4k

# 4k随机混合读写
fio -filename=/tmp/fiotest  -direct=1 -iodepth 1 -thread -rw=randrw -rwmixread=70 -ioengine=psync -bs=4k -size=5G -numjobs=20 -runtime=60 -group_reporting -name=rand_70read_4k

测试脚本

# fiopressure.sh

#!/bin/bash
filename=/tmp/fiotest
size=5G
runtime=60
report_path=/var/log/fio.report
# 4k顺序读
echo ">>>正在进行4k顺序读测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=read -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k顺序读 > $report_path
# 4k顺序写
echo ">>>正在进行4k顺序写测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=write -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k顺序写 >> $report_path
# 4k顺序混合读写
echo ">>>正在进行4k顺序混合读写测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=rw -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k顺序混合读写 >> $report_path
# 4k随机读
echo ">>>正在进行4k随机读测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=randread -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k随机读 >> $report_path
# 4k随机写
echo ">>>正在进行4k随机写测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=randwrite -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k随机写 >> $report_path
# 4k随机混合读写
echo ">>>正在进行4k随机混合读写测试"
fio -filename=$filename  -direct=1 -iodepth 1 -thread -rw=randrw -rwmixread=70 -ioengine=psync -bs=4k -size=$size -numjobs=20 -runtime=$runtime -group_reporting -name=4k随机混合读写 >> $report_path
echo ">>>FIO测试完毕,测试报告位于$report_path"

参数说明

# 测试文件名称,通常选择需要测试的盘的data目录
-filename=/tmp/fiotest

# 测试绕过机器自带的buffer，是测试结果更真实
-direct=1

# 测试顺序读的I/O
-rw=read

# 测试顺序写的I/O
-rw=write

# 测试顺序混合写和读的I/O
-rw=rw

# 测试随机读的I/O
-rw=randread

# 测试随机写的I/O
-rw=randwrite

# 测试混合随机读和写的I/O
-rw=randrw

# 单次I/O的块文件大小
-bs=4k

# 同上，提定数据块的大小范围
-bsrange=512-2048

# 本次的测试文件大小为5g，以每次4k的io进行测试
-size=5g

# 本次的测试线程为20
-numjobs=20

# 测试时间为60秒，如果不写则一直将5g文件分4k每次写完为止
-runtime=60

# io引擎使用pync方式，如果要使用libaio引擎，需要 yum install libaio-devel包
-ioengine=psync

# 在混合读写的模式下，写占30%
-rwmixwrite=30

# 关于显示结果的，汇总每个进程的信息
-group_reporting

# 此外
# 只使用1g内存进行测试
-lockmem=1g

# 用0初始化系统buffer
-zero_buffers

# 每个进程生成文件的数量
-nrfiles=8

查看测试结果

io=执行了多少M的IO

bw=平均IO带宽
iops=IOPS
runt=线程运行时间
slat=提交延迟
clat=完成延迟
lat=响应时间
bw=带宽
cpu=利用率
IO depths=io队列
IO submit=单个IO提交要提交的IO数
IO complete=Like the above submit number, but for completions instead.
IO issued=The number of read/write requests issued, and how many of them were short.
IO latencies=IO完延迟的分布

io=总共执行了多少size的IO
aggrb=group总带宽
minb=最小.平均带宽.
maxb=最大平均带宽.
mint=group中线程的最短运行时间.
maxt=group中线程的最长运行时间.

ios=所有group总共执行的IO数.
merge=总共发生的IO合并数.
ticks=Number of ticks we kept the disk busy.
io_queue=花费在队列上的总共时间.
util=磁盘利用率

测试吞吐量

yum -y install hdparm

# /dev/sdb1 可修改
hdparm -Tt --direct /dev/sdb1

#参数说明
-t 评估硬盘的读取效率。
-T 评估硬盘快取的读取效率。

MySQL基准测试及性能优化

2021-08-25T13:49:06.000Z

mysql基准测试

什么是基准测试

数据库的基准测试是对数据库的性能指标进行定量的、可复现的、可对比的测试。

基准测试与压力测试

基准测试可以理解为针对系统的一种压力测试。但基准测试不关心业务逻辑，更加简单、直接、易于测试，数据可以由工具生成，不要求真实；
压力测试一般考虑业务逻辑(如购物车业务)，要求真实的数据。

基准测试的作用

对于多数Web应用，整个系统的瓶颈在于数据库；原因很简单：Web应用中的其他因素，例如网络带宽、负载均衡节点、应用服务器（包括CPU、内存、硬盘灯、连接数等）、缓存，都很容易通过水平的扩展（俗称加机器）来实现性能的提高。而对于MySQL，由于数据一致性的要求，无法通过增加机器来分散向数据库写数据带来的压力；虽然可以通过前置缓存（Redis等）、读写分离、分库分表来减轻压力，但是与系统其它组件的水平扩展相比，受到了太多的限制。

而对数据库的基准测试的作用，就是分析在当前的配置下（包括硬件配置、OS、数据库设置等），数据库的性能表现，从而找出MySQL的性能阈值，并根据实际系统的要求调整配置。

基准测试的指标

常见的数据库指标包括：

TPS/QPS：衡量吞吐量。
响应时间：包括平均响应时间、最小响应时间、最大响应时间、时间百分比等，其中时间百分比参考意义较大，如前95%的请求的最大响应时间。。
并发量：同时处理的查询请求的数量。

基准测试的分类

对MySQL的基准测试，有如下两种思路：

针对整个系统的基准测试：通过http请求进行测试，如通过浏览器、APP或postman等测试工具。该方案的优点是能够更好的针对整个系统，测试结果更加准确；缺点是设计复杂实现困难。
只针对MySQL的基准测试：优点和缺点与针对整个系统的测试恰好相反。在针对MySQL进行基准测试时，一般使用专门的工具进行，例如mysqlslap、sysbench等。其中，sysbench比mysqlslap更通用、更强大，且更适合Innodb（因为模拟了许多Innodb的IO特性）

常见的MySQL压力测试工具

mysqlslap
Sysbench
功能强大，官网：https://github.com/akopytov/sysbench
tpcc-mysql
MySQL Benchmark Suite
MySQL super-smack
MyBench

mysqlslap(压测)

官方介绍：https://dev.mysql.com/doc/refman/5.7/en/mysqlslap.html

mysqlslap，mysqlslap是MySQL5.1.4之后自带的benchmark基准测试工具，该工具可以模拟多个客户端同时并发的向服务器发出查询更新，给出了性能测试数据而且提供了多种引擎的性能比较。测试的过程默认生成一个mysqlslap的schema，生成测试表T1，查询和插入测试数据，mysqlslap库自动生成，如果已经存在则先删除。用–only-print来打印实际的测试过程，整个测试完成后不会在数据库中留下痕迹。

使用格式：

mysqlslap [options]

常用参数[options]说明

# 自动生成测试表和测试数据，表示用mysqlslap工具自己生成的SQL脚本来测试并发压力
--auto-generate-sql, -a 

# 测试语句的类型。代表要测试的环境是读操作还是写操作 还是两者混合。取值包括：read，key，write，update和mixed（默认）
--auto-generate-sql-load-type=type

# 代表对生成的表自动添加auto_increment列，从5.1.18版开始支持
--auto-generate-sql-add-autoincrement

# 自动生成的测试表中包含多少个字符类型的列，默认1
--number-char-cols=N, -x N

# 自动生成的测试表中包含多少个数据类型的列，默认1
--number-int-cols=N, -y N

# 总的测试查询次数（并发客户数*每客户查询次数）
--number-of-queries=N

# 使用自定义脚本执行测试，例如可以调用自定义的存储过程或SQL语句来执行测试
--query=name， -q

# 代表自定义的测试库名，测试的schema
--create-schema

# 多少条DML提交一次
--commit=N

# 如服务器和客户端都支持压缩，则压缩信息
--compress, -C

# 表示并发量，即模拟多少个客户端同时执行select，可指定多个值，以逗号或 --delimiter参数指定值作为分隔符，如：--concurrency=100,200,500
--concurrency=N, -c N

# 代表要测试的引擎，可以有多个，用分隔符隔开。如：--engines=myisam，Innodb
--engine=engine_name, -e engine_name

# 测试执行的迭代次数，代表要在不同并发环境下，各自运行测试多少次
--iterations=N, -i N

# 只打印测试语句而不实际执行
--only-print

# 执行N条语句后断开重连
--detach=N

# 打印内存和CPU的相关信息
--debug-info, -T

运行结果各项含义

# 运行所有语句的平均秒数
Average number of …

# 运行所有语句的最小秒数
Minimum number of …

# 运行所有语句的最大秒数
Maximum number of …

# 客户端数量
Number of clients …

# 每个客户端运行查询的平均数
Average number of queries per client

mysqslap示例

# 单线程测试
mysqlslap -a -uroot -p123456

# 多线程测试 使用 --concurrency来模拟并发连接
mysqlslap -a -c 100 -uroot -p123456

# 迭代测试 用于需要多次执行测试得到平均值
mysqlslap -a -i 10 -uroot -p123456
mysqlslap --auto-generate-sql-add-autoincrement -a -uroot -p123456
mysqlslap -a --auto-generate-sql-load-type=read -uroot -p123456
mysqlslap -a --auto-generate-sql-secondary-indexes=3 -uroot -p123456
mysqlslap -a --auto-generate-sql-write-number=1000 -uroot -p123456
mysqlslap --create-schema world -q "select count(*) from city" -uroot -p123456
mysqlslap -a -e innodb -uroot -p123456
mysqlslap -a --number-of-queries=10 -uroot -p123456

# 测试同时不同的存储引擎的性能进行对比
mysqlslap -a --concurrency=50,100 --number-of-queries 1000 --iterations=5 --engine=myisam,innodb -uroot -p123456

# 执行一次测试，分别50，100个并发，执行1000次总查询
mysqlslap -a --concurrency=50,100 --number-of-queries 1000 -uroot -p123456

# 50和100个并发分别得到一次测试结果（Benchmark），并发数越多，执行完所有查询的时间越长。为了准确起见，可以多迭代测试几次
mysqlslap -a --concurrency=50,100 --number-of-queries 1000 --iterations=5 -uroot -p123456

Sysbench(压测)

sysbench是跨平台的基准测试工具，支持多线程，支持多种数据库；主要包括以下几种测试

cpu性能
磁盘io性能
调度程序性能
内存分配及传输速度
POSIX线程性能
数据库性能(OLTP基准测试)

本文主要介绍对数据库性能的测试

安装Sysbench

# 下载并解压
wget https://github.com/akopytov/sysbench/archive/refs/tags/1.0.20.tar.gz -O "sysbench-1.0.20.tar.gz"
tar -zxvf sysbench-1.0.20.tar.gz
cd sysbench-1.0.20

# 安装依赖
yum install -y automake libtool

# 开始编译安装（安装前确认在sysbench-1.0.20目录下）
./autogen.sh
./configure

# 这里换成服务器中mysql路径下的include
export LD_LIBRARY_PATH=/mitr/baseProgram/mysql/include
make && make install

# 查看版本确认是否安装成功
sysbench --version

安装时遇到的问题

查看版本时报错

sysbench: error while loading shared libraries: libmysqlclient.so.20: cannot open shared object file: No such file or directory

解决方法

# 查看动态链接库
ldconfig -p | grep mysql

# /mitr/baseProgram/mysql/lib/libmysqlclient.so.20在自定义mysql安装位置下
ln -s /mitr/baseProgram/mysql/lib/libmysqlclient.so.20 /usr/lib
ldconfig

# 再次查看动态链接库
ldconfig -p | grep mysql

# 然后再次查看版本号即可
sysbench --version

ldconfig

ldconfig命令的用途主要是在默认搜寻目录/lib和/usr/lib以及动态库配置文件/etc/ld.so.conf内所列的目录下，搜索出可共享的动态链接库（格式如lib*.so*）,进而创建出动态装入程序(ld.so)所需的连接和缓存文件。缓存文件默认为/etc/ld.so.cache，此文件保存已排好序的动态链接库名字列表，为了让动态链接库为系统所共享，需运行动态链接库的管理命令ldconfig，此执行程序存放在/sbin目录下

ldconfig几个需要注意的地方：

往/lib和/usr/lib里面加东西，是不用修改/etc/ld.so.conf的，但是完了之后要调一下ldconfig，不然这个library会找不到。
在上面两个目录以外加东西的时候，一定要修改/etc/ld.so.conf，然后再调用ldconfig，不然也会找不到。比如安装了一个mysql到/usr/local/mysql，mysql有一大堆library在/usr/local/mysql/lib下面
如果想在这两个目录以外放lib，但是又不想在/etc/ld.so.conf中加东西（或者是没有权限加东西）。那也可以，就是export一个全局变量LD_LIBRARY_PATH，然后运行程序的时候就会去这个目录中找library。一般来讲这只是一种临时的解决方案，在没有权限或临时需要的时候使用。
ldconfig做的这些东西都与运行程序时有关，跟编译时一点关系都没有。编译的时候还是该加-L就得加，不要混淆了。
总之，就是不管做了什么关于library的变动后，最好都ldconfig一下，不然会出现一些意想不到的结果。不会花太多的时间，但是会省很多的事。
再有，诸如libdb-4.3.so文件头中是会含有库名相关的信息的（即含“libdb-4.3.so”，可用strings命令查看），因此仅通过修改文件名以冒充某已被识别的库（如libdb-4.8.so）是行不通的。为此可在编译库的Makefile中直接修改配置信息，指定特别的库名。

执行./configure报错：cannot find -lmysqlclient_r

解决方法

# 安装mysql-devel
yum install mysql-devel
# 重新执行./configure 继续安装即可

sysbench语法

执行sysbench –help，可以看到sysbench的详细使用方法。sysbench的基本语法如下：

sysbench [options]… [testname] [command]

command是sysbench要执行的命令，包括prepare、run和cleanup，顾名思义，prepare是为测试提前准备数据，run是执行正式的测试，cleanup是在测试完成后对数据库进行清理。

testname指定了要进行的测试，在老版本的sysbench中，可以通过--test参数指定测试的脚本；而在新版本中，--test参数已经声明为废弃，可以不使用–test，而是直接指定脚本。

# 如以下两种写法效果是一样的
sysbench --test=/usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
sysbench /usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua

测试时使用的脚本为lua脚本，可以使用sysbench自带脚本，也可以自己开发。对于大多数应用，使用sysbench自带的脚本就足够了。不同版本的sysbench中，lua脚本的位置可能不同可以使用locate进行搜索

# 安装locate工具
yum install -y mlocate

# 搜索
updatedb
locate oltp.lua

option 是sysbench的参数，一下是比较常用的参数

# mysql连接参数
--mysql-host # mysql服务器主机名/IP
--mysql-port # mysql服务端口,默认3306
--mysql-user # mysql用户名
--mysql-password # mysql密码

# mysql执行参数
# 执行模式：simple(简单查询语句)、nontrx(查询,插入,更新 不使用事务)、complex(默认,增删改查,使用事务)
--oltp-test-mode 
--oltp-tables-count # 测试表的数量
--oltp-table-size # 测试表的大小(数据量)
--threads # 客户端并发连接数
--time # 测试执行的时间,单位是秒,该值不要太短,可以使120
--report-interval # 生成报告的时间间隔,单位是秒,如10

sysbench使用注意

尽量不要在MySQL服务器运行的机器上进行测试，一方面可能无法体现网络（哪怕是局域网）的影响，另一方面，sysbench的运行（尤其是设置的并发数较高时）会影响MySQL服务器的表现。
可以逐步增加客户端的并发连接数（–thread参数），观察在连接数不同情况下，MySQL服务器的表现；如分别设置为10,20,50,100等。
一般执行模式选择complex即可，如果需要特别测试服务器只读性能，或不使用事务时的性能，可以选择simple模式或nontrx模式。
如果连续进行多次测试，注意确保之前测试的数据已经被清理干净。

sysbench测试mysql TPS/QPS

# 创建用于测试的数据库
mysql> create database sbtest;

# (执行模式为complex,使用10张表,每张表有100万条数据,客户端并发的线程为100,执行时间为300秒,每10秒生成一次报告)
# 准备数据
sysbench /usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua --mysql-host=10.0.0.68 --mysql-port=3306 --mysql-user=root --mysql-password=123456 --oltp-test-mode=complex --oltp-tables-count=10 --oltp-table-size=1000000 --threads=100 --time=300 --report-interval=10 prepare

# 执行测试
sysbench /usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua --mysql-host=10.0.0.68 --mysql-port=3306 --mysql-user=root --mysql-password=123456 --oltp-test-mode=complex --oltp-tables-count=10 --oltp-table-size=1000000 --threads=100 --time=300 --report-interval=10 run >> /root/mysysbench.log

# 清理数据(清除数据一定要指定--oltp-tables-count --oltp-table-size 并与准备数据和执行时的一致)
sysbench /usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua --mysql-host=10.0.0.68 --mysql-port=3306 --mysql-user=root --mysql-password=123456 --oltp-tables-count=10 --oltp-table-size=1000000 cleanup

sysbench测试mysql脚本

# mysqlpressure.sh

#!/bin/bash
oltp_path=/usr/local/share/sysbench/tests/include/oltp_legacy/oltp.lua
host=10.0.0.68
port=3306
user=root
password=123456
oltp_tables_count=10
oltp_table_size=100000
threads=50
test_time=120
report_path=/var/log/sysbench.report
echo ">>>正在准备测试数据>>>"
sysbench $oltp_path --mysql-host=$host --mysql-port=$port --mysql-user=$user --mysql-password=$password --oltp-test-mode=complex --oltp-tables-count=$oltp_tables_count --oltp-table-size=$oltp_table_size --threads=$threads --report-interval=10 prepare

echo ">>>正在进行压力测试>>>"
sysbench $oltp_path --mysql-host=$host --mysql-port=$port --mysql-user=$user --mysql-password=$password --oltp-test-mode=complex --oltp-tables-count=$oltp_tables_count --oltp-table-size=$oltp_table_size --threads=$threads --time=$test_time --report-interval=10 run >$report_path

echo ">>>正在进行测试数据清理>>>"
sysbench $oltp_path --mysql-host=$host --mysql-port=$port --mysql-user=$user --mysql-password=$password --oltp-test-mode=complex --oltp-tables-count=$oltp_tables_count --oltp-table-size=$oltp_table_size cleanup

echo ">>>压力测试完毕测试报告位于$report_path"

sysbench解读测试报告

SQL statistics:
    queries performed:
        read: # 读总数
        write: # 写总数
        other: # 其他操作总数(SELECT、INSERT、UPDATE、DELETE之外的操作，例如COMMIT等)
        total: # 全部总数
    transactions: # TPS 总事务数(每秒事务数)
    queries: # QPS 查询总数（每秒查询数)
    ignored errors: # 总忽略错误总数(每秒忽略错误次数)
    reconnects: # 重连总数(每秒重连次数)
    
General statistics:
    total time: # 总耗时
    total number of events: # 共发生多少事务数

Latency (ms):
         min: # 最小耗时
         avg: # 平均耗时
         max: # 最长耗时
         95th percentile: # 超过95%平均耗时
         sum: 

Threads fairness: # 并发统计
    events (avg/stddev): # 总处理事件数/标准偏差
    execution time (avg/stddev): # 总执行时间/标准偏差

其中mysql测试主要关注：

queries：查询总数及qps
transactions：事务总数及tps
Latency-95th percentile：前95%的请求的最大响应时间

FIO(磁盘压测工具)

详见 Centos7磁盘IOPS压力测试

服务器资源监控工具nmon

nmon 是 Nigel’s performance Monitor for Linux(nigel 的 Linux 性能监控器)的英文缩写；它有三种运行模式，分别是：实时屏幕模式、数据收集模式、定时计划执行模式；这款工具运行时，本身资源消耗很小，而且监控的资源种类比较多，使用非常简单，所以，在没有搭建专业的监控平台时，很多人都会想到用它来监控服务器

nmon安装与使用

# 查看centos的发行版本
cat /etc/redhat-release

# 根据版本在nmon的下载页面下载对应版本，然后解压即可
# nmon：http://nmon.sourceforge.net/pmwiki.php?n=Site.Download&utm_source=testingpai.com
yum install -y wget 

# centos7 对应版本
wget https://jaist.dl.sourceforge.net/project/nmon/nmon16m_helpsystems.tar.gz

# 解压
tar -zxvf nmon16m_helpsystems.tar.gz

cp nmon_x86_64_centos7 /usr/local/bin/nmon
chmod +x /usr/local/bin/nmon

实时屏幕模式

直接执行nmon，开启nmon的实时屏幕展示模式

参数说明

c # 带条形图的 CPU 利用率统计信息（CPU 核心线程）
m # 内存和交换统计
d # 磁盘 I/O 繁忙百分比 & 每秒读\写数据量 KB/s 图
r # 资源：机器类型，名称，缓存详细信息和操作系统版本以及 Distro + LPAR
t # top 进程，1 基础、3 性能、4 大小、5 I/O 仅 root 用户可用
n # 网络统计信息和错误（如果没有错误，则消失）
j # 文件系统，包括日记文件系统
k # 内核统计信息运行队列，上下文切换，派生，平均负载和正常运行时间
U # CPU 使用率统计信息 user, user_nice, system, idle, iowait, irq, softirq, steal, guest, guest_nice
u # 进程详细信息

可以连续输入参数 例如：cmdU

数据收集模式

执行nmon -f，开启nmon的数据收集模式，该命令不在后面跟参数，则默认为 -s300 -c288

注：直接执行这个命令，后面不带参数，该命令将在后台持续执行24小时，手机24小时资源使用情况

参数说明

-f # 标准输出到表格文件，默认 -s300 -c288 ，为 24 小时，输出文件格式为：hostname_YMD_HHMM.nmon
-F # 类似-f，但是支持指定输出文件的名称
-a # GPU 加速，统计信息
-b # 切换黑白 和彩色模式
-c # 总统计次数
-s # 数据统计间隔时间， 单位为：秒
-d # 最大的磁盘数，默认 256
-D # 与-g 一起使用以添加磁盘等待/服务时间和运行中状态
-g # 用户定义的磁盘组获取数据：生成 BBBG 和 DG 行
-J # 关闭日志文件系统统计信息收集（可能导致自动挂载 NFS 出现问题）
-m # 把输出文件保存到指定文件夹。通过 cron 启动 nmon 时有用
-M # 为每个 CPU 线程添加 MHz 统计信息。 某些 POWER8 型号 CPU 内核的频率可能不同
-N # 包括适用于 V2，V3 和 V4 的 NFS 网络文件系统
-p # nmon 启动时将输出 PID。 在脚本中很有用，可捕获 PID 以便以后安全停止
-r # 在基准测试中用于记录运行详细信息，以供以后分析[默认主机名]
-t # 在输出中包括 top 流程
-T # -t 增强，它将命令行参数保存在 UARG 部分中
-U # 包括 Linux 10 CPU 使用率统计信息（文件中的 CPUUTIL 行）

常用参数 -f -s -c -m -p

常用案例

# 监控服务器，将结果标准输出，命令将后台持续运行24小时
nmon -f

# 每隔3秒收集一次，收集10次，将结果标准输出
nmon -f -s3 -c10

# 每隔3秒收集一次，收集10次，将结果标准输出到指定路径，注意：文件夹要存在
nmon -f -s3 -c10 -m /tmp/nmon

定时计划执行模式

nmon -x 开启定时计划执行模式，若后面不添加任何参数，默认为-s900 -c96 即每隔900秒获取一次数据，总共执行96次，也就是24小时，收集的数据结果将采用标准输出

使用-X参数，默认为-s30 -c120 即每隔30秒获取一次数据共执行120次，也就是1小时，收集的数据结果采用标准输出

-z 用root账户运行，收集1天数据，输出到/var/perf/tmp文件夹

查看结果

标准输出结果查看

nmon的标准输出结果文件为：主机名_年月日_时分。nmon是一种文本数据文件，可以用文本编辑器打开，但不便于阅读，可以使用nmon的analysis工具打开

本地电脑下载 nmon_analysis:

http://nmon.sourceforge.net/pmwiki.php?n=Site.Nmon-Analyser&utm_source=testingpai.com

解压刚刚下载的tar包
从Linux服务器上下载nmon标准输出文件到本地电脑
使用Excel打开刚刚解压的nmon analyser v**.xlsm文件，启用宏

点击【Analyze nmon data】按钮，选择从服务器上下载的 nmon 文件，将会自动分析，生成一个 xlsx 的文件，保存，自动会用 Excel 打开，打开我们就能看到多个图表

如果生成的nmon标准输出文件过大，可以使用其他工具：如 nmonchar.tar

http://nmon.sourceforge.net/pmwiki.php?n=Site.Nmonchart&utm_source=testingpai.com

# 需要安装ksh
yum install -y ksh

# 下载之后解压并进入到nmonchart40
./nmonchart 被分析的nmon文件.nmon 生成结果文件.html

# 将生成的html文件下载到本地机器即可查看

生产环境 my.cnf 配置案例(未完待续)

配置文件生成工具参考链接：https://imysql.com/my_cnf_generator

计算mysql占用内存大小链接：http://www.mysqlcalculator.com


# 设置服务端使用的字符集
character_set_server=utf8mb4

# 禁止域名解析
skip_name_resolve=1

# 客户端连接失败次数，阻止客户端暴力破解密码 默认100
# 每个客户端连接最大的错误允许数量，当超过该次数，MySql服务器将禁止此主机的连接请求，直到MySQL服务器重启或通过flush hosts命令清空此主机的相关信息
# 需要配合 skip_name_resolve=1 一起用才会生效
max_connect_errors=100

# 最大客户端连接数 默认值 151 最小值1 最大值100000
# max_connections 还取决于操作系统对单进程允许打开最大文件数的限制
# 也就是说如果操作系统限制单个进程最大可以打开100个文件
# 那么 max_connections 设置为200也没什么用
# ulimit -n 查看操作系统对单进程打开最大文件数限制 默认为1024
max_connections=5000

# 推荐设置：1； 默认为0
# 应用场景：主从复制时使用，具体看业务需求
# 0：代表mysql不控制写binlog的时间，由file system自由去控制，此时的mysql的并发性达到最好，但是一旦系统崩溃会丢失很多还未写入binlog的数据（比如说正在删数据和更新数据）
# 1：最安全，最多丢掉一个事务或者是一条语句，但是此时它的性能很差，此参数设为0或者是1之间的性能能差4～5倍
# sync_binlog=n，当每进行n次事务提交之后，MySQL将进行一次fsync之类的磁盘同步指令来将binlog_cache中的数据强制写入磁盘
sync_binlog=1

# 隔离级别
# 1.read-uncommitted：读未提交，允许脏读：读未提交是指，一个事务还没提交时，它做的变更就能被别的事务看到
# 2.read-committed：读提交，不允许脏读，但允许不可重复读：读提交是指，一个事务提交之后，它做的变更才会被其他事务看到
# 3.epeatable-read：可重复读，不允许脏读、不可重复读，但允许幻读：可重复读是指，一个事务执行过程中看到的数据，总是跟这个事务在启动时看到的数据是一致的。当然在可重复读隔离级别下，未提交变更对其他事务也是不可见的
# 4.serializable：串行化，以上都不允许：“写”会加“写锁”，“读”会加“读锁”。当出现读写锁冲突的时候，后访问的事务必须等前一个事务执行完成，才能继续执行
transaction_isolation=READ-COMMITTED

# 每个连接传输数据大小，最大1G，必须是1024的倍数,一般设为最大的BLOB的值
# 针对一个事务中的一行记录的大小，当一行记录超过限制的大小将会报错
# sql文件中每次insert完进同一张表的所有数据被称为一个数据包（packet），max_allowed_packet就是来限制这个的大小的阈值，大于这个值，mysql的I/O连接会关闭，会报错
max_allowed_packet=128M

# InnoDB相关参数

# 确定日志文件何时write、flush
# ！！！ 核心交易系统设置为1，默认为1，其他设置2或0 ！！！
# 0：log buffer将每秒一次地写入log file中，并且log file的flush(刷到磁盘)操作同时进行。该模式下在事务提交的时候，不会主动触发写入磁盘的操作；就是每秒调用 flush + fsync ，定时器自己维护。

# 1：每次事务提交时MySQL都会把log buffer的数据写入log file，并且flush(刷到磁盘)中去，该模式为系统默认（因此会保留每一份redo日志）；就是实时调用 flush + fsync 没法批处理，性能很低。

# 2：每次事务提交时MySQL都会把log buffer的数据写入log file，但是flush(刷到磁盘)操作并不会同时进行。该模式下，MySQL会每秒执行一次 flush(刷到磁盘)操作。该模式速度较快，也比0安全，只有在操作系统崩溃或者系统断电的情况下，上一秒钟所有事务数据才可能丢失；就是实时flush ,定时 fsync 交给OS维护定时器。

# 除非你用的是小型机或者是超大规模mysql集群一类如：游戏行业，那么需要保留每z一秒的事务，否则请设成2，要不然会严重影响系统性能。这个参数是5.6所没有的。

# 如果不配的后果：默认为1，影响系统写性能。

# innodb_flush_log_at_trx_commit和sync_binlog 两个参数是控制MySQL 磁盘写入策略以及数据安全性的关键参数，当两个参数都设置为1的时候写入性能最差

# 推荐做法是
# innodb_flush_log_at_trx_commit=2
# sync_binlog=500或1000
innodb_flush_log_at_trx_commit=2

# 控制着innodb数据文件及redo log的打开、刷写模式
# 确定日志及数据文件如何write、flush
innodb_flush_method=O_DIRECT

# innodb使用一个缓冲池来保存索引和原始数据，可设置这个变量到物理内存大小的80%
# 建议设置为内存的20%-65%（独立的mysql服务器）
# 20%：因为对于4G内存的mysql服务器按照20%系统内存设置
innodb_buffer_pool_size=48128M

# 与innodb_buffer_pool_size相辅相成,在32位机器下innodb_buffer_pool_instances一般为1
# 在64位机器上,这个值为8-64
# innodb_buffer_pool_instances其实为CPU核数
# 作用：
# 1.对于缓冲池在数千兆字节范围内的系统，通过减少争用不同线程对缓存页面进行读写的争用，将缓冲池划分为多个单独的实例可以提高并发性
# 2.使用散列函数将存储在缓冲池中或从缓冲池读取的每个页面随机分配给其中一个缓冲池实例。每个缓冲池管理自己的空闲列表,刷新列表,LRU和连接到缓冲池的所有其他数据结构，并受其自己的缓冲池互斥量保护。
# innodb_buffer_pool_size的设置需要为pool_instance的整数倍
innodb_buffer_pool_instances=24

# 定义了InnoDB后台任务每秒可用的I/O操作数（IOPS）默认200 系统吞吐量上不去
# 影响 innodb 刷脏页的能力 脏页：当内存数据页跟磁盘数据页内容不一致的时候，我们称这个内存页为“脏页”
# 该值对读无效,对写很有意义,它会直接决定mysql的tps(吞吐性能)
# 需要根据paas或者是ias的vm的硬盘性号来定
# 最好的方法是测量你的存储设置的随机写吞吐量，然后给innodb_io_capacity_max设置为你的设备能达到的最大IOPS
# SATA/SAS：innodb_io_capacity_max=200
# SAS raid10：innodb_io_capacity_max=2000
# SSD：innodb_io_capacity_max=8000
# fusion-io(闪存卡)：innodb_io_capacity_max=25000-50000
innodb_io_capacity_max=8000

# innodb_io_capacity就设置为它的50-75%，特别是系统主要是写操作时
innodb_io_capacity=4000

# 控制buffer pool刷脏页时是否把脏页邻近的其他脏页一起刷到磁盘，在传统的机械硬盘时代，打开这个参数能够减少磁盘寻道的开销，显著提升性能，设置成1(默认状态)Innodb会刷新一个extent中的所有页面，因SSD在随机IO上没有额外负载，所以不需要启用该特性。即 机械盘 innodb_flush_neighbors=1 固态 innodb_flush_neighbors=0，mysql8.0已经把这个默认值设为0了。
# 当 srv_flush_neighbors 为 0时， [low, high] 只包含一个页面
# 当 srv_flush_neighbors 为 1时， [low, high] 包含邻近的页面，页面数小于等于变量值buf_flush_area
# 当 srv_flush_neighbors 为 2时， [low, high] 包含邻近的页面，页面数等于变量值buf_flush_area
innodb_flush_neighbors=1

# 在日志组中每个日志文件的大小
innodb_log_file_size=1G
# 在日志组中的文件总数
innodb_log_files_in_group=3

# 表的字段索引长度限制
# 如果客户端和服务端的字符集设置为utf8mb4则innodb_large_prefix=1
# 因为mysql5.6之前一直是单列索引限制767（256*3-1）3是字符最大占用空间(utf8)
# mysql5.6以后，开始支持4个字节的utf8mb4 255*4>767 于是增加了这个参数
# 默认值为OFF，当改为ON时，允许列索引最大达到3072
# mysql5.6中开关叫ON，OFF，5.7中是1或0，由于前面这是了utf8mb4,那么这个值必须开启
# 未开启：会导致索引微笑，或者查询时不走最有计划
innodb_large_prefix=1

# 影响page cleaner线程每次刷脏页的数量 默认为1024
innodb_lru_scan_depth=2000

# 开启慢查询日志
# 默认情况下，慢查询日志禁用，因为开启慢查询日志或多或少的会对mysql的性能产生一些影响
# 在慢查询日志功能开启时，只有SQL执行时间超过long_query_time参数值的的语句才会在慢查询日志中记录
slow_query_log=ON

# 慢查询时长
# 最小值和默认值分别为0  10，单位为秒
long_query_time=2

# 以FILE类型存储慢查询日志时的存储位置
# 如果没有为慢查询日志指定名称，默认为host_name-slow.log
slow_query_log_file=/mitr/baseProgram/mysql/data/slow.log

# 所有线程打开表的数量
open_files_limit=65535

# 限制Innodb能打开的表的数据
# 这个值默认是300,如果库里的表特别多的情况,可以适当增大为1000. innodb_open_files的大小对InnoDB效率的影响比较小。
# 但是在InnoDBcrash的情况下,innodb_open_files设置过小会影响recovery的效率.
# 所以用InnoDB的时候还是把innodb_open_files放大一些比较合适
innodb_open_files=3000

MYSQL备份与恢复

2021-08-09T01:19:28.000Z

备份恢复概述

为什么要备份

灾难恢复：硬件故障、软件故障、自然灾害、黑客攻击、误操作测试等数据丢失场景。

备份类型

完全备份：备份整个数据集
部分备份：只备份数据子集，如部分库或表
增量备份：仅备份最近一次完全备份或增量备份（如果存在增量）依赖的数据，备份较快，还原复杂
差异备份：仅备份最近一次完全备份以来变化的数据，备份较慢，还原简单；注：二进制日志文件不应该与数据文件放在同一磁盘
冷备：读、写操作均不可进行，数据库停止服务
热备：读操作可以执行；写操作不可执行
温备：读、写操作均可执行
- MyISAM：温备，不支持热备
- InnoDB：都支持
物理备份：直接复制数据文件进行备份，与存储引擎有关，占用较多的空间，速度快
逻辑备份：从数据库中导出数据另存而进行的备份，与存储引擎无关，占用空间较少，速度慢，可能丢失精度

备份内容

数据
二进制日志、InnoDB的事务日志
用户账号，权限设置，程序代码（存储过程、函数、触发器、事件调度器）
服务器的配置文件

备份注意要点

能容忍最多丢失多少数据
备份产生的负载
备份过程的时长
温备的持锁多久
恢复数据需要在多长时间内完成
需要备份和恢复哪些数据

还原要点

做还原测试，用于测试备份的可用性
还原演练，写成规范的技术文档

备份工具

cp，tar等复制归档工具：物理备份工具，适用所有存储引擎；只支持冷备；完全和部分备份
LVM的快照：先加读锁，做快照后解锁，几乎热备；借助文件系统工具进行备份
mysqldump：逻辑备份工具，适用所有存储引擎，对MyISAM存储引擎进行温备；支持完全或部分备份，对InnoDB存储引擎支持热备，结合binlog的增量备份
xtrabackup：由Percona提供支持对InnoDB做热本（物理备份）的工具，支持完全备份、增量备份
MariaDB Backup：从MariaDB 10.1.26开始集成，基于Percona XtraBackup2.3.8实现
mysqlbackup：热备份，Mysql Enterprise Edition组件
mysqlhotcopy：PERL语言实现，几乎冷备，仅适用于MyISAM存储引擎，使用LOCK TABLES、FLUSH TABLES和cp或scp来快速备份数据库

基于LVM的快照备份

(1)请求锁定所有表
mysql> FLUSH TABLES WITH READ LOCK;

(2)记录二进制日志文件及时间位置
mysql> FLUSH LOGS;
mysql> SHOW MASTER STATUS;
mysql -e 'SHOW MASTER STATUS' > /PATH/TO/SOMEFILE

(3)创建快照
lvcreate -L # -s -p r -n NAME /DEV/VG_NAME/LV_NAME

(4)释放锁
mysql> UNLOCK TABLES;

(5) 挂载快照卷，执行数据备份
(6)备份完成后，删除快照卷
(7)制定好策略，通过原卷备份二进制日志

mysqldump备份工具

mysqldump说明

逻辑备份工具：

mysqldump，mydumper，phpMyAdmin

Schema和数据存储在一起、巨大的SQL语句、单个巨大的备份文件

mysqldump：是MySQL的客户端命令，通过mysql协议连接至mysql服务器进行备份

命令格式：

# 支持指定数据库和指定多表的备份，但数据库本身定义不备份
mysqldump [OPTION] database [tables] 

# 支持指定数据库备份，包含数据库本身定义也会备份
mysqldump [OPTION] -B DB1 [DB2 DB3 ...]

# 备份所有数据库，包含数据库本身定义也会备份
mysqldump [OPYION] -A [OPYIONS]

mysqldump参考：

https://dev.mysql.com/doc/refman/5.7/en/mysqldump.html

mysqldump常见通用选项：

# 备份所有数据库，含create database
-A,--all-databases

# 指定备份的数据库，包括create database语句
-B,--databases db_name

# 备份相关的所有event scheduler
-E,--events

# 备份所有存储过程和自定义函数
-R,--routines

# 备份表相关触发器，默认启用，用--skip-triggers，不备份触发器
--trigge

# 指定字符集
--default-character-set=utf8

# 此选项需要启用二进制日志
# 1:所备份的数据之前加一条记录为CHANGE MASTER TO语句，非注释，不指定#，默认为1，适合主从复制多机使用
# 2:记录为被注释的#CHANGE MASTER TO语句，适合单机使用
# 此选项会自动关闭--lock-tables功能，自动打开-x|--lock-all-tables功能（除非开启--single-transaction）
--master-data[=#]

# 备份前滚动日志，锁定表完成后，执行flush logs命令，生成新的二进制日志文件，配合-A或-B选项时，会导致刷新多次数据库。建议在同一时刻执行转储和日志刷新，可以通过和--single-transaction或-x,--master-data 一起使用实现，此时只刷一次二进制日志
-F,--flush-logs

# 去掉注释，适合调试，节约备份占用的空间，生产不使用
--compact

# 只备份表结构，不备份数据，即只备份create table
-d,--no-data

# 只备份数据，不备份表结构，即不备份create table
-t,--no-create-info

# 不备份create database，可被-A 或 -B覆盖
-n,--no-create-db

# 备份mysql或相关时需要使用
--flush-privileges

# 忽略SQL错误，继续执行
-f,--force

# 使用十六进制符号转储二进制列，当有包括BINARY，VARBINARY，BLOB，BIT的数据类型的列时使用，避免乱码
--hex-blob

# 不缓存查询，直接输出，加快备份速度
-q,--quick

mysqldump的MyISAM存储引擎相关备份选项：

MyISAM不支持事务，只能支持温备；不支持热备，所以必须先锁定要备份的库，而后启动备份操作

# 加全局读锁，锁定所有库的所有表，同时加--single-transaction或--lock-tables选项会关闭此选项功能；注意：数据量大时，可能会导致长时间无法并发访问数据库
-x,--lock-all-tables

# 对于需要备份的每个数据库，在启动备份之前分别锁定其所有表，默认为on，--skip-lock-tables选项可禁用，对备份MyISAM的多个库，可能会造成数据不一致
-l,--lock-tables

# 注：以上选项对InnoDB表一样生效，实现温备，但不推荐使用

mysqldump的InnoDB存储引擎先关备份选项：

InnoDB存储引擎支持事务，可以利用事务的相应的隔离级别，实现热备，也可以实现温备但不建议使用

# 此选项InnoDB中推荐使用，不适用MyISAM，此选项会开始备份前，先执行START TRANSACTION指令开启事务
# 此选项通过在单个事务中转储所有表来创建一致的快照。仅适用于存储在支持多版本控制的存储引擎中的表（目标只有InnoDB可以）；转储不保证与其他存储引擎保持一致。在进行单事务转储时，要确保有效的转储文件（正确的表内容和二进制日志位置），没有其他连接应该使用以下语句：ALTER TABLE,DROP TABLE,RENAME TABLE,TRUNCATE TABLE,此选项和--lock-tables（此选项隐含提交挂起的事务）选项是相互排斥，备份大型表时，建议将--single-transaction选项和--quick结合一起使用
--single-transcation

生产环境实战备份策略

InnoDB建议备份策略

mysqldump -uroot -p -A -F -E -R --triggers --single-transaction --master-data=1 --flush-privileges --default-character-set=utf8 --hex-blob > ${BACKUP}/fullbak_${BACKUP_TIME}.sql

MyISAM建议备份方案策略

mysqldump -uroot -p -A -F -E -R -x --master-data=1 --flush-privileges --triggers --default-character-set=utf8 --hex-blob > ${BACKUP}/fullbak_${BACKUP_TIME}.sql

实战：mysqldump备份还原

特定数据库的备份脚本

#!/bin/bash
TIME=`date +%F_%H-%M-%S`
# 备份文件存放路径
DIR=/backup
# 数据库名称
DB=erpdb
# 数据库密码
PASS=123456
mysqldump -uroot -p"$PASS" -F -E -R --triggers --single-transaction --master-data=2 --default-character-set=utf8 -q -B $DB |gzip >${DIR}/${DB}_${TIME}.sql.gz

分库备份脚本

#!/bin/bash
TIME=`date +%F_%H-%M-%S`
# 备份文件存放路径
DIR=/backup
# 数据库密码
PASS=123456
[ ! -d "$DIR" ]  || mkdir $DIR
for DB in `mysql -uroot -p123456 -e 'show databases'|grep -Ev "^Database|.*schema$"`;do mysqldump -uroot -p123456 -F --single-transaction --master-data=2 --default-character-set=utf8 -q -B $DB |gzip > ${DIR}/${DB}_${TIME}.sql.gz
done

完全备份与还原

# 前提开启二进制日志
[mysqld]
log-bin=/usr/local/mysql/log/mysql-bin

# 完全备份
mysqldump -uroot -p123456 -A -F --single-transaction --master-data=2 |gzip > /backup/all-`date +%F`.sql.gz

# 还原
# 登录新安装的数据库
mysql -uroot -p

# 解压备份压缩包
gunzip /backup/all-2021-08-09.sql.gz
# 依次执行
set sql_log_bin=off;
source /backup/all-2021-08-09.sql;
set sql_log_bin=on;

xtrabackup备份工具

XtraBackup工具介绍

Percona公司 http://www.percona.com

Percona-server

InnoDB—>XtraDB

Xtrabackup 备份工具：Percona提供的MySQL数据库备份工具，唯一开源的能够对InnoDB和Xtradb数据库进行热备的工具

手册：https://www.percona.com/doc/percona-xtrabackup/LATEST/index.html

下载：https://www.percona.com/downloads/

Xtrabackup特点：

备份还原过程快速、可靠
备份过程不会打断正在执行的事务
能够基于压缩等功能节约磁盘空间和流量
自动实现备份检验
开源、免费

XtraBackup工具文件组成

XtraBackup2.2版之前包括4个可执行文件：

innobackupex：Perl脚本
XtraBackup：C/C++,编译的二进制程序
xbcrypt：加解密
xbstream：支持并发写的流文件格式

说明：XtraBackup是用来备份InnoDB表的，不能备份非InnoDB表，和MySQL Server没有交互；innobackupex脚本用来备份非InnoDB表，同时会调用XtraBackup命令来备份InnoDB表，还会和MySQL Server发送命令进行交互，如加全局锁（FTWRL）、获取位点（SHOW SLAVE STATUS）等。即innobackupex是在XtraBackup至上做了一层封装实现的

Xtrabackup的新版本变化

xtrabackup版本升级到2.4后，相比之前的2.1有了比较大的变化:innobackupex 功能全部集成到 xtrabackup 里面，只有一个 binary程序，另外为了兼容考虑，innobackupex作为 xtrabackup 的软链接，即xtrabackup现在支持非Innodb表备份，并且 Innobackupex 在下一版本中移除，建议通过 xtrabackup替换innobackupex

备份生成的相关文件

使用innobackupex备份时，其会调用xtrabackup备份所有的InnoDB表，复制所有关于表结构定义的相关文件(.frm)、以及MyISAM、MERGE、CSV和ARCHIVE表的相关文件，同时还会备份触发器和数据库配置信息相关的文件。这些文件会被保存至一个以时间命名的目录中,在备份时，innobackupex还会在备份目录中创建如下文件

xtrabackup_info:文本文件，innobackupex工具执行时的相关信息，包括版本，备份选项，备份时长，备份LSN(log sequence number日志序列号)，BINLOG的位置
xtrabackup_checkpoints:文本文件，备份类型(如完全或增量)、备份状态(如是否已经为 prepared状态)和LSN范围信息,每个InnoDB页(通常为16k大小)都会包含一个日志序列号LSN。 LSN是整个数据库系统的系统版本号，每个页面相关的LSN能够表明此页面最近是如何发生改变的
xtrabackup_binlog_info:文本文件，MySQL服务器当前正在使用的二进制日志文件及至备份这一刻为止二进制日志事件的位置，可利用实现基于binlog的恢复
backup-my.cnf:文本文件，备份命令用到的配置选项信息
xtrabackup_logfile:备份生成的二进制日志文件

XtraBackup安装

在EPEL源中

yum install -y https://repo.percona.com/yum/percona-release-latest.noarch.rpm

percona-release setup ps80

yum install -y percona-xtrabackup-24

XtraBackup用法

XtraBackup工具备份和还原，需要三步实现

1.备份：对数据库做完全备份或增量备份

2.预准备：还原前，先对备份的数据，整理至一个临时目录

3.还原：将整理好的数据，复制回数据库目录中

XtraBackup选项参考：

https://www.percona.com/doc/percona-xtrabackup/LATEST/genindex.html

备份

innobackupex [option] BACKUP-ROOT-DIR

选项说明：

# 该选项表示备份账号
--user

# 该选项表示备份的密码
--password

# 该选项表示备份数据库的地址
--host

# 该选项接受的参数为数据库名，如果要指定多个数据库，彼此间需要以空格隔开; 
# 如:"xtra_test dba_test"，同时，在指定某数据库时，也可以只指定其中的某张表。如:"mydatabase.mytable"。该选项对innodb引擎表无效，还是会备份所有innodb表
--databases

#该选项指定从哪个文件读取MySQL配置，必须放在命令行第一个选项位置
--defaults-file

#该选项表示创建一个增量备份，需要指定--incremental-basedir
--incremental

#该选项指定为前一次全备份或增量备份的目录，与--incremental同时使用
--incremental-basedir

#该选项表示还原时增量备份的目录
--incremental-dir

#指定表名，格式:databasename.tablename
--include=name

Prepare预准备

innobackupex --apply-log [option]  BACKUP-DIR

选项说明：

# 一般情况下,在备份完成后，数据尚且不能用于恢复操作，因为备份的数据中可能会包含尚 未提交的事务或已经提交但尚未同步至数据文件中的事务。因此，此时数据文件仍处理不一致状态。此选项作 用是通过回滚未提交的事务及同步已经提交的事务至数据文件使数据文件处于一致性状态
--apply-log

# 和--apply-log选项一起使用，当prepare 备份时，做crash recovery分配的内存大 小，单位字节，也可1MB,1M,1G,1GB等，推荐1G
--use-memory

# 表示开启可导出单独的表之后再导入其他Mysql中
--export

# 此选项在prepare base full backup，往其中合并增量备份时候使用，但不包括对最后 一个增量备份的合并
--redo-only

还原

innobackupex --copy-back [选项] BACKUP-DIR
innobackupex --move-back [选项] [--defaults-group=GROUP-NAME] BACKUP-DIR

选项说明：

# 做数据恢复时将备份数据文件拷贝到MySQL服务器的datadir
--copy-back

# 这个选项与--copy-back相似，唯一的区别是它不拷贝文件，而是移动文件到目的地。这 个选项移除backup文件，用时候必须小心。使用场景:没有足够的磁盘空间同事保留数据文件和Backup副本
--move-back

# 指定该参数时候，使得innobackupex --copy-back或--move- back选项转移文件到非空目录，已存在的文件不会被覆盖。如果--copy-back和--move-back文件需要从备 份目录拷贝一个在datadir已经存在的文件，会报错失败
--force-non-empty-directories

还原注意事项

1.datadir 目录必须为空。除非指定innobackupex –force-non-empty-directorires选项指定，否则– copy-back选项不会覆盖

2.在restore之前,必须shutdown MySQL实例，不能将一个运行中的实例restore到datadir目录中

3.由于文件属性会被保留，大部分情况下需要在启动实例之前将文件的属主改为mysql，这些文件将属于创建备份的用户, 执行chown -R mysql:mysql /data/mysql,以上需要在用户调用 innobackupex之前完成

Xtrabackup 完全备份及还原

基于Centos7的MySQL5.7实现

# 1.安装XtraBackup,依次执行
yum install -y https://repo.percona.com/yum/percona-release-latest.noarch.rpm
percona-release setup ps80
yum install -y percona-xtrabackup-24

# 2.在原主机完全备份到/backup
xtrabackup -uroot -p123456 --backup --host=127.0.0.1 --target-dir=/backup/base 

# 目标主机无需创建/backup目录，直接复制目录本身
scp -r /backup/ 目标主机:/

# 3.在目标主机上还原
# 1）预准备：确保数据一致，提交完成的事务，回滚未完成的事务
xtrabackup --prepare --target-dir=/backup/base

# 2）复制到数据库
# 注意：数据库目录必须为空，mysql服务不能启动
xtrabackup --copy-back --target-dir=/backup/base

# 3）还原属性
chown -R mysql:mysql /usr/local/mysql/

# 4）启动服务
service mysqld start

Xtrabackup 完全备份,增量备份及还原

# 1.完全备份
mkdir backup
xtrabackup -uroot -p123456 --backup --host=127.0.0.1 --target-dir=/backup/base

# 2.第一次修改数据
# 3.第一次增量备份
xtrabackup -uroot -p123456 --host=127.0.0.1 --backup --target-dir=/backup/inc1 --incremental-basedir=/backup/base

# 查看xtrabackup相关文件
cat /backup/inc1/xtrabackup_info

uuid = 78811189-f96e-11eb-a6f8-000c2930bb8a
name =
tool_name = xtrabackup
tool_command = -uroot -p123456 --host=127.0.0.1 --backup --target-dir=/backup/inc1 --incremental-basedir=/backup/base
tool_version = 2.4.23
ibbackup_version = 2.4.23
server_version = 5.7.25-log
start_time = 2021-08-10 08:03:52
end_time = 2021-08-10 08:04:02
lock_time = 1
binlog_pos = filename 'mysql-bin.000022', position '154'
innodb_from_lsn = 1047831622
innodb_to_lsn = 1047831622
partial = N
incremental = Y
format = file
compact = N
compressed = N
encrypted = N

# 4.第二次修改数据
# 5.第二次增量
xtrabackup -uroot -p123456 --host=127.0.0.1 --backup --target-dir=/backup/inc2 --incremental-basedir=/backup/inc1

# 查看xtrabackup相关文件
cat /backup/inc2/xtrabackup_info

uuid = f230df9a-f96e-11eb-a6f8-000c2930bb8a
name =
tool_name = xtrabackup
tool_command = -uroot -p123456 --host=127.0.0.1 --backup --target-dir=/backup/inc2 --incremental-basedir=/backup/inc1
tool_version = 2.4.23
ibbackup_version = 2.4.23
server_version = 5.7.25-log
start_time = 2021-08-10 08:07:16
end_time = 2021-08-10 08:07:26
lock_time = 0
binlog_pos = filename 'mysql-bin.000022', position '589'
innodb_from_lsn = 1047831622
innodb_to_lsn = 1047832133
partial = N
incremental = Y
format = file
compact = N
compressed = N
encrypted = N


cat /backup/inc2/xtrabackup_checkpoints

backup_type = incremental
from_lsn = 1047831622
to_lsn = 1047832133
last_lsn = 1047832142
compact = 0
recover_binlog_info = 0
flushed_lsn = 1047832142

cat /backup/inc2/xtrabackup_binlog_info

mysql-bin.000022589

# 6.还原数据
scp -r /backup/* 目标主机:/backup/

# 还原过程
# 1）预准备完成备份，此选项--apply-log-only 阻止回滚未完成的事务
xtrabackup --prepare --apply-log-only --target-dir=/backup/base

# 2）合并第1次增量备份到完全备份
xtrabackup --prepare --apply-log-only --target-dir=/backup/base --incremental-dir=/backup/inc1

# 3）合并第2次增量备份到完全备份:最后一次还原不需要加选项--apply-log-only
xtrabackup --prepare --target-dir=/backup/base --incremental-dir=/backup/inc2

# 4）复制到数据库目录，注意数据库目录必须为空，MySQL服务不能启动
xtrabackup --copy-back --target-dir=/backup/base

# 5）还原属性
chown -R mysql:mysql /usr/local/mysql/

# 6）启动服务
service mysqld start

虚拟化基础管理平台VMware vSphere

2021-08-06T13:00:59.000Z

VMware简介

VMware介绍

官网：https://www.vmware.com/cn.html

VMware公司成立于1998年，2003年存储厂商EMC以6.35亿美元收购了VMware；2015年10月，戴尔宣布以670亿美元收购EMC。VMware公司在2018年全年收入79.2亿美元。

VMware主要产品

Workstation Pro：面向Windows的虚拟化。
Fusion for Mac：面向Mac的虚拟化
ThinApp：是一款无代理应用虚拟化解决方案。是一款便携软件或单文件打包工具，可以把有很多文件或文件夹的程序打包成一个单文件，可以将应用程序封装起来与OS或其他程序独立展开；将程序插入到MSI或EXE文件中并部署一个包括注册表键值、DLL、第三方库及Framework的虚拟系统环境，而无需在底层操作系统中安装的任何的代理或应用，可以避免程序的冲突。
Horizon：用于管理虚拟桌面（VDI）、应用和在线服务的领先平台。
Horizon Cloud：用于托管虚拟桌面和应用的灵活云计算平台。
NSX for Horizon：一款虚拟桌面基础架构VD（Virtual Desktop Infrastructure）网络连接解决方案。
VMware Enterprise PKS：面向多云企业和服务提供商的生产级Kubernetes。
VMware vSphere Integrated Containers：用于传统应用和容器化应用的企业级容器基础架构。
vSAN：经过闪存优化的vSphere原生存储，适用于私有云和公有云，即实现存储虚拟化
VMware vSphere：业界领先的服务器虚拟化平台，作为基础平台，是云环境的理想之选
链接：https://www.vmware.com/cn/products/vsphere.html

VMware 服务器虚拟化第一个产品叫ESX，后来VMware在4版本的时候推出了ESXI，ESXI和ESX的版本最大的技术区别是内核的变化，从4版本开始VMware吧ESX及ESXI产品统称为vSphere，但是VMware从5版本取消了原来的ESX版本，所以现在来讲的话vSphere就是ESXI，只是两种叫法而已。一般官方文档中以vSphere为主。

VMware vCenter Server：用于管理跨混合云的vSphere
虚拟化环境的集中式管理平台：https://www.vmware.com/cn/products/vcenter-server.html

架构说明

VMware vSphere

发行版说明

VMware ESXi 版本和内部版本号历史记录参考链接：https://blog.csdn.net/z136370204/article/details/97042440

申请使用VMware vSphere

注册账号

https://my.vmware.com/cn/web/vmware/registration

填好注册信息，到邮箱验证并激活账号

申请试用VMware vSphere

默认的账号不能下载安装包，需要申请试用相应的产品才可以下载

https://www.vmware.com/cn/try-vmware.html

下载安装程序

试用申请通过之后就可以下载安装镜像了 https://my.vmware.com/cn/group/vmware/

安装VMware ESXI

本次实验在MacBook Pro 使用VMware Fusion做一个虚拟机安装ESXI（套娃，娃中娃）

VMware vSphere文档：https://docs.vmware.com/cn/VMware-vSphere/index.html

打开VMware Fusion

修改内存为16G，硬盘150G，键盘选择Mac配置，然后启动即可。

注意：ESXI 7.0 U2默认占用120G虚拟闪存，在安装ESXI 7.0 U2启动的第一个画面5秒倒计时结束前按shift+o组合键(是字母o不是数字0)，然后在显示的runweasel cdromBoot之后输入autoPartitionOSDataSize=8192或4096

/pic/zy01.png)

开始安装ESXI节点

确认安装：按回车

同意协议：F11

选择硬盘并安装：按回车

选择键盘：按回车

设置管理员密码：最少7位，且必须符合密码复杂度要求

开始安装：F11

安装过程中：

安装完成：按回车，等待重启

配置IP地址：第一次重启后默认为DHCP获取的IP地址，通常会将服务器配置为静态IP地址

可以在看到默认的动态IP，按F2进行登录

登录服务器：用户管理员名称为root，输入安装过程中设置的管理员密码

回车登录后会看到以下画面

设置静态IP

选中Configure Management Network回车进入，在选中IPV4 configuration进行IP配置，回车确定

默认为通过DHCP获取的IP地址，修改为静态IP地址

回车进行IP配置

配置DNS

重启网络：上面界面完成后，按ESC退出，再按Y确认重启网络服务

启用本地登录和ssh服务连接功能

选中Troubleshoot Options进行ssh服务设置

登录web管理页面通过浏览器可以单独访问web界面进行单机管理

在ESXI创建和管理虚拟机

准备ISO镜像

将系统镜像上传至当前ESXI节点：存储=>数据存储浏览器=>创建目录=>上载

上传的ISO文件实际保存在ESXI主机的目录：/vmfs/volumes/datastore1/ISO

创建虚拟机

通过web页面创建虚拟机

创建虚拟机并选择类型

虚拟机=>新建/注册虚拟机，按照显示安装

定义虚拟机名称与版本

定义存储

默认设置即可

自定义配置

虚拟机基础信息定义

磁盘配置说明

厚置备延迟置零（默认 default）：默认的创建格式，创建过程中为虚拟磁盘分配所需空间。创建时不会擦除物理设备上保留的任何数据，没有置零操作，当有IO操作时，需要等待清零操作完成后才能完成IO，即：分配好空间，执行写操作时才会按需要将其置零。
后置备置零（thick）：创建支持集群功能的厚磁盘。在创建时为虚拟磁盘分配所需的空间。并将物理设备上保留的数据置零。创建这种格式的磁盘所需的时间可能会比创建其他类型的磁盘长。即：分配好空间并置零操作，有IO时无需等待任何操作直接执行。
精简置备（thin）：精简置备就是无伦磁盘分配多大，实际占用的大小是现在使用的大小，即用多少算多少。当客户机有输入输出的时候，vmkernel首先分配需要的空间并进行清零操作，也就是说如果使用精简配置在有IO的时候需要等待分配空间和清零，这两个步骤完成后才能进行操作，对于IO叫频繁的应用这样性能会有所下降，虽然节省了存储空间。

磁盘模式说明

从属：是默认的磁盘模式，它既无特殊型也无特殊要求，只有普通的vmdk磁盘、创建快照后，数据将与磁盘增量一起保存，已根据需要添加到现有数据中或删除。
独立-持久：如果经常使用快照功能，则它非常有用。还原快照时。在此模式下它完全不会影响磁盘。这种磁盘在数据不需要恢复到初始状态的情况下非常有用，例如系统日志或站点日志，其内容需要保存在当前状态。删除快照时切换到此次盘模式，如果启动或停止VM，数据保持不变。
独立-非持久：这是一个重做磁盘，这意味着如果在启用“独立-非-持久”模式的情况下启动VM，则所有更改都将写入磁盘增量中。以前存在的数据为只读。因此，如果停止或启动虚拟机（不是重启，不影响任何操作），或者删除快照，则所有更改都将被放弃。

总而言之，你可以打开和关闭这些模式中的每一个，但请记住，只有在VM停止后才能这样做。

确认完成信息

开始安装过程

打开虚拟机电源，开始系统安装

打开控制台进行常规系统安装即可

初始化系统：关selinux 防火墙等

具体的看我的另一篇文章《Centos7 初步操作指北》

将虚拟机的光驱卸载

关闭虚拟机后，将光驱卸载，防止后期迁移出错

注意：关闭虚拟机在修改配置，否则会很慢

Centos7安装GitLab

2021-07-25T10:38:07.000Z

安装环境：

虚拟机：Centos7 最小安装 4核8G

下载GitLab

本次实验下载的是 gitlab-ce-14.1.0-ce.0.el7.x86_64.rpm

官网截图

清华源截图

安装包下载地址(官网；下载CE版本，EE是收费版本)：https://packages.gitlab.com/gitlab/gitlab-ce
国内镜像源下载地址(清华源)：https://mirrors.tuna.tsinghua.edu.cn/gitlab-ce/yum/

安装GitLab

安装Postfix用于发送通知邮件，当然也可以使用其他SMTP服务器来发送邮件，本次实验使用Postfix。

yum install -y postfix

安装GitLab

在线安装

curl -s https://packages.gitlab.com/install/repositories/gitlab/gitlab-ce/script.rpm.sh | sudo bash

yum install gitlab-ce-14.1.0-ce.0.el7.x86_64

离线安装

将安装程序下载并上传至服务器，在安装程序所在目录执行

rpm -ivh gitlab-ce-14.1.0-ce.0.el7.x86_64.rpm --nodeps --force

与在线安装一样出现GitLab图标安装成功

配置GitLab

修改/etc/gitlab/gitlab.rb

vi /etc/gitlab/gitlab.rb

external_url 指的是通过外部的哪个域名访问GitLab。可以写成本机的IP如：http://10.0.0.60

external_url 'http://10.0.0.60'

可选邮件配置

gitlab_rails['smtp_enable'] = true
gitlab_rails['smtp_address'] = "smtp.qq.com"
gitlab_rails['smtp_port'] = 465
gitlab_rails['smtp_user_name'] = "xchensir.qq.com"
gitlab_rails['smtp_password'] = "***************"
gitlab_rails['smtp_domain'] = "qq.com"
gitlab_rails['smtp_authentication'] = "login"
gitlab_rails['smtp_enable_starttls_auto'] = true
gitlab_rails['smtp_tls'] = true

gitlab_rails['gitlab_email_from'] = 'xhcensir@qq.com'
user['git_user_email'] = "xchensir@qq.com"

初始化服务

执行配置并启动服务

# 修改完配置文件需执行该命令并执行重启命令
gitlab-ctl reconfigure

# 重启命令
gitlab-ctl restart

GitLab相关目录：

GitLab常用命令

启动控制台进行特殊操作（修改管理员密码、打开数据库控制台等’gitlab-rails dbconsole’）：gitlab-rails
数据库命令行：gitlab-psql
数据备份恢复等操作：gitlab-rake
客户端命令行操作：gitlab-ctl
- 停止gitlab：stop
- 启动gitlab：start
- 重启gitlab：restart
- 查看组件运行状态：status
- 查看某个组件的日志：tail nginx

验证GitLab启动完成

gitlab-ctl status

验证端口及状态

80端口是在初始化GitLab时启动的，如果之前有程序占用会导致初始化失败或无法访问GitLab。

# 最小化安装没有lsof 需要安装
yum install -y lsof

# 查看80端口状态
lsof -i:80

登录GitLab

进入到页面会让你输入用户名和密码

初始管理员用户为root，密码在安装过程中已随机生成并保存在/etc/gitlab/initial_root_password中，有效期24小时

# 查看root用户密码
cat /etc/gitlab/initial_root_password

默认首页

关闭注册

问题汇总

发送邮件通知问题

邮件发布出去大致两个原因：

默认端口好被限制
SMTP邮箱有问题

上操作：

检查配置文件SMTP配置是否有问题，参照上文中配置GitLab的配置

如果SMTP配置没有问题进入控制台查看

gitlab-rails console

# 输入邮箱地址后根据响应的提示排错找到具体原因：
# 如QQ邮箱：需要授权码 密码配置填写的是授权码而不是邮箱密码
Notify.test_email('***@******.com','email title','email content desc').deliver_now

修改好配置文件，依次执行：

gitlab-ctl reconfigure
gitlab-ctl restart

登录GitLab 422

服务器时间与本地时间不一致

解决方法：大多数是服务器时间的问题，修改时间即可

重置GitLab管理员密码

切换到相应路径

cd /opt/gitlab/bin/

进入控制台

gitlab-rails console

查询root用户账号信息并赋值

u=User.find(1)

设置密码

u.password='root123456'

确认密码（非必须）

u.password_confirmation = 'root123456'

保存设置

u.save!

退出控制台

exit

重启GitLab

gitlab-ctl restart

完全卸载GitLab

停止GitLab

gitlab-ctl stop

卸载GitLab

rpm -e gitlab-ce

查看GitLab进程

ps aux | grep gitlab

kill掉第一个进程

kill掉之后再次查看gitlab进程，确认是否被停止

删除所有包含gitlab的文件

find / -name gitlab | xargs rm -rf

Git常用命令

设置全局用户名

git config --global user.name "name"

设置全局邮箱

git config --global user.email xxx@xxx.com

列出用户全局配置

git config --global --list

添加到暂存区

git add -A

提交文件到工作区

git commit -m '工作内容'

查看工作区状态

git status

提交代码到服务器

git push

获取代码到本地

git pull

查看操作日志

git log

定义忽略文件上传至gitlab

vim .gitignore

版本回滚

# HEAD为当前版本，加上一个^为上一版本 ^^为上上一个版本
git reset --hard HEAD^^

获取每次提交的ID

# 可以使用 --hard 根据提交的ID进行版本回退
git reflog

回退到指定版本

git reset --hard 5ae4b07i0

查看当前所在分支

git branch

创建并切换到一个新分支

git checkout -b develop

切换分支

git checkout develop

GitLab数据备份与恢复

停止gitlab数据服务

gitlab-ctl stop unicorn
gitlab-ctl stop sidekiq

手动备份数据

# 在任意目录即可备份当前gitlab数据
gitlab-rake gitlab:backup:create

# 备份完成后启动gitlab
gitlab-ctl start

查看要恢复的文件

数据备份目录：/var/opt/gitlab/backups/
nginx配置文件：/var/opt/gitlab/nginx/conf
gitlab配置文件：/etc/gitlab/gitlab.rd
key文件：/etc/gitlab/gitlab-secrets.json

执行恢复

gitlab-ctl stop unicorn

# 数据恢复之前停止服务
gitlab-ctl stop sidekiq

gitlab-rake gitlab:backup:restore BACKUP=备份文件名

启动服务

gitlab-ctl start sidekiq
gitlab-ctl start unicorn

本地定时备份数据

准备工作：

本地默认备份路径：/var/opt/gitlab/backups/
备份命令：gitlab-rake gitlab:backup:create
恢复命令：gitlab-rake gitlab:backup:restore BACKUP=备份文件名
配置文件：/etc/gitlab/gitlab.rd

修改配置文件

vim /etc/gitlab/gitlab.rd

gitlab_rails['manage_backup_path'] = true

# 备份目录
gitlab_rails['backup_path'] = "/var/opt/gitlab/backups"

# 生成备份文件的权限
gitlab_rails['backup_archive_permissions'] = 0644

# 备份保留天数，秒计算
gitlab_rails['backup_keep_time'] = 604800

更新配置文件使其生效

gitlab-ctl reconfigure

添加定时任务

crontab -e

# 每天凌晨两点执行备份命令
0 2 * * * /opt/gitlab/bin/gitlab-rake gitlab:backup:create

查看定时任务

corntab -l

设置crontab自启

systemctl enable crontab

# 修改后重启crontab服务
systemctl restart crontab

验证备份结果

ls -al /var/opt/gitlab/backups

DevOps 你了解多少？

2021-07-25T08:03:56.000Z

DevOps是Development和Operations的组合，也就是开发和运维的简写。
DevOps是针对企业中的研发人员、运维人员和测试人员的工作理念，是他们在应用开发、代码部署和质量检测等整条生命周期中协作和沟通的最佳实践。
DevOps强调整个组织的合作以及交付和基础设施变更的自动化，从而实现持续集成、持续部署和持续交付。

什么是DevOps

为什么要推广DevOps

DevOps强调团队协作、相互协助、持续发展，然而传统的模式是开发人员只顾开发程序，运维只负责基础环境管理和代码部署及监控，其并不是为了一个共同的目标而共同实现最终的目的，儿DevOps则实现团队作战，即无论是开发、运维还是测试，都为了最终的代码发布、持续部署和业务稳定而付出各自的努力，从而实现产品设计、开发、测试和部署的良性循环，实现产品的最终持续交付。

传统技术团队

DevOps技术团队

戴明环

什么是持续集成（CI）

CI-Continuous Integration

持续集成是指多名开发者开发不同功能代码的过程中，可以频繁的将代码合并到一起并且相互不影响工作。

什么是持续部署（CD）

CD-Continuous Deployment

持续部署是基于某种工具或平台实现代码自动化的构建、测试和部署到线上环境以实现交付高质量的产品，持续部署在某种程度上代表了一个开发团队的更新迭代速率。

什么是持续交付

持续交付是在持续部署的基础上，将产品交付到线上环境，因此持续交付是产品价值的一种交付，是产品价值的一种盈利的实现。

常见的部署方式

开发自己上传——最原始的方案
开发给运维手动上传——运维自己手动部署
运维使用脚本复制——半自动
结合web界面一键部署——自动化

常见的持续集成开源工具

在公司服务器安装的某种程序，该程序用于按照特定格式和方式记录和保存公司多名开发人员不定期提交的源代码，后期可以按照某种标记及方式对用混提交的数据进行还原。

CVS（Concurrent Version System）

早期的集中式版本控制系统，现基本淘汰（会出现数据提交后不完整的情况）

SVN（Subversion）

集中式版本控制系统，2000年开始开发，目标是替代CVS集中式管理，依赖于网络，一台服务器集中管理，目前依然有部分公司在使用。

Git

分布式版本控制系统，详细说明参考本站的另一文章：Git 了解一下不？

版本控制系统分类

集中式版本控制系统

任何提交和回滚都依赖于连接服务器，SVN服务器是单点

分布式版本控制系统

Git：每个用户都是一个完整的版本库，即使没有中央服务器也可以提交和回滚代码，最终再把改好的代码提交至中央服务器进行合并即可。

基于gogs快速搭建私有Git服务

2021-07-19T11:26:47.000Z

Gogs是一款开源的轻量级Git Web服务，简单易用，跨平台。其主要功能有：提供http与ssh两种协议访问源码服务；提供web管理界面可查看修改源码代码；提供较完善的权限管理功能、其中包括组织、团队、个人等仓库权限；提供简单的项目VIKI功能；提供工单管理与里程碑管理。

下载安装

官网：https://gogs.io

下载：Linux amd64:https://dl.gogs.io/0.12.3/gogs_0.12.3_linux_amd64.tar.gz

安装文档：https://gogs.io/docs/installation/install_from_binary

Gogs基础配置

邮件配置说明：

邮件配置是用于注册时邮件确认，和找回密码时验证邮件发送。其配置分为两步：

创建一个开通了SMTP服务的邮箱账号，一般用公司管理员邮箱，我这用的QQ邮箱
在{gogs_home/custom/conf/app,ini}文件中配置（初次登陆走完安装引导流程之后才会生成配置文件相关目录）。

QQ邮箱开通SMTP

1.点击设置

2.开启smtp

开启时候启动项目，进入安装引导页面按照要求填写即可。

下载安装包至服务器

wget https://dl.gogs.io/0.12.3/gogs_0.12.3_linux_amd64.tar.gz

解压安装包

tar -zxvf gogs_0.12.3_linux_amd64.tar.gz

运行Gogs

# 前台运行
./gogs web

# 后台运行
nohup ./gogs web &

默认端口：3000

初次访问：http://ip:3000 进入到初始化页面进行引导配置，可选择mysql或sqlite等数据库，本次选的是sqlite

注：mysql索引长度的问题导致gogs无法安装成功，需要使用mysql5.7以上的版本。如果是云服务器记得放开端口或者用nginx做代理。

按照页面提示合理填写即可完成安装。

安装成功，登陆试试！

Git 了解一下不？

2021-07-01T12:37:13.000Z

Git 是一个开源的分布式版本控制系统，用于敏捷高效地处理任何或小或大的项目。
Git 是 Linus Torvalds 为了帮助管理 Linux 内核开发而开发的一个开放源码的版本控制软件。
Git 与常用的版本控制工具 CVS, Subversion 等不同，它采用了分布式版本库的方式，不必服务器端软件支持。

Git与Svn的区别

存储方式的区别

Git把内容按照元数据的方式存储类似key/value数据库
Svn把内容按照文件的方式存储，把文件的元信息隐藏在一个类似 .svn、.cvs等文件夹里

Git的存储方式类k/v数据库：

例：初始化一个名称为git_test的Git仓库：

git init git_test

进入到git_test目录

cd git_test

在git_test仓库内新建一个hello.txt文件并追加内容为“Hello World”

echo "Hello World" > hello.txt

计算对象ID并将实际对象写入数据库（blob类型）

git hash-object -w hello.txt

根据对象ID打印出对象的内容

git cat-file -p 557db03de997c86a4a028e1ebd3a1ceb225be238

使用方式的区别

从本地把文件推送到远程服务：

svn：只需要commit
git：需要 add、commit、push

svn使用过程：

git使用过程：

版本管理模式的区别

git是一个分布式的版本管理系统
svn远程集中式的管理系统

核心命令的使用

安装git客户端

官方客户端： httpsd://git-scm.com/downloads

其它客户端：https://tortoisegit.org/download/

git的基本使用

git项目创建与克隆

基于远程仓库克隆至本地

git clone

git init

基于maven模板创建仓库

mvn archetype:generate

文件提交与推送

添加指定文件到暂存区

git add

git add

添加所有到暂存区

git add -A

# 指定目录
git rm --cached  -r
# 指定文件
git rm --cached

添加忽略配置文件 .gitignore
提交至本地仓库

git commit  -m "提交内容"

提交所有至本地仓库

git commit -am "提交内容"

推送

git push <远程主机名> <本地分支名>:<远程分支名>

分支管理

查看当前分支

git branch [-avv]

基于当前分支新建分支

git branch

基于提交新建分支

git branch

切换分支

git checkout

合并分支

git merge

删除分支

git branch -d {dev}

解决冲突：如果引冲突导致自动合并失败。此时status为mergeing 状态，需手动修改后重新提交(commit)

远程仓库管理

查看远程配置

git remote [-v]

添加远程地址

git remote add origin http://xxx.xxx

删除远程地址

git remote remove origin

上传新分支至远程

git push --set-upstream origin master

将本地分支与远程建立关联

git branch --track --set-upstream-to=origin/test test

Tag管理

查看当前Tag

git tag

创建分支

git tag

删除分支

git tag -d

日志管理

查看所有提交的日志

git log

查看当前分支下提交的日志

git log

单行显示日志

git log --oneline

比较两个版本的区别

git log master..experiment

以图表的方式显示提交合并网格

git log --pretty=format:'%h %s' --graph

查看详细修改

git show

Git底层原理

Git存储对象

Git是一个内容寻址文件系统，其核心是一个简单的键值对数据库，可以向数据库中插入任意内容，它会返回一个用于取回该值的hash键。

基于键获取指定内容：

git cat-file -p  79362d07c

Git基于该功能把每个文件的版本中内容都保存在数据库中，当要进行回滚的时候就通过其中一个键将内容取回来并替换。

所以我们平常使用的 git add 其实就是把修改后的内容插入到键值库中。当我们执行 git add 等同于执行了 git hash-object -w 把文件写到数据中。

Git树对象

Git存储对象解决了存储的问题，但只是能存储内容并没有存储文件名，如果进行回滚，怎么知道那个内容对应哪个文件呢？树对象解决了文件名存储的问题。

树对象的目的是将多个文件名组织在一起，其内容包含多个文件名称与其对应的Key和其他树对象的引用，可以理解成操作系统当中的文件夹，一个文件夹包含多个文件和多个其他文件夹。

每一个分支当中都关联了一个树对象，它存储了当前分支下所有的文件名及对应的Key。通过以下命令可以查看

# 查看分支树
git cat-file -p master^{tree}

Git提交对象

一次提交即为当前版本的一个快照，该快照就是通过提交对象进行存储的，其存储内容为：一个顶级树对象、上一次提交的对象哈希、提交者用户名及邮箱、提交时间戳、提交评论。

通过存储对象、树对象、提交对象可以推测出修改一个文件到提交的过程总共生成了三个对象：

一个内容对象：存储文件内容
一个树对象：存储文件名及内容对象的Key
一个提交对象：存储了树对象的Key及提交评论

Git引用

当执行 git branch 时创建了一个分支，其本质就是在git基于指定提交创建了一个引用文件，保存在 .git/refs/heads/ 目录下。

git总共有三种类型的引用：

分支引用
远程分支引用
标签引用

# 查询比较两个版本
git log master..experiment

# 版本提交历史网格
git log --pretty=format:'%h %s' --graph

# 查看分支树
git cat-file -p master^{tree}

Git支持的四种通信协议

Local（本地协议）

基于本地文件系统或共享（NFS）文件系统进行访问

**优点：**简单，直接使用现有的文件权限和网络权限，小团队小项目建立一个这样的版本管理系统是非常轻松的一件事。

**缺点：**这种协议缺陷就是本身共享文件系统的局限，只能在局域网，而且速度慢

**适应场景：**小团队，小项目临时搭建版本服务

本地协议使用方式：

# 从本地 d/git/atals 目录克隆项目
git clone d/git/atals/

# 即使是 brae 仓库也可以正常下载
git clone d/git/atals.git

# 基于 file 协议克隆本地项目
git clone file:///d/git/atals/

如果URL开头明确指定file://，那么Git的行为会略有不同。如果仅是指定路径，Git会尝试使用硬链接（hard link）或直接复制所需要的文件、如果指定file://，Git会触发平时用于网路传输资料的进程，传输过来的是打包好的文件，更节约硬盘空间。

ssh协议

Git支持利用ssh协议进行通信，这是绝大部分Linux、Uninx系统都支持的，所以利用该协议架设Git版本服务是非常方便的

**优点：**首先ssh架设相对简单，其次通过ssh访问是安全的、另外ssh协议很高效，在传输前也会尽量压缩数据。

**缺点：**权限体系下不灵活，必须提供操作系统的账户密码，哪怕是只需要读取版本。

**适应场景：**小团队、小项目、临时项目

http协议（dumb、smart）

Git http协议实现是依赖web容器（apache、nginx）及cgi组件进行通信交互，并利用web容器本身权限体系进行授权验证。在Git1.6.6前只支持http dumb（哑）协议，该协议只能下载不能提交，通常会配合ssh协议一起使用，ssh分配提交账号，http dumb提供只读账号。1.6.6之后Git提供了git-http-backend的CGI用于实现远程推送等功能。

**优点：**解决了local与ssh权限验证单一的问题、可基于http url提供匿名服务，从而可以放到公网上去。而local与ssh是很难做到这一点，必须实现一个类似github这样的网站。

**缺点：**架设复杂一些需要部署web服务器和HTTPS证书之类的配置

**场景：**大型团队、需要对权限精准控制。需要把服务部署到公网上去

**注：**http smart协议是基于CGI配个Git git-http-backend脚本进行使用，配置较复杂，现在一般不会这么去做，而是采用Gitlab、gogs之类的文本管理进行替代。

Git协议

Git协议是包含在Git里的一个特殊的守护进程；它监听在一个特定的端口（9418），类似于ssh服务，但是访问无需任何授权。

**优点：**目前Git协议是Git使用的网络传输协议里最快的。如果你的项目有很大的访问量，或者你的项目很庞大并且不需要为写进行用户授权，架设Git守护进程来提供服务是不错的选择。它使用与ssh相同的数据传输机制，但是省去了加密和授权的开销。

**缺点：**Git协议缺点是缺乏授权机制。而且9418是一个非标准端口，一般防火墙不会开放。

Centos7 静默安装Oracle11gR2

2021-06-27T02:34:36.000Z

安装Oracle11gR2准备

安装所需依赖：

yum -y install gcc gcc-c++ make binutils compat-libstdc++-33 elfutils-libelf elfutils-libelf-devel elfutils-libelf-devel-static glibc glibc-common glibc-devel ksh libaio libaio-devel libgcc libstdc++ libstdc++-devel numactl-devel sysstat unixODBC unixODBC-devel kernelheaders pdksh pcre-devel readline rlwrap perl autoconf unzip

下载所需安装包

linux.x64_11gR2_database_1of2.zip
linux.x64_11gR2_database_2of2.zip
rlwrap-0.42-1.el6.x86_64.rpm
以上安装包提供百度网盘下载：
链接: https://pan.baidu.com/s/1hLFKqSESKMakB2tJZmM0vA 密码: 39tk

安装rlwrap插件

rlwrap插件：实现上下键调用以前输入过的命令。

将rlwrap-0.42-1.el6.x86_64.rpm上传至服务器并在所在目录执行

rpm -ivh rlwrap-0.42-1.el6.x86_64.rpm

创建用户组及用户

创建用户组： groupadd oinstall
创建用户组： groupadd dba
创建用户并添加到用户组：useradd -g oinstall -G dba oracle
设置Oracle用户密码：passwd oracle

创建安装目录并分配权限

mkdir -p /data/u01/app/oracle/product/11.2.0/dbhome_1
mkdir /data/u01/app/oracle/{oradata,inventory,fast_recovery_area}
chown -R oracle:oinstall /data/u01/app/oracle
chmod -R 775 /data/u01/app/oracle

上传安装包并解压

# 创建存放安装包的目录
mkdir -p /data/u01/software
# 将安装包上传至该目录下 上传方法略
# 执行解压命令
cd /data/u01/software
unzip linux.x64_11gR2_database_1of2.zip
unzip linux.x64_11gR2_database_2of2.zip

修改相关配置文件

修改内核文件

vim /etc/sysctl.conf

修改内容如👇

# 找到合适的位置（就好比厨师教你做饭：盐少许）添加如下内容
fs.aio-max-nr = 1048576
fs.file-max = 6815744
kernel.shmall = 2097152
kernel.shmmax = 1073741824
kernel.shmmni = 4096
kernel.sem = 250 32000 100 128
net.ipv4.ip_local_port_range = 9000 65500
net.core.rmem_default = 262144
net.core.rmem_max = 4194304
net.core.wmem_default = 262144
net.core.wmem_max = 1048576

修改后执行 sysctl -p 使配置文件生效

修改用户限制

vim /etc/security/limits.conf

修改内容如👇

oracle soft nproc 2047
oracle hard nproc 16384
oracle soft nofile 1024
oracle hard nofile 65536
oracle soft stack 10240

vim /etc/pam.d/login

修改内容如👇

session required /lib64/security/pam_limits.so
session required pam_limits.so

修改/etc/profile 文件

vim /etc/profile

修改内容如👇

# 找到合适的位置（｝后或者IF前 或者#语句的上下；）
if [ $USER = "oracle" ]; then
if [ $SHELL = "/bin/ksh" ]; then
ulimit -p 16384
ulimit -n 65536
else
ulimit -u 16384 -n 65536
fi
fi

使修改生效：

source /etc/profile

设置oracle 用户环境变量

切换到oracle用户

su - oracle

编辑 .bash_profile文件

vim .bash_profile

增加内容如👇

export ORACLE_BASE=/data/u01/app/oracle
export ORACLE_HOME=/data/u01/app/oracle/product/11.2.0/dbhome_1
export ORACLE_SID=orcl
export ORACLE_UNQNAME=$ORACLE_SID
export PATH=$ORACLE_HOME/bin:$PATH
export NLS_LANG=american_america.AL32UTF8
alias sqlplus='rlwrap sqlplus'
alias rman='rlwrap rman'

使修改生效

source .bash_profile

修改静默安装响应文件

拷贝备份一份响应文件至当前用户目录：cp -R /data/u01/software/database/response/ ~
编辑db_install.rsp :vim ~/response/db_install.rsp

修改内容可参考👇

####################################################################
## Copyright(c) Oracle Corporation 1998,2008. All rights reserved.##
##                                                                ##
## Specify values for the variables listed below to customize     ##
## your installation.                                             ##
##                                                                ##
## Each variable is associated with a comment. The comment        ##
## can help to populate the variables with the appropriate        ##
## values.                            ##
##                                                                ##
## IMPORTANT NOTE: This file contains plain text passwords and    ##
## should be secured to have read permission only by oracle user  ##
## or db administrator who owns this installation.                ##
##                                                                ##
####################################################################

#------------------------------------------------------------------------------
# Do not change the following system generated value. 
#------------------------------------------------------------------------------

# 标注响应文件版本，这个版本必须和要安装的数据库版本相同，安装检验无法通过，不能更改
#------------------------------------------------------------------------------

oracle.install.responseFileVersion=/oracle/install/rspfmt_dbinstall_response_schema_v11_2_0

#------------------------------------------------------------------------------
# Specify the installation option.
# It can be one of the following:
# 1. INSTALL_DB_SWONLY
# 2. INSTALL_DB_AND_CONFIG
# 3. UPGRADE_DB
#-------------------------------------------------------------------------------

# 选择安装类型
# 1. INSTALL_DB_SWONLY        只装数据库软件
# 2. INSTALL_DB_AND_CONFIG    安装数据库软件并建库
# 3. UPGRADE_DB               升级数据库
#-------------------------------------------------------------------------------

oracle.install.option=INSTALL_DB_SWONLY

#-------------------------------------------------------------------------------
# Specify the hostname of the system as set during the install. It can be used
# to force the installation to use an alternative hostname rather than using the
# first hostname found on the system. (e.g., for systems with multiple hostnames 
# and network interfaces)
#-------------------------------------------------------------------------------

# 指定操作系统主机名，通过 hostname 命令获得
#-------------------------------------------------------------------------------

ORACLE_HOSTNAME=oracle

#-------------------------------------------------------------------------------
# Specify the Unix group to be set for the inventory directory.  
#-------------------------------------------------------------------------------

# 指定oracle inventory目录的所有者，通常会是 oinstall 或者 dba
#-------------------------------------------------------------------------------

UNIX_GROUP_NAME=oinstall

#-------------------------------------------------------------------------------
# Specify the location which holds the inventory files.
#-------------------------------------------------------------------------------

# 指定产品清单 oracle inventory 目录的路径
#-------------------------------------------------------------------------------

INVENTORY_LOCATION=/data/u01/app/oracle/inventory

#-------------------------------------------------------------------------------
# Specify the languages in which the components will be installed.             
#
# en   : English                  ja   : Japanese                  
# fr   : French                   ko   : Korean                    
# ar   : Arabic                   es   : Latin American Spanish    
# bn   : Bengali                  lv   : Latvian                   
# pt_BR: Brazilian Portuguese     lt   : Lithuanian                
# bg   : Bulgarian                ms   : Malay                     
# fr_CA: Canadian French          es_MX: Mexican Spanish           
# ca   : Catalan                  no   : Norwegian                 
# hr   : Croatian                 pl   : Polish                    
# cs   : Czech                    pt   : Portuguese                
# da   : Danish                   ro   : Romanian                  
# nl   : Dutch                    ru   : Russian                   
# ar_EG: Egyptian                 zh_CN: Simplified Chinese        
# en_GB: English (Great Britain)  sk   : Slovak                    
# et   : Estonian                 sl   : Slovenian                 
# fi   : Finnish                  es_ES: Spanish                   
# de   : German                   sv   : Swedish                   
# el   : Greek                    th   : Thai                      
# iw   : Hebrew                   zh_TW: Traditional Chinese       
# hu   : Hungarian                tr   : Turkish                   
# is   : Icelandic                uk   : Ukrainian                 
# in   : Indonesian               vi   : Vietnamese                
# it   : Italian                                                   
#
# Example : SELECTED_LANGUAGES=en,fr,ja
#------------------------------------------------------------------------------

# 指定数据库语言，可以选择多个 , 用逗号隔开。选择en, zh_CN（英文和简体中文）
#------------------------------------------------------------------------------

SELECTED_LANGUAGES=en,zh_CN

#------------------------------------------------------------------------------
# Specify the complete path of the Oracle Home.
#------------------------------------------------------------------------------

# 设置 ORALCE_HOME 的路径
#------------------------------------------------------------------------------

ORACLE_HOME=/data/u01/app/oracle/product/11.2.0/dbhome_1

#------------------------------------------------------------------------------
# Specify the complete path of the Oracle Base. 
#------------------------------------------------------------------------------

# 设置 ORALCE_BASE 的路径
#------------------------------------------------------------------------------

ORACLE_BASE=/data/u01/app/oracle

#------------------------------------------------------------------------------
# Specify the installation edition of the component.                        
#                                                             
# The value should contain only one of these choices.        
# EE     : Enterprise Edition                                
# SE     : Standard Edition                                  
# SEONE  : Standard Edition One
# PE     : Personal Edition (WINDOWS ONLY)
#------------------------------------------------------------------------------

# 选择Oracle安装数据库软件的版本（企业版，标准版，标准版1），不同的版本功能不同
#------------------------------------------------------------------------------

oracle.install.db.InstallEdition=EE

#------------------------------------------------------------------------------
# This variable is used to enable or disable custom install.
#
# true  : Components mentioned as part of 'customComponents' property
#         are considered for install.
# false : Value for 'customComponents' is not considered.
#------------------------------------------------------------------------------

# 是否自定义Oracle的组件，如果选择false，则会使用默认的组件，如果选择true否则需要自己在下面一条参数将要安装的组件一一列出。
# 安装相应版权后会安装所有的组件，后期如果缺乏某个组件，再次安装会非常的麻烦。
#------------------------------------------------------------------------------

oracle.install.db.isCustomInstall=false

#------------------------------------------------------------------------------
# This variable is considered only if 'IsCustomInstall' is set to true. 
#
# Description: List of Enterprise Edition Options you would like to install.
#
#              The following choices are available. You may specify any
#              combination of these choices.  The components you choose should
#              be specified in the form "internal-component-name:version"
#              Below is a list of components you may specify to install.
#        
#              oracle.rdbms.partitioning:11.2.0.1.0 - Oracle Partitioning
#              oracle.rdbms.dm:11.2.0.1.0 - Oracle Data Mining
#              oracle.rdbms.dv:11.2.0.1.0 - Oracle Database Vault 
#              oracle.rdbms.lbac:11.2.0.1.0 - Oracle Label Security
#              oracle.rdbms.rat:11.2.0.1.0 - Oracle Real Application Testing 
#              oracle.oraolap:11.2.0.1.0 - Oracle OLAP
#------------------------------------------------------------------------------

# 手工选择需要安装组件
#------------------------------------------------------------------------------

oracle.install.db.customComponents=oracle.server:11.2.0.1.0,oracle.sysman.ccr:10.2.7.0.0,oracle.xdk:11.2.0.1.0,oracle.rdbms.oci:11.2.0.1.0,oracle.network:11.2.0.1.0,oracle.network.listener:11.2.0.1.0,oracle.rdbms:11.2.0.1.0,oracle.options:11.2.0.1.0,oracle.rdbms.partitioning:11.2.0.1.0,oracle.oraolap:11.2.0.1.0,oracle.rdbms.dm:11.2.0.1.0,oracle.rdbms.dv:11.2.0.1.0,orcle.rdbms.lbac:11.2.0.1.0,oracle.rdbms.rat:11.2.0.1.0

###############################################################################
#                                                                             #
# PRIVILEGED OPERATING SYSTEM GROUPS                                          #
# ------------------------------------------                                  #
# Provide values for the OS groups to which OSDBA and OSOPER privileges       #
# needs to be granted. If the install is being performed as a member of the   #     
# group "dba", then that will be used unless specified otherwise below.       #
#                                                                             #
###############################################################################

#------------------------------------------------------------------------------
# The DBA_GROUP is the OS group which is to be granted OSDBA privileges.
#------------------------------------------------------------------------------

# 指定拥有 OSDBA、OSOPER 权限的用户组，通常会是 dba 组
#------------------------------------------------------------------------------

oracle.install.db.DBA_GROUP=dba

#------------------------------------------------------------------------------
# The OPER_GROUP is the OS group which is to be granted OSOPER privileges.
#------------------------------------------------------------------------------
oracle.install.db.OPER_GROUP=dba

#------------------------------------------------------------------------------
# Specify the cluster node names selected during the installation.
#------------------------------------------------------------------------------

# 如果是RAC的安装，在这里指定所有的节点
#------------------------------------------------------------------------------

oracle.install.db.CLUSTER_NODES=

#------------------------------------------------------------------------------
# Specify the type of database to create.
# It can be one of the following:
# - GENERAL_PURPOSE/TRANSACTION_PROCESSING          
# - DATA_WAREHOUSE                                
#------------------------------------------------------------------------------

# 选择数据库的用途，一般用途/事物处理，数据仓库
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.type=GENERAL_PURPOSE

#------------------------------------------------------------------------------
# Specify the Starter Database Global Database Name. 
#------------------------------------------------------------------------------

# 指定GlobalName
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.globalDBName=orcl

#------------------------------------------------------------------------------
# Specify the Starter Database SID.
#------------------------------------------------------------------------------

# 指定SID,和 ORACLE_SID 一致
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.SID=orcl

#------------------------------------------------------------------------------
# Specify the Starter Database character set.
#                                              
# It can be one of the following:
# AL32UTF8, WE8ISO8859P15, WE8MSWIN1252, EE8ISO8859P2,
# EE8MSWIN1250, NE8ISO8859P10, NEE8ISO8859P4, BLT8MSWIN1257,
# BLT8ISO8859P13, CL8ISO8859P5, CL8MSWIN1251, AR8ISO8859P6,
# AR8MSWIN1256, EL8ISO8859P7, EL8MSWIN1253, IW8ISO8859P8,
# IW8MSWIN1255, JA16EUC, JA16EUCTILDE, JA16SJIS, JA16SJISTILDE,
# KO16MSWIN949, ZHS16GBK, TH8TISASCII, ZHT32EUC, ZHT16MSWIN950,
# ZHT16HKSCS, WE8ISO8859P9, TR8MSWIN1254, VN8MSWIN1258
#------------------------------------------------------------------------------

# 选择字符集。不正确的字符集会给数据显示和存储带来麻烦无数。
# 通常中文选择的有 ZHS16GBK 简体中文库，建议选择 unicode 的 AL32UTF8 国际字符集
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.characterSet=AL32UTF8

#------------------------------------------------------------------------------
# This variable should be set to true if Automatic Memory Management 
# in Database is desired.
# If Automatic Memory Management is not desired, and memory allocation
# is to be done manually, then set it to false.
#------------------------------------------------------------------------------

# 11g的新特性自动内存管理，也就是 SGA_TARGET 和 PAG_AGGREGATE_TARGET 都不用设置了，Oracle会自动调配两部分大小。
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.memoryOption=true

#------------------------------------------------------------------------------
# Specify the total memory allocation for the database. Value(in MB) should be
# at least 256 MB, and should not exceed the total physical memory available 
# on the system.
# Example: oracle.install.db.config.starterdb.memoryLimit=512
#------------------------------------------------------------------------------

# 指定Oracle自动管理内存的大小，最小是256MB
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.memoryLimit=1024

#------------------------------------------------------------------------------
# This variable controls whether to load Example Schemas onto the starter
# database or not.
#------------------------------------------------------------------------------

# 是否载入模板示例
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.installExampleSchemas=false

#------------------------------------------------------------------------------
# This variable includes enabling audit settings, configuring password profiles
# and revoking some grants to public. These settings are provided by default. 
# These settings may also be disabled.    
#------------------------------------------------------------------------------

# 是否启用安全设置
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.enableSecuritySettings=true

###############################################################################
#                                                                             #
# Passwords can be supplied for the following four schemas in the         #
# starter database:                                   #
#   SYS                                                                       #
#   SYSTEM                                                                    #
#   SYSMAN (used by Enterprise Manager)                                       #
#   DBSNMP (used by Enterprise Manager)                                       #
#                                                                             #
# Same password can be used for all accounts (not recommended)            #
# or different passwords for each account can be provided (recommended)       #
#                                                                             #
###############################################################################

#------------------------------------------------------------------------------
# This variable holds the password that is to be used for all schemas in the
# starter database.
#-------------------------------------------------------------------------------

# 设置数据库用户密码，设定所有数据库用户使用同一个密码，其它数据库用户就不用单独设置了。
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.password.ALL=

#-------------------------------------------------------------------------------
# Specify the SYS password for the starter database.
#-------------------------------------------------------------------------------
oracle.install.db.config.starterdb.password.SYS=

#-------------------------------------------------------------------------------
# Specify the SYSTEM password for the starter database.
#-------------------------------------------------------------------------------
oracle.install.db.config.starterdb.password.SYSTEM=

#-------------------------------------------------------------------------------
# Specify the SYSMAN password for the starter database.
#-------------------------------------------------------------------------------
oracle.install.db.config.starterdb.password.SYSMAN=

#-------------------------------------------------------------------------------
# Specify the DBSNMP password for the starter database.
#-------------------------------------------------------------------------------
oracle.install.db.config.starterdb.password.DBSNMP=

#-------------------------------------------------------------------------------
# Specify the management option to be selected for the starter database. 
# It can be one of the following:
# 1. GRID_CONTROL
# 2. DB_CONTROL
#-------------------------------------------------------------------------------

# 数据库本地管理工具 DB_CONTROL，远程集中管理工具 GRID_CONTROL
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.control=DB_CONTROL

#-------------------------------------------------------------------------------
# Specify the Management Service to use if Grid Control is selected to manage 
# the database.      
#-------------------------------------------------------------------------------

# GRID_CONTROL 需要设定 grid control 的远程路径 URL
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.gridcontrol.gridControlServiceURL=

#-------------------------------------------------------------------------------
# This variable indicates whether to receive email notification for critical 
# alerts when using DB control.   
#-------------------------------------------------------------------------------

# 是否启用Email通知, 启用后会将告警等信息发送到指定邮箱
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.dbcontrol.enableEmailNotification=false

#-------------------------------------------------------------------------------
# Specify the email address to which the notifications are to be sent.
#-------------------------------------------------------------------------------

# 设置通知EMAIL地址
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.dbcontrol.emailAddress=

#-------------------------------------------------------------------------------
# Specify the SMTP server used for email notifications.
#-------------------------------------------------------------------------------

# 设置EMAIL邮件服务器
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.dbcontrol.SMTPServer=


###############################################################################
#                                                                             #
# SPECIFY BACKUP AND RECOVERY OPTIONS                                         #
# ------------------------------------                                    #
# Out-of-box backup and recovery options for the database can be mentioned    #
# using the entries below.                            # 
#                                                                             #
###############################################################################

#------------------------------------------------------------------------------
# This variable is to be set to false if automated backup is not required. Else 
# this can be set to true.
#------------------------------------------------------------------------------

# 设置自动备份，和OUI里的自动备份一样
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.automatedBackup.enable=false

#------------------------------------------------------------------------------
# Regardless of the type of storage that is chosen for backup and recovery, if 
# automated backups are enabled, a job will be scheduled to run daily at
# 2:00 AM to backup the database. This job will run as the operating system 
# user that is specified in this variable.
#------------------------------------------------------------------------------

# 自动备份会启动一个job，指定启动JOB的系统用户ID
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.automatedBackup.osuid=

#-------------------------------------------------------------------------------
# Regardless of the type of storage that is chosen for backup and recovery, if 
# automated backups are enabled, a job will be scheduled to run daily at
# 2:00 AM to backup the database. This job will run as the operating system user
# specified by the above entry. The following entry stores the password for the
# above operating system user.
#-------------------------------------------------------------------------------

# 自动备份会开启一个job，需要指定OSUser的密码
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.automatedBackup.ospwd=

#-------------------------------------------------------------------------------
# Specify the type of storage to use for the database.
# It can be one of the following:
# - FILE_SYSTEM_STORAGE
# - ASM_STORAGE
#------------------------------------------------------------------------------

# 自动备份，要求指定使用的文件系统存放数据库文件还是ASM
#------------------------------------------------------------------------------

oracle.install.db.config.starterdb.storageType=

#-------------------------------------------------------------------------------
# Specify the database file location which is a directory for datafiles, control
# files, redo logs.         
#
# Applicable only when oracle.install.db.config.starterdb.storage=FILE_SYSTEM 
#-------------------------------------------------------------------------------

# 使用文件系统存放数据库文件才需要指定数据文件、控制文件、Redo log的存放目录
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.fileSystemStorage.dataLocation=

#-------------------------------------------------------------------------------
# Specify the backup and recovery location.
#
# Applicable only when oracle.install.db.config.starterdb.storage=FILE_SYSTEM 
#-------------------------------------------------------------------------------

# 使用文件系统存放数据库文件才需要指定备份恢复目录
#-------------------------------------------------------------------------------

oracle.install.db.config.starterdb.fileSystemStorage.recoveryLocation=

#-------------------------------------------------------------------------------
# Specify the existing ASM disk groups to be used for storage.
#
# Applicable only when oracle.install.db.config.starterdb.storage=ASM
#-------------------------------------------------------------------------------

# 使用ASM存放数据库文件才需要指定存放的磁盘组
#-------------------------------------------------------------------------------

oracle.install.db.config.asm.diskGroup=

#-------------------------------------------------------------------------------
# Specify the password for ASMSNMP user of the ASM instance.                  
#
# Applicable only when oracle.install.db.config.starterdb.storage=ASM_SYSTEM 
#-------------------------------------------------------------------------------

# 使用ASM存放数据库文件才需要指定ASM实例密码
#-------------------------------------------------------------------------------

oracle.install.db.config.asm.ASMSNMPPassword=

#------------------------------------------------------------------------------
# Specify the My Oracle Support Account Username.
#
#  Example   : MYORACLESUPPORT_USERNAME=metalink
#------------------------------------------------------------------------------

# 指定metalink账户用户名
#------------------------------------------------------------------------------

MYORACLESUPPORT_USERNAME=

#------------------------------------------------------------------------------
# Specify the My Oracle Support Account Username password.
#
# Example    : MYORACLESUPPORT_PASSWORD=password
#------------------------------------------------------------------------------

# 指定metalink账户密码
#------------------------------------------------------------------------------

MYORACLESUPPORT_PASSWORD=

#------------------------------------------------------------------------------
# Specify whether to enable the user to set the password for
# My Oracle Support credentials. The value can be either true or false.
# If left blank it will be assumed to be false.
#
# Example    : SECURITY_UPDATES_VIA_MYORACLESUPPORT=true
#------------------------------------------------------------------------------

# 用户是否可以设置metalink密码
#------------------------------------------------------------------------------

SECURITY_UPDATES_VIA_MYORACLESUPPORT=

#------------------------------------------------------------------------------
# Specify whether user wants to give any proxy details for connection. 
# The value can be either true or false. If left blank it will be assumed
# to be false.
#
# Example    : DECLINE_SECURITY_UPDATES=false
#------------------------------------------------------------------------------

# 表示不需要设置安全更新，Response File中必须指定为true，否则会提示错误
#------------------------------------------------------------------------------

DECLINE_SECURITY_UPDATES=true

#------------------------------------------------------------------------------
# Specify the Proxy server name. Length should be greater than zero.
#
# Example    : PROXY_HOST=proxy.domain.com 
#------------------------------------------------------------------------------

# 代理服务器名
#------------------------------------------------------------------------------

PROXY_HOST=

#------------------------------------------------------------------------------
# Specify the proxy port number. Should be Numeric and atleast 2 chars.
#
# Example    : PROXY_PORT=25 
#------------------------------------------------------------------------------

# 代理服务器端口
#------------------------------------------------------------------------------

PROXY_PORT=

#------------------------------------------------------------------------------
# Specify the proxy user name. Leave PROXY_USER and PROXY_PWD 
# blank if your proxy server requires no authentication.
#
# Example    : PROXY_USER=username 
#------------------------------------------------------------------------------

# 代理服务器用户名
#------------------------------------------------------------------------------

PROXY_USER=

#------------------------------------------------------------------------------
# Specify the proxy password. Leave PROXY_USER and PROXY_PWD  
# blank if your proxy server requires no authentication.
#
# Example    : PROXY_PWD=password 
#------------------------------------------------------------------------------

# 代理服务器密码
#------------------------------------------------------------------------------

PROXY_PWD=

安装oracle

切换到解压的安装包目录：cd /data/u01/software/database/
执行：./runInstaller -silent -responseFile /home/oracle/response/db_install.rsp -ignorePrereq
稍作等待……

出现以下提示信息，安装完成

To execute the configuration scripts:
          1. Open a terminal window 
          2. Log in as "root" 
          3. Run the scripts 
          4. Return to this window and hit "Enter" key to continue 

Successfully Setup Software.

切换到root用户，执行

/data/u01/app/oracle/inventory/orainstRoot.sh
/data/u01/app/oracle/product/11.2.0/dbhome_1/root.sh

静默方式创建实例

修改配置文件

vim /home/oracle/response/dbca.rsp

修改内容可参考👇

##############################################################################
##                                                                          ##
##                            DBCA response file                            ##
##                            ------------------                            ##
## Copyright   1998, 2007, Oracle Corporation. All Rights Reserved.         ##
##                                                                          ##
## Specify values for the variables listed below to customize Oracle        ##
## Database Configuration installation.                                     ##
##                                                                          ##
## Each variable is associated with a comment. The comment identifies the   ##
## variable type.                                                           ##
##                                                                          ##
## Please specify the values in the following format :                      ##
##          Type       :  Example                                           ##
##          String     :  ""                                         ##
##          Boolean    :  True or False                                     ##
##          Number     :                                     ##
##          StringList :  {"",""}                           ##
##                                                                          ##
## Examples :                                                               ##
##     1. dbca -progress_only -responseFile                  ##
##        Display a progress bar depicting progress of database creation    ##
##        process.                                                          ##
##                                                                          ##
##     2. dbca -silent -responseFile                         ##
##        Creates database silently. No user interface is displayed.        ##
##                                                                          ##
##     3. dbca -silent -createDatabase -cloneTemplate                       ##
##           -responseFile                       ##
##        Creates database silently with clone template. The template in    ##
##    responsefile is a clone template.                         ##
##                                                                          ##
##     4. dbca -silent -deleteDatabase -responseFile         ##
##        Deletes database silently.                                        ##
##############################################################################

#-----------------------------------------------------------------------------
# GENERAL section is required for all types of database creations.
#-----------------------------------------------------------------------------
[GENERAL]

#-----------------------------------------------------------------------------
# Name          : RESPONSEFILE_VERSION
# Datatype      : String
# Description   : Version of the database to create
# Valid values  : "11.1.0"
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 数据库版本，不可更改
#-----------------------------------------------------------------------------

RESPONSEFILE_VERSION = "11.2.0"

#-----------------------------------------------------------------------------
# Name          : OPERATION_TYPE
# Datatype      : String
# Description   : Type of operation
# Valid values  : "createDatabase" \ "createTemplateFromDB" \ "createCloneTemplate" \ "deleteDatabase" \ "configureDatabase" \ "addInstance" (RAC-only) \ "deleteInstance" (RAC-only)
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 操作类型：创建数据库
# 可选还有创建模版从数据库，创建克隆模版，删除数据库，配置数据库，添加实例（只限RAC），删除实例（只限RAC）
#-----------------------------------------------------------------------------

OPERATION_TYPE = "createDatabase"

#-----------------------*** End of GENERAL section ***------------------------

#-----------------------------------------------------------------------------
# CREATEDATABASE section is used when OPERATION_TYPE is defined as "createDatabase". 
#-----------------------------------------------------------------------------

# 当操作类型选择 createDatabase 会使用下面的选项
#-----------------------------------------------------------------------------

[CREATEDATABASE]

#-----------------------------------------------------------------------------
# Name          : GDBNAME
# Datatype      : String
# Description   : Global database name of the database
# Valid values  : . - when database domain isn't NULL
#                              - when database domain is NULL
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 数据库的全局数据库名称
#-----------------------------------------------------------------------------

GDBNAME = "orcl"

#-----------------------------------------------------------------------------
# Name          : POLICYMANAGED
# Datatype      : Boolean
# Description   : Set to true if Database is policy managed and 
#         set to false if  Database is admin managed
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#POLICYMANAGED = "false"

#-----------------------------------------------------------------------------
# Name          : CREATESERVERPOOL
# Datatype      : Boolean
# Description   : Set to true if new server pool need to be created for database 
#         if this option is specified then the newly created database 
#         will use this newly created serverpool. 
#         Multiple serverpoolname can not be specified for database
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#CREATESERVERPOOL = "false"

#-----------------------------------------------------------------------------
# Name          : FORCE
# Datatype      : Boolean
# Description   : Set to true if new server pool need to be created by force 
#         if this option is specified then the newly created serverpool
#         will be assigned server even if no free servers are available.
#         This may affect already running database.
#         This flag can be specified for Admin managed as well as policy managed db.
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#FORCE = "false"

#-----------------------------------------------------------------------------
# Name          : SERVERPOOLNAME
# Datatype      : String
# Description   : Only one serverpool name need to be specified 
#          if Create Server Pool option is specified. 
#          Comma-separated list of Serverpool names if db need to use
#          multiple Server pool
# Valid values  : ServerPool name
# Default value : None
# Mandatory     : No [required in case of RAC service centric database]
#-----------------------------------------------------------------------------
#SERVERPOOLNAME = 

#-----------------------------------------------------------------------------
# Name          : CARDINALITY
# Datatype      : Number
# Description   : Specify Cardinality for create server pool operation
# Valid values  : any positive Integer value
# Default value : Number of qualified nodes on cluster
# Mandatory     : No [Required when a new serverpool need to be created]
#-----------------------------------------------------------------------------
#CARDINALITY = 

#-----------------------------------------------------------------------------
# Name          : SID
# Datatype      : String
# Description   : System identifier (SID) of the database
# Valid values  : Check Oracle11g Administrator's Guide
# Default value :  specified in GDBNAME
# Mandatory     : No
#-----------------------------------------------------------------------------

# 数据库的系统标识符
#-----------------------------------------------------------------------------

SID = "orcl"

#-----------------------------------------------------------------------------
# Name          : NODELIST
# Datatype      : String
# Description   : Comma-separated list of cluster nodes
# Valid values  : Cluster node names
# Default value : None
# Mandatory     : No (Yes for RAC database-centric database )
#-----------------------------------------------------------------------------
#NODELIST=

#-----------------------------------------------------------------------------
# Name          : TEMPLATENAME
# Datatype      : String
# Description   : Name of the template
# Valid values  : Template file name
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 模板文件的名字
#-----------------------------------------------------------------------------

TEMPLATENAME = "General_Purpose.dbc"

#-----------------------------------------------------------------------------
# Name          : OBFUSCATEDPASSWORDS
# Datatype      : Boolean
# Description   : Set to true if passwords are encrypted
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#OBFUSCATEDPASSWORDS = FALSE


#-----------------------------------------------------------------------------
# Name          : SYSPASSWORD
# Datatype      : String
# Description   : Password for SYS user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 系统超级用户密码
#-----------------------------------------------------------------------------

SYSPASSWORD = "Oracle1234"

#-----------------------------------------------------------------------------
# Name          : SYSTEMPASSWORD
# Datatype      : String
# Description   : Password for SYSTEM user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------
SYSTEMPASSWORD = "Oracle1234"

#-----------------------------------------------------------------------------
# Name          : EMCONFIGURATION
# Datatype      : String
# Description   : Enterprise Manager Configuration Type
# Valid values  : CENTRAL|LOCAL|ALL|NOBACKUP|NOEMAIL|NONE
# Default value : NONE
# Mandatory     : No
#-----------------------------------------------------------------------------
#EMCONFIGURATION = "NONE"

#-----------------------------------------------------------------------------
# Name          : DISABLESECURITYCONFIGURATION
# Datatype      : String
# Description   : Database Security Settings
# Valid values  : ALL|NONE|AUDIT|PASSWORD_PROFILE
# Default value : NONE
# Mandatory     : No
#-----------------------------------------------------------------------------
#DISABLESECURITYCONFIGURATION = "NONE"


#-----------------------------------------------------------------------------
# Name          : SYSMANPASSWORD
# Datatype      : String
# Description   : Password for SYSMAN user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if LOCAL specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
SYSMANPASSWORD = "Oracle1234"

#-----------------------------------------------------------------------------
# Name          : DBSNMPPASSWORD
# Datatype      : String
# Description   : Password for DBSNMP user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if EMCONFIGURATION is specified
#-----------------------------------------------------------------------------
DBSNMPPASSWORD = "Oracle1234"

#-----------------------------------------------------------------------------
# Name          : CENTRALAGENT
# Datatype      : String
# Description   : Grid Control Central Agent Oracle Home
# Default value : None
# Mandatory     : Yes, if CENTRAL is specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#CENTRALAGENT = 

#-----------------------------------------------------------------------------
# Name          : HOSTUSERNAME
# Datatype      : String
# Description   : Host user name for EM backup job
# Default value : None
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#HOSTUSERNAME = 

#-----------------------------------------------------------------------------
# Name          : HOSTUSERPASSWORD
# Datatype      : String
# Description   : Host user password for EM backup job
# Default value : None
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#HOSTUSERPASSWORD= 

#-----------------------------------------------------------------------------
# Name          : BACKUPSCHEDULE
# Datatype      : String
# Description   : Daily backup schedule in the form of hh:mm
# Default value : 2:00
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#BACKUPSCHEDULE=

#-----------------------------------------------------------------------------
# Name          : SMTPSERVER
# Datatype      : String
# Description   : Outgoing mail (SMTP) server for email notifications
# Default value : None
# Mandatory     : Yes, if ALL or NOBACKUP are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#SMTPSERVER =

#-----------------------------------------------------------------------------
# Name          : EMAILADDRESS
# Datatype      : String
# Description   : Email address for email notifications
# Default value : None
# Mandatory     : Yes, if ALL or NOBACKUP are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#EMAILADDRESS =

#-----------------------------------------------------------------------------
# Name          : DVOWNERNAME
# Datatype      : String
# Description   : DataVault Owner
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if DataVault option is chosen
#-----------------------------------------------------------------------------
#DVOWNERNAME = ""

#-----------------------------------------------------------------------------
# Name          : DVOWNERPASSWORD
# Datatype      : String
# Description   : Password for DataVault Owner
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if DataVault option is chosen
#-----------------------------------------------------------------------------
#DVOWNERPASSWORD = ""

#-----------------------------------------------------------------------------
# Name          : DVACCOUNTMANAGERNAME
# Datatype      : String
# Description   : DataVault Account Manager
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#DVACCOUNTMANAGERNAME = ""

#-----------------------------------------------------------------------------
# Name          : DVACCOUNTMANAGERPASSWORD
# Datatype      : String
# Description   : Password for  DataVault Account Manager
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#DVACCOUNTMANAGERPASSWORD = ""



#-----------------------------------------------------------------------------
# Name          : DATAFILEJARLOCATION 
# Datatype      : String
# Description   : Location of the data file jar 
# Valid values  : Directory containing compressed datafile jar
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#DATAFILEJARLOCATION =

#-----------------------------------------------------------------------------
# Name          : DATAFILEDESTINATION 
# Datatype      : String
# Description   : Location of the data file's
# Valid values  : Directory for all the database files
# Default value : $ORACLE_BASE/oradata
# Mandatory     : No
#-----------------------------------------------------------------------------
DATAFILEDESTINATION =/data/u01/app/oracle/oradata

#-----------------------------------------------------------------------------
# Name          : RECOVERYAREADESTINATION
# Datatype      : String
# Description   : Location of the data file's
# Valid values  : Recovery Area location
# Default value : $ORACLE_BASE/flash_recovery_area
# Mandatory     : No
#-----------------------------------------------------------------------------
RECOVERYAREADESTINATION=/data/u01/app/oracle/fast_recovery_area

#-----------------------------------------------------------------------------
# Name          : STORAGETYPE
# Datatype      : String
# Description   : Specifies the storage on which the database is to be created
# Valid values  : FS (CFS for RAC), ASM
# Default value : FS
# Mandatory     : No
#-----------------------------------------------------------------------------
#STORAGETYPE=FS

#-----------------------------------------------------------------------------
# Name          : DISKGROUPNAME
# Datatype      : String
# Description   : Specifies the disk group name for the storage
# Default value : DATA
# Mandatory     : No
#-----------------------------------------------------------------------------
#DISKGROUPNAME=DATA

#-----------------------------------------------------------------------------
# Name          : ASMSNMP_PASSWORD
# Datatype      : String
# Description   : Password for ASM Monitoring
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#ASMSNMP_PASSWORD=""

#-----------------------------------------------------------------------------
# Name          : RECOVERYGROUPNAME
# Datatype      : String
# Description   : Specifies the disk group name for the recovery area
# Default value : RECOVERY
# Mandatory     : No
#-----------------------------------------------------------------------------
#RECOVERYGROUPNAME=RECOVERY


#-----------------------------------------------------------------------------
# Name          : CHARACTERSET
# Datatype      : String
# Description   : Character set of the database
# Valid values  : Check Oracle11g National Language Support Guide
# Default value : "US7ASCII"
# Mandatory     : NO
#-----------------------------------------------------------------------------

# 数据库的字符集
#-----------------------------------------------------------------------------

CHARACTERSET = "AL32UTF8"

#-----------------------------------------------------------------------------
# Name          : NATIONALCHARACTERSET
# Datatype      : String
# Description   : National Character set of the database
# Valid values  : "UTF8" or "AL16UTF16". For details, check Oracle11g National Language Support Guide
# Default value : "AL16UTF16"
# Mandatory     : No
#-----------------------------------------------------------------------------

# 国家字符集
#-----------------------------------------------------------------------------

NATIONALCHARACTERSET= "UTF8"

#-----------------------------------------------------------------------------
# Name          : REGISTERWITHDIRSERVICE
# Datatype      : Boolean
# Description   : Specifies whether to register with Directory Service.
# Valid values  : TRUE \ FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#REGISTERWITHDIRSERVICE= TRUE

#-----------------------------------------------------------------------------
# Name          : DIRSERVICEUSERNAME
# Datatype      : String
# Description   : Specifies the name of the directory service user
# Mandatory     : YES, if the value of registerWithDirService is TRUE
#-----------------------------------------------------------------------------
#DIRSERVICEUSERNAME= "name"

#-----------------------------------------------------------------------------
# Name          : DIRSERVICEPASSWORD
# Datatype      : String
# Description   : The password of the directory service user.
#         You can also specify the password at the command prompt instead of here.
# Mandatory     : YES, if the value of registerWithDirService is TRUE
#-----------------------------------------------------------------------------
#DIRSERVICEPASSWORD= "password"

#-----------------------------------------------------------------------------
# Name          : WALLETPASSWORD
# Datatype      : String
# Description   : The password for wallet to created or modified.
#         You can also specify the password at the command prompt instead of here.
# Mandatory     : YES, if the value of registerWithDirService is TRUE
#-----------------------------------------------------------------------------
#WALLETPASSWORD= "password"

#-----------------------------------------------------------------------------
# Name          : LISTENERS
# Datatype      : String
# Description   : Specifies list of listeners to register the database with.
#         By default the database is configured for all the listeners specified in the 
#         $ORACLE_HOME/network/admin/listener.ora   
# Valid values  : The list should be space separated names like "listener1 listener2".
# Mandatory     : NO
#-----------------------------------------------------------------------------
#LISTENERS = "listener1 listener2"

#-----------------------------------------------------------------------------
# Name          : VARIABLESFILE 
# Datatype      : String
# Description   : Location of the file containing variable value pair
# Valid values  : A valid file-system file. The variable value pair format in this file 
#         is =. Each pair should be in a new line.
# Default value : None
# Mandatory     : NO
#-----------------------------------------------------------------------------
#VARIABLESFILE =

#-----------------------------------------------------------------------------
# Name          : VARIABLES
# Datatype      : String
# Description   : comma separated list of name=value pairs. Overrides variables defined in variablefile and templates
# Default value : None
# Mandatory     : NO
#-----------------------------------------------------------------------------
#VARIABLES =

#-----------------------------------------------------------------------------
# Name          : INITPARAMS
# Datatype      : String
# Description   : comma separated list of name=value pairs. Overrides initialization parameters defined in templates
# Default value : None
# Mandatory     : NO
#-----------------------------------------------------------------------------
#INITPARAMS =

#-----------------------------------------------------------------------------
# Name          : MEMORYPERCENTAGE
# Datatype      : String
# Description   : percentage of physical memory for Oracle
# Default value : None
# Mandatory     : NO
#-----------------------------------------------------------------------------

# Oracle占用物理内存的百分比
#-----------------------------------------------------------------------------

MEMORYPERCENTAGE = "40"

#-----------------------------------------------------------------------------
# Name          : DATABASETYPE
# Datatype      : String
# Description   : used for memory distribution when MEMORYPERCENTAGE specified
# Valid values  : MULTIPURPOSE|DATA_WAREHOUSING|OLTP
# Default value : MULTIPURPOSE
# Mandatory     : NO
#-----------------------------------------------------------------------------
#DATABASETYPE = "MULTIPURPOSE"

#-----------------------------------------------------------------------------
# Name          : AUTOMATICMEMORYMANAGEMENT
# Datatype      : Boolean
# Description   : flag to indicate Automatic Memory Management is used
# Valid values  : TRUE/FALSE
# Default value : TRUE
# Mandatory     : NO
#-----------------------------------------------------------------------------
#AUTOMATICMEMORYMANAGEMENT = "TRUE"

#-----------------------------------------------------------------------------
# Name          : TOTALMEMORY
# Datatype      : String
# Description   : total memory in MB to allocate to Oracle
# Valid values  : 
# Default value : 
# Mandatory     : NO
#-----------------------------------------------------------------------------
TOTALMEMORY = "2048"


#-----------------------*** End of CREATEDATABASE section ***------------------------

#-----------------------------------------------------------------------------
# createTemplateFromDB section is used when OPERATION_TYPE is defined as "createTemplateFromDB". 
#-----------------------------------------------------------------------------

# 当操作类型是创建模版createTemplateFromDB的时候会启用这个选项
#-----------------------------------------------------------------------------

[createTemplateFromDB]
#-----------------------------------------------------------------------------
# Name          : SOURCEDB 
# Datatype      : String
# Description   : The source database from which to create the template
# Valid values  : The format is ::
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 给源数据库创建模版
#-----------------------------------------------------------------------------

SOURCEDB = "myhost:1521:orcl"

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME 
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 使用的数据库角色是system
#-----------------------------------------------------------------------------

SYSDBAUSERNAME = "system"

#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD 
# Datatype      : String
# Description   : The password of the DBA user.
#         You can also specify the password at the command prompt instead of here.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD = "password"

#-----------------------------------------------------------------------------
# Name          : TEMPLATENAME
# Datatype      : String
# Description   : Name for the new template.
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 新模版的名字
#-----------------------------------------------------------------------------

TEMPLATENAME = "My Copy TEMPLATE"

#-----------------------*** End of createTemplateFromDB section ***------------------------

#-----------------------------------------------------------------------------
# createCloneTemplate section is used when OPERATION_TYPE is defined as "createCloneTemplate". 
#-----------------------------------------------------------------------------

# 当操作类型是创建克隆模版createCloneTemplate会使用下面的选项
#-----------------------------------------------------------------------------

[createCloneTemplate]
#-----------------------------------------------------------------------------
# Name          : SOURCEDB
# Datatype      : String
# Description   : The source database is the SID from which to create the template. 
#         This database must be local and on the same ORACLE_HOME.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 源数据库的SID
#-----------------------------------------------------------------------------

SOURCEDB = "orcl"

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES, if no OS authentication
#-----------------------------------------------------------------------------
#SYSDBAUSERNAME = "sys"

#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD
# Datatype      : String
# Description   : The password of the DBA user.
#         You can also specify the password at the command prompt instead of here.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD = "password"

#-----------------------------------------------------------------------------
# Name          : TEMPLATENAME
# Datatype      : String
# Description   : Name for the new template.
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 新模版的名字
#-----------------------------------------------------------------------------

TEMPLATENAME = "My Clone TEMPLATE"

#-----------------------------------------------------------------------------
# Name          : DATAFILEJARLOCATION
# Datatype      : String
# Description   : Location of the data file jar 
# Valid values  : Directory where the new compressed datafile jar will be placed
# Default value : $ORACLE_HOME/assistants/dbca/templates
# Mandatory     : NO
#-----------------------------------------------------------------------------
#DATAFILEJARLOCATION = 

#-----------------------*** End of createCloneTemplate section ***------------------------

#-----------------------------------------------------------------------------
# DELETEDATABASE section is used when DELETE_TYPE is defined as "deleteDatabase". 
#-----------------------------------------------------------------------------

# 当操作类型是删除数据库DELETEDATABASE会启动下面的选项
#-----------------------------------------------------------------------------

[DELETEDATABASE]
#-----------------------------------------------------------------------------
# Name          : SOURCEDB
# Datatype      : String
# Description   : The source database is the SID 
#         This database must be local and on the same ORACLE_HOME.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 源数据库的SID
#-----------------------------------------------------------------------------

SOURCEDB = "orcl"

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES, if no OS authentication
#-----------------------------------------------------------------------------
#SYSDBAUSERNAME = "sys"

#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD
# Datatype      : String
# Description   : The password of the DBA user.
#         You can also specify the password at the command prompt instead of here.
# Default value : none
# Mandatory     : YES, if no OS authentication
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD = "password"
#-----------------------*** End of deleteDatabase section ***------------------------

#-----------------------------------------------------------------------------
# GENERATESCRIPTS section 
#-----------------------------------------------------------------------------

# 生成脚本的选项
#-----------------------------------------------------------------------------

[generateScripts]
#-----------------------------------------------------------------------------
# Name          : TEMPLATENAME
# Datatype      : String
# Description   : Name of the template
# Valid values  : Template name as seen in DBCA
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 模版的名字
#-----------------------------------------------------------------------------

TEMPLATENAME = "New Database"

#-----------------------------------------------------------------------------
# Name          : GDBNAME
# Datatype      : String
# Description   : Global database name of the database
# Valid values  : . - when database domain isn't NULL
#                              - when database domain is NULL
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 全局数据库的名字
#-----------------------------------------------------------------------------

GDBNAME = "orcl11.us.oracle.com"

#-----------------------------------------------------------------------------
# Name          : SCRIPTDESTINATION 
# Datatype      : String
# Description   : Location of the scripts
# Valid values  : Directory for all the scripts
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#SCRIPTDESTINATION =

#-----------------------*** End of deleteDatabase section ***------------------------

#-----------------------------------------------------------------------------
# CONFIGUREDATABASE section is used when OPERATION_TYPE is defined as "configureDatabase". 
#-----------------------------------------------------------------------------

# 当操作类型是配置数据库CONFIGUREDATABASE会启用下面的选项
#-----------------------------------------------------------------------------

[CONFIGUREDATABASE]

#-----------------------------------------------------------------------------
# Name          : SOURCEDB
# Datatype      : String
# Description   : The source database is the SID 
#         This database must be local and on the same ORACLE_HOME.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------
#SOURCEDB = "orcl"

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES, if no OS authentication
#-----------------------------------------------------------------------------
#SYSDBAUSERNAME = "sys"


#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD
# Datatype      : String
# Description   : The password of the DBA user.
#         You can also specify the password at the command prompt instead of here.
# Default value : none
# Mandatory     : YES, if no OS authentication
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD =

#-----------------------------------------------------------------------------
# Name          : REGISTERWITHDIRSERVICE
# Datatype      : Boolean
# Description   : Specifies whether to register with Directory Service.
# Valid values  : TRUE \ FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#REGISTERWITHDIRSERVICE= TRUE

#-----------------------------------------------------------------------------
# Name          : UNREGISTERWITHDIRSERVICE
# Datatype      : Boolean
# Description   : Specifies whether to unregister with Directory Service.
# Valid values  : TRUE \ FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#UNREGISTERWITHDIRSERVICE= TRUE

#-----------------------------------------------------------------------------
# Name          : REGENERATEDBPASSWORD
# Datatype      : Boolean
# Description   : Specifies whether regenerate database password in OID/Wallet
# Valid values  : TRUE \ FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#REGENERATEDBPASSWORD= TRUE

#-----------------------------------------------------------------------------
# Name          : DIRSERVICEUSERNAME
# Datatype      : String
# Description   : Specifies the name of the directory service user
# Mandatory     : YES, if the any of the reg/unreg/regenPasswd options specified
#-----------------------------------------------------------------------------
#DIRSERVICEUSERNAME= "name"

#-----------------------------------------------------------------------------
# Name          : DIRSERVICEPASSWORD
# Datatype      : String
# Description   : The password of the directory service user.
#         You can also specify the password at the command prompt instead of here.
# Mandatory     : YES, if the any of the reg/unreg/regenPasswd options specified
#-----------------------------------------------------------------------------
#DIRSERVICEPASSWORD= "password"

#-----------------------------------------------------------------------------
# Name          : WALLETPASSWORD
# Datatype      : String
# Description   : The password for wallet to created or modified.
#         You can also specify the password at the command prompt instead of here.
# Mandatory     : YES, if the any of the reg/unreg/regenPasswd options specified
#-----------------------------------------------------------------------------
#WALLETPASSWORD= "password"

#-----------------------------------------------------------------------------
# Name          : DISABLESECURITYCONFIGURATION
# Datatype      : String
# Description   : Database Security Settings
# Valid values  : ALL|NONE|AUDIT|PASSWORD_PROFILE
# Default value : NONE
# Mandatory     : No
#-----------------------------------------------------------------------------
#DISABLESECURITYCONFIGURATION = "NONE"



#-----------------------------------------------------------------------------
# Name          : ENABLESECURITYCONFIGURATION
# Datatype      : String
# Description   : Database Security Settings
# Valid values  : true|false
# Default value : true
# Mandatory     : No
#-----------------------------------------------------------------------------
#ENABLESECURITYCONFIGURATION = "true"


#-----------------------------------------------------------------------------
# Name          : EMCONFIGURATION
# Datatype      : String
# Description   : Enterprise Manager Configuration Type
# Valid values  : CENTRAL|LOCAL|ALL|NOBACKUP|NOEMAIL|NONE
# Default value : NONE
# Mandatory     : No
#-----------------------------------------------------------------------------
#EMCONFIGURATION = "NONE"

#-----------------------------------------------------------------------------
# Name          : SYSMANPASSWORD
# Datatype      : String
# Description   : Password for SYSMAN user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if LOCAL specified for EMCONFIGURATION
#----------------------------------------------------------------------------SYSMANPASSWORD = "ORACLE1234"
SYSMANPASSWORD = "Oracle1234"
#-----------------------------------------------------------------------------
# Name          : DBSNMPPASSWORD
# Datatype      : String
# Description   : Password for DBSNMP user
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes, if EMCONFIGURATION is specified
#-----------------------------------------------------------------------------
#DBSNMPPASSWORD = "password"

#-----------------------------------------------------------------------------
# Name          : CENTRALAGENT
# Datatype      : String
# Description   : Grid Control Central Agent Oracle Home
# Default value : None
# Mandatory     : Yes, if CENTRAL is specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#CENTRALAGENT = 

#-----------------------------------------------------------------------------
# Name          : HOSTUSERNAME
# Datatype      : String
# Description   : Host user name for EM backup job
# Default value : None
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#HOSTUSERNAME = 

#-----------------------------------------------------------------------------
# Name          : HOSTUSERPASSWORD
# Datatype      : String
# Description   : Host user password for EM backup job
# Default value : None
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#HOSTUSERPASSWORD= 

#-----------------------------------------------------------------------------
# Name          : BACKUPSCHEDULE
# Datatype      : String
# Description   : Daily backup schedule in the form of hh:mm
# Default value : 2:00
# Mandatory     : Yes, if ALL or NOEMAIL are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#BACKUPSCHEDULE=

#-----------------------------------------------------------------------------
# Name          : SMTPSERVER
# Datatype      : String
# Description   : Outgoing mail (SMTP) server for email notifications
# Default value : None
# Mandatory     : Yes, if ALL or NOBACKUP are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#SMTPSERVER =

#-----------------------------------------------------------------------------
# Name          : EMAILADDRESS
# Datatype      : String
# Description   : Email address for email notifications
# Default value : None
# Mandatory     : Yes, if ALL or NOBACKUP are specified for EMCONFIGURATION
#-----------------------------------------------------------------------------
#EMAILADDRESS =

#-----------------------*** End of CONFIGUREDATABASE section ***------------------------


#-----------------------------------------------------------------------------
# ADDINSTANCE section is used when OPERATION_TYPE is defined as "addInstance". 
#-----------------------------------------------------------------------------

# 当操作类型选择的是添加实例ADDINSTANCE会启动下面的选项
#-----------------------------------------------------------------------------

[ADDINSTANCE]

#-----------------------------------------------------------------------------
# Name          : DB_UNIQUE_NAME
# Datatype      : String
# Description   : DB Unique Name of the RAC database
# Valid values  : 
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# RAC数据库的唯一的名称
#-----------------------------------------------------------------------------

DB_UNIQUE_NAME = "orcl11g.us.oracle.com"

#-----------------------------------------------------------------------------
# Name          : INSTANCENAME
# Datatype      : String
# Description   : RAC instance name to be added
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : +
# Mandatory     : No
#-----------------------------------------------------------------------------
#INSTANCENAME = "orcl1"

#-----------------------------------------------------------------------------
# Name          : NODELIST
# Datatype      : String
# Description   : Node on which to add new instance 
#                 (in 10gR2, instance addition is supported on 1 node at a time)
# Valid values  : Cluster node name
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 添加新实例的节点
#-----------------------------------------------------------------------------

NODELIST=

#-----------------------------------------------------------------------------
# Name          : OBFUSCATEDPASSWORDS
# Datatype      : Boolean
# Description   : Set to true if passwords are encrypted
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#OBFUSCATEDPASSWORDS = FALSE

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME 
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 使用的角色是sys
#-----------------------------------------------------------------------------

SYSDBAUSERNAME = "sys"

#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD 
# Datatype      : String
# Description   : The password of the DBA user.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD = "password"

#-----------------------*** End of ADDINSTANCE section ***------------------------


#-----------------------------------------------------------------------------
# DELETEINSTANCE section is used when OPERATION_TYPE is defined as "deleteInstance". 
#-----------------------------------------------------------------------------

# 当选择的操作类型是删除实例DELETEINSTANCE会启动下面选项
#-----------------------------------------------------------------------------

[DELETEINSTANCE]

#-----------------------------------------------------------------------------
# Name          : DB_UNIQUE_NAME
# Datatype      : String
# Description   : DB Unique Name of the RAC database
# Valid values  : 
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# RAC数据库的唯一名字
#-----------------------------------------------------------------------------

DB_UNIQUE_NAME = "orcl11g.us.oracle.com"

#-----------------------------------------------------------------------------
# Name          : INSTANCENAME
# Datatype      : String
# Description   : RAC instance name to be deleted
# Valid values  : Check Oracle11g Administrator's Guide
# Default value : None
# Mandatory     : Yes
#-----------------------------------------------------------------------------

# 要删除的RAC实例名
#-----------------------------------------------------------------------------

INSTANCENAME = "orcl11g"

#-----------------------------------------------------------------------------
# Name          : NODELIST
# Datatype      : String
# Description   : Node on which instance to be deleted (SID) is located
# Valid values  : Cluster node name
# Default value : None
# Mandatory     : No
#-----------------------------------------------------------------------------
#NODELIST=

#-----------------------------------------------------------------------------
# Name          : OBFUSCATEDPASSWORDS
# Datatype      : Boolean
# Description   : Set to true if passwords are encrypted
# Valid values  : TRUE\FALSE
# Default value : FALSE
# Mandatory     : No
#-----------------------------------------------------------------------------
#OBFUSCATEDPASSWORDS = FALSE

#-----------------------------------------------------------------------------
# Name          : SYSDBAUSERNAME 
# Datatype      : String
# Description   : A user with DBA role.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------

# 使用的数据库角色
#-----------------------------------------------------------------------------

SYSDBAUSERNAME = "sys"

#-----------------------------------------------------------------------------
# Name          : SYSDBAPASSWORD 
# Datatype      : String
# Description   : The password of the DBA user.
# Default value : none
# Mandatory     : YES
#-----------------------------------------------------------------------------
#SYSDBAPASSWORD = "password"


#-----------------------*** End of DELETEINSTANCE section ***------------------------

切换到oracle用户创建实例

# 使用dbca工具创建实例
dbca -silent -responseFile /home/oracle/response/dbca.rsp

创建多个实例，只需要将dbca.rsp复制一个对其进行修改，使用dbca工具进行创建即可。

切换实例方法：

假如创建了两个实例：orcl1，orcl2

切换实例：export ORACLE_SID=orcl1l、export ORACLE_SID=orcl2

然后进入sqlplus启动实例： sqlplus / as sysdba

查看当前实例信息： show parameter name

启动实例：startup
关闭实例：shutdown

Oracle监听配置

安装网络监听器：

/data/u01/app/oracle/product/11.2.0/dbhome_1/bin/netca /silent /responsefile /home/oracle/response/netca.rsp

listener.ora

Listener.ora:用于服务端，用于提示服务端监听哪些实例.

vim /data/u01/app/oracle/product/11.2.0/dbhome_1/network/admin/listener.ora

具体配置参考如👇

# listener.ora Network Configuration File: /data/u01/app/oracle/product/11.2.0/dbhome_1/network/admin/listener.ora
# Generated by Oracle configuration tools.

SID_LIST_LISTENER =
    (SID_LIST =
        (SID_DESC =
            (GLOBAL_DBNAME = orcl)
            (ORACLE_HOME = /data/u01/app/oracle/product/11.2.0/dbhome_1)
            (SID_NAME = orcl)
        )
      # 多个实例写法
        (SID_DESC =
            (GLOBAL_DBNAME = orcl2)
            (ORACLE_HOME = /data/u01/app/oracle/product/11.2.0/dbhome_1)
            (SID_NAME = tsorcl)
        )
    )


LISTENER =
  (DESCRIPTION_LIST =
    (DESCRIPTION =
      (ADDRESS = (PROTOCOL = IPC)(KEY = EXTPROC1521))
      (ADDRESS = (PROTOCOL = TCP)(HOST = localhost)(PORT = 1521))
    )
  )

ADR_BASE_LISTENER = /data/u01/app/oracle

tnsnames.ora

tnsnames.ora：用于客户端,提示客户端从哪个监听实例连接。没有的话新建一个即可。

vim /data/u01/app/oracle/product/11.2.0/dbhome_1/network/admin/tnsnames.ora

具体配置参考如👇

# tnsnames.ora Network Configuration File: /data/u01/app/oracle/product/11.2.0/dbhome_1/network/admin/tnsnames.ora
# Generated by Oracle configuration tools.

LISTENER_TSORCL =
  (ADDRESS = (PROTOCOL = TCP)(HOST = localhost)(PORT = 1521))


TSORCL =
  (DESCRIPTION =
    (ADDRESS = (PROTOCOL = TCP)(HOST = localhost)(PORT = 1521))
    (CONNECT_DATA =
      (SERVER = DEDICATED)
      (SERVICE_NAME = orcl)
    )
  )
  # 多个实例写法
  (DESCRIPTION =
    (ADDRESS = (PROTOCOL = TCP)(HOST = localhost)(PORT = 1521))
    (CONNECT_DATA =
      (SERVER = DEDICATED)
      (SERVICE_NAME = orcl2)
    )
  )

配置开机自启

安装好Oracle数据库后: 执行 dbstart和dbshut会提示：

ORACLE_HOME_LISTNER is not SET, unable to auto-start Oracle Net Listener
Usage: /u01/app/oracle/oracle/product/10.2.0/db_1/bin/dbstart ORACLE_HOME

错误原因是：dbstart脚本文件中ORACLE_HOME_LISTNER的设置有问题

解决办法：

修改dbstart：vim /data/u01/app/oracle/product/11.2.0/dbhome_1/bin/dbstart

# 将 ORACLE_HOME_LISTNER=$1 修改为 ORACLE_HOME_LISTNER=$ORACLE_HOME

# 修改前
ORACLE_HOME_LISTNER=$1
# 修改后
ORACLE_HOME_LISTNER=/data/u01/app/oracle/product/11.2.0/dbhome_1

修改/etc/oratab文件：vim /etc/oratab

# 修改前
orcl:/data/u01/app/oracle/product/11.2.0/dbhome_1:N
# 实例2
orcl2:/data/u01/app/oracle/product/11.2.0/dbhome_1:N

# 修改后
orcl:/data/u01/app/oracle/product/11.2.0/dbhome_1:Y
# 实例2
orcl2:/data/u01/app/oracle/product/11.2.0/dbhome_1:Y

**切换到root用户：**将lsnrctl start和dbstart添加到rc.local文件中

vim /etc/rc.d/rc.local

在结尾处增加👇内容

su oracle -lc /data/u01/app/oracle/product/11.2.0/dbhome_1/bin/lsnrctl start
su oracle -lc /data/u01/app/oracle/product/11.2.0/dbhome_1/bin/dbstart

最后执行 chmod 777 /etc/rc.d/rc.local

至此Oracle11gR2安装完成。（测试连接：本教程所有密码为Oracle1234，创建实例的配置文件有提到。）

可能会遇到的问题

ORA-01017: invalid username/password; logon denied

invalid username/password; logon denied 错误(程序中的用户和密码无法登录，登录被拒)。
Oracle 11g 版本

初次安装使用报错：

解决方案：创建新用户：

打开sqlplus 以系统身份登录：sqlplus / as sysdba
创建新用户：
语法：create user 用户名 identified by 密码;
为刚创建的用户解锁
语法：alter user 用户名 account unlock;
授予新登陆的用户创建权限
语法：grant create session to 用户名 ;
其他权限设置：
授予新创建用户数据库管理员权限：
语法：grant dba to 用户名;

为用户授予其他权限：

GRANT CREATE USER,DROP USER,ALTER USER ,CREATE ANY VIEW , DROP ANY  VIEW,EXP_FULL_DATABASE,IMP_FULL_DATABASE, DBA, CONNECT,RESOURCE,CREATE SESSION TO root;

删除用户语法：drop user 用户名;
如果用户拥有数据表，则不能直接删除，要用上关键字cascade： drop user 用户名 cascade;

整体步骤：

sqlplus / as sysdba
create user 用户名 identified by 密码;
alter user  用户名 account unlock; 
grant create session to 用户名;
GRANT CREATE USER,DROP USER,ALTER USER ,CREATE ANY VIEW , DROP ANY  VIEW,EXP_FULL_DATABASE,IMP_FULL_DATABASE, DBA, CONNECT,RESOURCE,CREATE SESSION TO 用户名;

ORA-12899

安装完Oracle将测试环境数据库导入本地结果报错ORA-12899。

出现原因：字符集引起的,中文在UTF-8中占3个字节,ZHS16GBK中占2个字节,而源dmp文件字符集是ZHS16GBK库里倒出来的数据,现在要导入到目标字符集为UTF-8的库里,所以会出现ORA-12899。

解决方法：修改一下Oracle的字符集即可。

打开sqlplus 以系统身份登录：sqlplus / as sysdba

按顺序执行👇

SQL> SHUTDOWN IMMEDIATE

SQL> STARTUP MOUNT

SQL> ALTER SYSTEM ENABLE RESTRICTED SESSION;

SQL> ALTER SYSTEM SET JOB_QUEUE_PROCESSES=0;

SQL> ALTER SYSTEM SET AQ_TM_PROCESSES=0;

SQL> ALTER DATABASE OPEN;

SQL> ALTER DATABASE CHARACTER SET ZHS16GBK ;
ALTER DATABASE CHARACTER SET ZHS16GBK
*
ERROR at line 1:
ORA-12712: new character set must be a superset of old character set
# 报字符集不兼容，此时下INTERNAL_USE指令不对字符集超集进行检查：

SQL> ALTER DATABASE CHARACTER SET INTERNAL_USE ZHS16GBK;

SQL> SHUTDOWN IMMEDIATE

SQL> STARTUP

这时候ORA-12899的问题已经彻底解决，可以导入数据了。

Centos7 配置秘钥实现免密登录

2021-06-06T02:22:30.000Z

大体流程：本地生成秘钥=>将秘钥上传至服务器

本地电脑生成秘钥

ssh-keygen -t rsa -C "邮箱地址 例：*****.@163.com"

一路回车即可，所有都默认就可以生成秘钥，引号内是唯一邮箱，可以作为以后Git远程仓库使用。结果如下图。

生成之后，查看生成后的公钥和私钥

ls ~/.ssh

可以看到有两个文件：id_rsa（私钥）、id_rsa.pub（公钥）

登录远程服务器

查看 ~ 目录下是否有 .ssh 目录，~目录指的是当前用户的主目录名（/home/用户名）

ls -al ~

如果没有 .ssh 可以创建该目录

mkdir -p ~/.ssh

或者可以执行下面的命令按照提示输入yes 再输入密码即可，.ssh 目录是用来存储本台机器ssh访问其他服务器信息的，没有访问其他机器是没有.ssh 目录的

ssh localhost

上传生成的公钥

将刚刚生成的公钥上传至服务器的 ~/.ssh 目录下

在本地使用 scp 命令： scp 需要发送的文件路径目标路径

将本地生成的公钥放到服务器用户主目录下的.ssh目录里并命名为 authorized_keys

scp ~/.ssh/id_rsa.pub 用户名@服务器ip地址:/用户主目录名/.ssh/authorized_keys

这样就完成了再次登录服务器就不需要输入密码了。

设置禁用密码登录

sudo vim /etc/ssh/sshd_config

# 禁止密码登录。原先为PasswordAuthentication yes
PasswordAuthentication no    

# 禁止 root 登录，看情况是否需要。原先为PermitRootLogin yes
PermitRootLogin no

重启sshd服务

service restart sshd.service

Centos7 安装分布式文件存储—fastDFS（单机）

2021-06-06T02:21:33.000Z

FastDFS 支持集群部署，这里我仅仅使用一台虚拟机来进行测试，会对集群部署的点进行讲解（Nginx、单点 Tracker Server、单点 Storage Server 进行安装）。我会先安装 Nginx，然后安装单点 Tracker Server、单点 Storage Server ，最后整合 FastDFS-Nginx-Module。

服务器：centos7
Nginx：nginx-1.12.2
FastDFS：FastDFS_v5.05
FastDFS-Nginx-Module：fastdfs-nginx-module_v1.16
libfastcommon：libfastcommonV1.0.7
资源下载：百度网盘链接 algl

将下载好的资源上传到服务器

安装Nginx

详见《Centos7 离线安装Nginx及配置HTTPS》

FastDFS安装

安装依赖库

yum install gcc-c++
yum -y install libevent

安装 libfastcommon

libfastcommon 是 FastDFS 官方提供的，libfastcommon 包含了 FastDFS 运行所需要的一些基础库。该库上面我有提供下载地址。

tar -zxvf libfastcommonV1.0.7.tar.gz
cd libfastcommon-1.0.7/
./make.sh
./make.sh install

注意：libfastcommon 安装好后会自动将库文件拷贝至 /usr/lib64 下，由于 FastDFS 程序引用usr/lib 目录所以需要将 /usr/lib64 下的库文件拷贝至 /usr/lib 下。

编译并安装

# 解压
tar -zxvf FastDFS_v5.05.tar.gz
cd FastDFS
# make
./make.sh
./make.sh install

安装成功将安装目录下的 conf 下的文件拷贝到 /etc/fdfs/ 下：

cp -a conf/* /etc/fdfs/

配置Tracker

先创建 FastDFS目录：(修改配置文件时需要该目录)

mkdir -p /home/FastDFS

修改 tracker.conf vi /etc/fdfs/tracker.conf

修改内容如下

base_path=/home/yuqing/FastDFS 改为：base_path=/home/FastDFS
http.server_port=8080 改为 http.server_port=80

启动Tracker

# 启动命令
/usr/bin/fdfs_trackerd /etc/fdfs/tracker.conf restart

# 查看是否启动
ps -ef | grep fdfs

配置Storage

创建文件存储目录fdfs_storage

mkdir -p /home/FastDFS/fdfs_storage

修改storage.conf vi /etc/fdfs/storage.conf

修改内容如下：

group_name=group1
base_path=/home/yuqing/FastDFS 改为 base_path=/home/FastDFS

store_path0=/home/yuqing/FastDFS 改为store_path0=/home/FastDFS/fdfs_storage
#如果有多个挂载磁盘则定义多个store_path，如下
#store_path1=.....
#store_path2=......

tracker_server=192.168.1.217:22122   # 配置 Tracker 服务器:IP
#如果有多个则配置多个 Tracker 
#tracker_server=192.168.1.218:22122
#tracker_server=192.168.1.219:22122

#配置http端口
http.server_port=80

启动Storage

# 启动命令
/usr/bin/fdfs_storaged /etc/fdfs/storage.conf restart

# 查看是否启动
ps -ef | grep fdfs

上传图片测试

将一张名为 picture.jpg 的图片上传到 /root 目录下，使用这张图片进行上传图片测试。

FastDFS 安装成功可通过 /usr/bin/fdfs_test 测试上传、下载等操作。这里我们需要修改 /etc/fdfs/client.conf 配置文件：vi /etc/fdfs/client.conf

修改内容如下：

base_path=/home/yuqing/fastdfs 改为 base_path=/home/FastDFS
tracker_server 改为 tracker_server=192.168.1.217:22122

使用👇格式命令上传文件

#命令格式
/usr/bin/fdfs_test 客户端配置文件地址  upload  上传文件

#测试命令
/usr/bin/fdfs_test /etc/fdfs/client.conf upload /root picture.jpg

上传成功后会显示上传图片等信息，可以根据返回信息中提供文件信息去 /home/FastDFS/fdfs_storage/ 目录下查看我们刚刚上传好的图片。至此说明 FastDFS 的单点 Tracker 和单点 Storage 都已经安装成功了。

配置FastDFS-Nginx-Module

我们已经安装和测试好了 FastDFS，但是如果我们上传的是图片，那我们如何在浏览器中查看图片呢？这个就需要结合 Nginx 来进行配置了，目前我们把 FastDFS 和 Nginx 都安装好了，那么还需要一个 FastDFS-Nginx-Module 模块来完成这个任务，接下来我们就一起来配置一下 FastDFS-Nginx-Module 模块。

解压 fastdfs-nginx-module_v1.16.tar.gz，修改 config 文件路径

解压FastDFS-Nginx-Module：tar -zxvf fastdfs-nginx-module_v1.16.tar.gz

进入安装目录下的 src 文件夹： cd fastdfs-nginx-module/src/

修改config: vi config

#将：
CORE_INCS="$CORE_INCS /usr/local/include/fastdfs /usr/local/include/fastcommon/"
CORE_LIBS="$CORE_LIBS -L/usr/local/lib -lfastcommon -lfdfsclient"
#修改为：
CORE_INCS="$CORE_INCS /usr/include/fastdfs /usr/include/fastcommon/"
CORE_LIBS="$CORE_LIBS -L/usr/lib -lfastcommon -lfdfsclient"
#去掉了路径中的local

设置配置文件

将 fastdfs-nginx-module/src 下的 mod_fastdfs.conf 拷贝至 /etc/fdfs/ 下，并修改mod_fastdfs.conf 的内容

cp mod_fastdfs.conf /etc/fdfs/

vim /etc/fdfs/mod_fastdfs.conf

#------------------------修改内容------------------------
base_path=/home/FastDFS

tracker_server=192.168.1.217:22122
#如果有多台，继续配置即可，例如：tracker_server=192.168.1.218:22122

url_have_group_name=true #url中包含group名称

store_path0=/home/FastDFS/fdfs_storage   #指定文件存储路径
#如果有多个，如下配置：store_path1=/home/FastDFS/fdfs_storage1

#将 libfdfsclient.so 拷贝至 /usr/lib 下：
cp /usr/lib64/libfdfsclient.so /usr/lib/

#创建 nginx/client 目录
mkdir -p /var/temp/nginx/client

添加 FastDFS-Nginx-Module 模块

配置完成后，然后进入 Nginx 安装目录，执行添加模块命令：

#进入nginx安装目录
cd /***/nginx-1.12.2 # ***对应的路径

#执行添加模块命令
./configure --add-module=/***/fastdfs-nginx-module/src
make && make install

修改 Nginx 配置文件，测试图片访问

vi /usr/local/nginx/conf/nginx.conf

server {
        listen       80;
        server_name  192.168.1.217;

        location /group1/M00/{
                root /home/FastDFS/fdfs_storage/data;
                ngx_fastdfs_module;
        }
}

重启Nginx

systemctl restart nginx.service

测试：之前测试FastDFS上传过一张图片，上传成功后返回图片地址，用浏览器打开看图片是否显示即可，至此 FastDFS-Nginx-Module 配置完成。如果访问不了，请在防火墙开启80端口的访问权限。

Centos7 离线安装 MySQL5.7.31（tar包安装）

2021-06-06T02:20:58.000Z

单机版

卸载自带MariaDB

# 查看系统自带的MariaDB
[root@mysql_master ~]# rpm -qa |grep mariadb
 mariadb-libs-5.5.56-2.el7.x86_64
 
# 卸载系统自带的MariaDB
[root@mysql_master ~]# rpm -e --nodeps mariadb-libs-5.5.56-2.el7.x86_64

# 删除 /etc/my.cnf配置文件
[root@mysql_master ~]# rm -rf /etc/my.cnf

# 检查MySQL是否存在
# 执行下面的命令 没有返回值说明 MySQL不存在
rpm -qa |grep mysql

创建MySQL用户组和用户

# 创建MySQL用户组和用户 并在/home文件加下 创建mysql用户主目录
adduser mysql

# 修改MySQL用户登录密码 按照提示输入两次密码即可
passwd mysql

下载MySQL安装包

下载地址：https://dev.mysql.com/downloads/mysql/5.7.html#downloads

上传MySQL安装包并解压

上传刚下载的 mysql-5.7.31-linux-glibc2.12-x86_64.tar.gz 到服务器 /usr/local/mysql 目录下并解压

tar -zxvf /usr/local/mysql-5.7.31-linux-glibc2.12-x86_64.tar.gz

解压之后的文件名不够优雅修改一下：mv /usr/local/mysql-5.7.31-linux-glibc2.12-x86_64 mysql

修改配置文件

新建my.cnf：vi /etc/my.cnf

编辑内容如下：

[mysql]
# 设置mysql客户端默认字符集
default-character-set=utf8

[mysqld]
# 设置3306端口
port = 3306
# 设置mysql的安装目录
basedir=/usr/local/mysql
# 设置mysql数据库的数据的存放目录
datadir=/usr/local/mysql/data
# 允许最大连接数
max_connections=200
# 服务端使用的字符集默认为8比特编码的latin1字符集
character-set-server=utf8
# 创建新表时将使用的默认存储引擎
default-storage-engine=INNODB
lower_case_table_names=1
max_allowed_packet=16M
# 开启binlog
server-id = 1
log-bin=/usr/local/mysql/log/mysql-bin

explicit_defaults_for_timestamp=true
pid-file = /usr/local/mysql/mysql.pid
log_error = /usr/local/mysql/log/error.log
# 跳过mysql密码验证
# skip-grant-tables
# 解决mysql版本导致的sql_model=only_full_group_by问题
# sql_mode=STRICT_TRANS_TABLES,NO_ZERO_IN_DATE,NO_ZERO_DATE,ERROR_FOR_DIVISION_BY_ZERO,NO_AUTO_CREATE_USER,NO_ENGINE_SUBSTITUTION
[mysql.server]
user=mysql

创建配置文件中涉及到的目录

# 创建mysql数据库的数据的存放目录 data
mkdir -p /usr/local/mysql/data

# 创建mysql记录日志的文件夹 log
mkdir -p /usr/local/mysql/log

更改Mysql目录所属用户

# 变更mysql目录所属用户为 mysql
chown mysql:mysql -R /usr/local/mysql

执行安装命令

# 执行mysql安装命令 执行之后会有警告 不影响继续安装
/usr/local/mysql/bin/mysql_install_db --user=mysql --basedir=/usr/local/mysql/ --datadir=/usr/local/mysql/data/

软链接

# 拷贝软链接
cp /usr/local/mysql/support-files/mysql.server /etc/init.d/mysqld

# 赋予可执行权限
chmod +x /etc/init.d/mysqld

启动服务

service mysqld start

设置开机自启

# chkconfig命令主要用来更新（启动或停止）和查询系统服务的运行级信息
# --level 
# 等级0表示：表示关机
# 等级1表示：单用户模式
# 等级2表示：无网络连接的多用户命令行模式
# 等级3表示：有网络连接的多用户命令行模式
# 等级4表示：不可用
# 等级5表示：带图形界面的多用户模式
# 等级6表示：重新启动
# on 开 ， off 关 ，系统默认只对 3，4，5等级有效，reset 重置服务的启动信息 对所有运行级有效
# --add 增加所指定的系统服务，让chkconfig指令得以管理它，并同时在系统启动的叙述文件内增加相关数据。
# --del 删除所指定的系统服务，不再由chkconfig指令管理，并同时在系统启动的叙述文件内删除相关数据。

chkconfig --level 35 mysqld on
chmod +x /etc/rc.d/init.d/mysqld
# 加所指定的系统服务
chkconfig --add mysqld
# 查看mysql的运行状态
service mysqld status

配置环境变量

# 编辑 /etc/profie文件
vi /etc/profile

# 添加内容如下
#set mysql environment
export PATH=$PATH:/usr/local/mysql/bin

# 使其生效
source /etc/profile

获取数据库初始密码

cat /root/.mysql_secret

修改密码

# 登录mysql服务 输入密码进入
mysql -uroot -p

# 修改用户名密码为 123456
set PASSWORD = PASSWORD('123456');

# 刷新 使其生效
flush privileges;

配置访问权限

# 选择mysql数据库
use mysql;

# 修改 user表中 root用户 host字段值为 % “%”代表任意机器可以访问该数据库
update user set host='%' where user='root';

# 查一下修改是否成功
select host,user from user;

# 以下结果说明 修改成功
+-----------+---------------+
| host      | user          |
+-----------+---------------+
| %         | root          |
| localhost | mysql.session |
| localhost | mysql.sys     |
+-----------+---------------+
3 rows in set (0.00 sec)

# 刷新 使修改生效
flush privileges;

# 查看是否开启 binlog:
show variables like '%log_bin%';

# 以下结果 binlog开启
+---------------------------------+--------------------------------------+
| Variable_name                   | Value                                |
+---------------------------------+--------------------------------------+
| log_bin                         | ON                                   |
| log_bin_basename                | /usr/local/mysql/log/mysql-bin       |
| log_bin_index                   | /usr/local/mysql/log/mysql-bin.index |
| log_bin_trust_function_creators | OFF                                  |
| log_bin_use_v1_row_events       | OFF                                  |
| sql_log_bin                     | ON                                   |
+---------------------------------+--------------------------------------+

至此数据库安装完成！

忘记密码

修改配置文件

增加跳过密码验证的配置

# 修改配置文件 vi /etc/my.cnf

# 跳过mysql密码验证
skip-grant-tables

重启Mysql服务

service mysqld restart

登录mysql修改密码

# 1.登录mysql服务 
mysql -uroot -p

# 2.提示输入密码 直接回车即可

# 3.执行刷新 (如果不执行刷新直接修改密码 会提示错误)
flush privileges;

# 4.修改root用户密码
ALTER USER 'root'@'localhost' IDENTIFIED BY '123456';