群晖下gitea+drone+harbor实现CI/CD发布到云服务器

编程

常用命令

sudo -i然后输入密码登录root账户(群晖默认只能使用admin账号登陆)

vim xxx编辑(编辑是进去之后按i,退出并保存是按esc,然后:wq!再回车)

mkdir xx创建文件夹

准备

1. 群晖一般默认安装docker

        我们不需要进行安装,如果没有安装,则去套件中心进行安装即可

2. 域名

        这个不做详细赘述 比如,此文中域名是www.mydomain.com

3. 文件夹权限

        在群晖的volume2的docker文件夹下创建/volume2/docker/gitea/data、/volume2/docker/gitea/data、/volume2/docker/harbor/common/config,并赋予Everyone权限




4. root权限

drone的deploy步骤需要root权限来进行docker发布,所以需要群晖的root也开一下,但是群晖默认关闭root

ssh中sudo -i进入root权限

vim /etc/ssh/sshd_config

将#PermitRootLogin 这一行去掉注释,修改为PermitRootLogin yes

保存退出,然后执行synouser --setpw root xxxxxx (xxxxxx就是你的root密码)

reboot重启群晖即可

安装PostgreSQL

执行下面的语句,安装postgres数据库,安装成功之后,用户名是postgres,密码是postgrespw,端口号是14332,初始数据库是postgres

docker run --name postgres -e POSTGRES_PASSWORD=postgrespw -v /volume2/docker/postgres/data:/var/lib/postgresql/data -d -p 14332:5432 postgres

执行成功之后我们可以使用导航猫(navicat)连接试一下,连接成功之后添加一个gitea数据库

安装gitea

执行下面的语句,安装gitea

docker run -d --name=gitea -p 10022:22 -p 13000:3000 -v /volume2/docker/gitea/data:/data gitea/gitea

安装成功之后进入http://www.mydomain.com:13000,此时是一个gitea初始化的界面设置数据库连接是postgresql,数据库名称是gitea;修改站点名称,服务器域名www.mydomain.com,http端口3000,基础URL:http://www.mydomain.com:13000/ , 管理员账号密码填写gitea账号密码(比如账号是myusername),邮箱写一个然后点击安装

安装成功之后我们将进入http://www.mydomain.com:13000,输入账号密码进入,新建一个仓库,这个仓库可以是从其他网站仓库地址拉过来的,拉取过来的仓库只有只读权限,我们需要将仓库更改为普通仓库(在仓库设置=>危险操作区=>转移仓库所有权),否则会造成无法提交的问题(gitea mirror repository is read-only)

下一步,进行drone设置,此时我们的drone未安装,但是我们将14000端口分配给它使用,也就是http://www.mydomain.com:14000

点击头像(右上角)=>设置=>应用=>创建新的 OAuth2 应用程序,应用名称填写drone,重定向 URI填写http://www.mydomain.com:14000/login,点击创建应用,记录一下client-id、client-secret

安装drone

在安装之前,我们可以先执行一下

openssl rand -hex 16来获取一个共享的key,这个key值我们下面将使用到(当然也可以使用其他方法来随机获取一个加密程度更高的key)

安装drone server

docker run 

--volume=/var/lib/drone:/data

--env=DRONE_GITEA_SERVER=http://www.mydomain.com:13000

--env=DRONE_GITEA_CLIENT_ID=client-id

--env=DRONE_GITEA_CLIENT_SECRET=client-secret

--env=DRONE_RPC_SECRET=共享的key

--env=DRONE_SERVER_HOST=www.mydomain.com:14000

--env=DRONE_DATABASE_DRIVER=postgres

--env=DRONE_DATABASE_DATASOURCE=postgres://postgres:postgrespw@172.17.0.1:14332/postgres?sslmode=disable

--env=DRONE_SERVER_PROTO=http

--publish=14000:80

--publish=14443:443

--restart=always

--detach=true

--name=drone

--env=DRONE_USER_CREATE=username:myusername,admin:true

drone/drone:2

安装drone-runner

docker run --detach 

--volume=/var/run/docker.sock:/var/run/docker.sock

--env=DRONE_RPC_PROTO=http

--env=DRONE_RPC_HOST=www.mydomain.com:14000

--env=DRONE_RPC_SECRET=共享的key

--env=DRONE_RUNNER_CAPACITY=2

--env=DRONE_RUNNER_NAME=test-runner

--env=DRONE_AGENTS_ENABLED=true

--publish=14300:3000

--restart=always

--name=runner

drone/drone-runner-docker:1

安装成功之后,进入http://www.mydomain.com:14000,应该可以看到刚才我们在gitea创建的仓库了

在此时的gitea里面,我们在这个项目的设置=>Web 钩子里面能看到一个网址连接,这个网址连接就指向的是drone

点击仓库进去,在settings里面打开Trusted

然后在左下角的setting里面添加用户test-runner(对应drone-runner安装里面的DRONE_RUNNER_NAME)

此时,我们的gitea和drone已经OK了,我们来安装一下harbor

安装harbor

1. 安装过程

参考使用Harbor搭建Docker私有镜像仓库,去[goharbor/harbor/releases (https://github.com/goharbor/harbor/releases)下载一下最新版的harbor-offline-installer-vx.x.x.tgz,建议首先

cd /volume2/docker

wget https://github.com/goharbor/harbor/releases/download/v1.10.11/harbor-offline-installer-v1.10.11.tgz

tar -zxvf harbor-offline-installer-v1.10.11.tgz

cd harbor

mkdir common

cd common

mkdir config

cd /volume2/docker/harbor

vim harbor.yml //修改一下hostname和port,比如hostname:www.mydomain.com , port:19080, 然后保存退出

sudo ./install.sh //最后会输出`Harbor has been installed and started successfully`,说明安装成功

我们进入http://www.mydomain.com:19080,然后输入账号admin,密码Harbor12345,进入后去更改一下密码(!!!注意,此时的密码不能有特殊符号,否则不会保存,更改harbor.yml时,里面的所有密码最好不要随意更改)

然后去系统设置=>用户管理新增一个用户(用户名:myharborname,密码:myharborpw),便于一会儿进行docker的操作

同时点击项目=>library=>成员=>添加用户,将myharborname添加进来,权限设置成项目管理员(否则有可能出现publish阶段的denied: requested access to the resource is denied问题,该问题也可以通过docker login www.mydomain.com:19080登陆一下来尝试解决)

2. 问题

  1. 如果出现了harbor-db容器经常重启的问题,可以通过docker logs --tail="100" harbor-db //查看最近100行日志,如果日志是could not write lock file "postmaster.pid": No space left on device或者通过cat /var/log/harbor/postgresql.log | tail -20查出来的日志包含could not close temporary statistics file "pg_stat_tmp/db_12406.tmp": No space left on device,那说明docker提交太频繁导致内存不足,

cat /volume2/docker/harbor/docker-compose.yml --查看一下postgresql的映射路径,发现是/data/database

cd /data/database

rm -rf /data/database

cd /data

mkdir database

cd /volume2/docker/harbor

docker-compose down -v --关闭所有的harbor容器

cd /volume2/docker/harbor/common/config

rm -rf *

cd /volume2/docker/harbor

sudo ./install.sh --重新安装一下,密码、用户等需要重新添加一次

  1. 如果出现了http://www.mydomain.com:19080登陆报错500,那么一般去重启一下harbor的nginx容器即可

CI和CD

我们再去drone中刚才的仓库中setting=>Secret新增两个Secret

分别是:

docker_username 值:myharborname ; docker_password 值:myharborpw

之前的仓库我们拉取到本地,推荐使用Sourcetree,拉取之后在仓库的根目录下面创建两个文件.drone.yml和Dockerfile

我这里使用的是.net 6,所有Dockerfile内容:

FROM mcr.microsoft.com/dotnet/aspnet:6.0

COPY . .

WORKDIR /app

EXPOSE 29029/tcp

ENTRYPOINT ["dotnet", "k8s-netcore-demo.dll"]

.drone.yml的内容:

kind: pipeline

type: docker

name: deployment

steps:

- name: ls

image: alpine

commands:

- ls -la

- ls -la Dockerfile --查看当前文件夹是否包含了Dockerfile

- name: build

image: mcr.microsoft.com/dotnet/sdk:6.0

commands:

- dotnet restore

- dotnet build -c Release -o /drone/src_temp/k8s-netcore-demo/ --no-restore --build之后的文件输出到/drone/src_temp/k8s-netcore-demo/目录中,因为项目文件默认在/drone/src/目录,而build默认输出也是/drone/src/,我们后面发布到docker里面只需要发布build的文件即可,所以先输出到临时目录

- mv /drone/src/Dockerfile /drone/src_temp/k8s-netcore-demo/ --将项目文件目录中的Dockerfile也移动到临时目录

- rm -rf * --删除项目文件/drone/src/下面的所有文件

- mv /drone/src_temp/k8s-netcore-demo/* /drone/src --将临时目录的文件移动到drone执行的默认目录中

- ls -la --查看最后的/drone/src/下文件,可以验证一下是不是build之后+Dockerfile文件

- pwd --输出当前文件夹路径

- echo 项目生成成功

- name: publish 2 harbor

image: plugins/docker

settings:

dockerfile: Dockerfile

tags: latest

insecure: true

registry: www.mydomain.com:19080

repo: www.mydomain.com:19080/library/k8s-netcore-demo

storage_driver: vfs

username:

from_secret: docker_username

password:

from_secret: docker_password

- name: deploy

image: appleboy/drone-ssh

pull: true

settings:

host: 云服务器IP

port: 22

username: root

password: root密码

command_timeout: 2m

script:

- source /etc/profile

- ls -la

- docker info

- echo $(docker ps -aqf "name=k8s-netcore-demo")

- docker stop $(docker ps -aqf "name=k8s-netcore-demo")

- docker container rm k8s-netcore-demo

- docker rmi k8s-netcore-demo

- echo 查看是否成功删除k8s-netcore-demo

- docker ps -a

- echo 从harbor拉取docker镜像

- sudo docker container rm xxxxxx/k8s-netcore-demo

- sudo docker pull www.mydomain.com:19080/library/k8s-netcore-demo:latest

- sudo docker tag www.mydomain.com:19080/library/k8s-netcore-demo:latest xxxxxx/k8s-netcore-demo:latest

- sudo docker run --name k8s-netcore-demo -p 29029:80 xxxxxx/k8s-netcore-demo

- /usr/local/bin/docker system prune -f

- echo docker容器启动成功

这里简单解释一下

  1. image: mcr.microsoft.com/dotnet/aspnet:6.0,原来的Gogs + Drone 实现CI/CD(CD)中image是microsoft/dotnet,但是实际会出现错误(Error response from daemon: pull access denied for microsoft/dotnet, repository does not exist or may require "docker login": denied: requested access to the resource is denied),从Unable to build pipeline: pull access denied for microsoft/dotnet, repository does not exist or may require "docker login": denied: requested access中找到问题,是因为微软把docker库迁走了,这个仓库没有对应的dotnet镜像了。。。所以我们要根据自己的项目版本自己去更改, 不要使用mcr.microsoft.com/dotnet/aspnet:6.0,要使用sdk
  2. dockerfile: Dockerfile这里我没有使用drone-ci-demo/Dockerfile,因为Dockerfile其实是在根目录下,可以查看name: ls的输出,查阅问题链接unable to evaluate symlinks in Dockerfile path: lstat /drone/src/Dockerfile: no such file or directory
  3. 增加storage_driver: vfs,解决链接Plugins/Docker on Synology DSM
  4. 因为群晖默认没有开root,所以要按照准备工作第三步进行操作,打开root,如果使用admin账号,则会出现权限问题,是因为admin不能在ssh中调用docker和其他script指令(第一次尝试我是按照部署到群晖执行的(群晖的dotnet SDK安装之后软连接好像有问题,无法执行),所以有上面的一句话,如果发布到云服务器,可以给其他账户开权限,这样就不必使用root账户了)

其他

1. 群晖与其他linux的不同

   #### 1. docker的daemon.json地址

不是`/etc/docker/daemon.json`,而是`/var/packages/Docker/etc/dockerd.json`

#### 2. 常用命令不是`systemctl`或者`service`

常用命令不是`systemctl`或者`service`,而是`synoservice`,前面加一个`syno`,可以通过`synoservicecfg --list`查看群晖下运行的所有服务,其中套件中心的服务前面需要加`pkgctl-`作为前缀,例如`synoservice –restart pkgctl-Docker`

2. 云服务器安装dotnet,自己可以去查阅微软的文档 在 Linux 发行版上安装 .NET

参考链接

https://discourse.drone.io/

https://plugins.drone.io/plugins/docker

https://65535.pub/2020/06/01/gitea-drone-群晖搭建/

https://www.cnblogs.com/fallTakeMan/p/11944042.html

https://www.cnblogs.com/fallTakeMan/p/11866584.html

https://www.cnblogs.com/fallTakeMan/p/11875846.html

https://www.hafuhafu.cn/267/

https://www.cnblogs.com/manastudent/p/15938616.html

https://www.msnao.com/2019/04/26/568.html

以上是 群晖下gitea+drone+harbor实现CI/CD发布到云服务器 的全部内容, 来源链接: utcz.com/z/520509.html

回到顶部