02.CI持续集成
# 01.CI持续集成
# 1.1 CI说明
bk-ci是一个免费并开源的CI服务,可助你自动化构建-测试-发布工作流,持续、快速、高质量地交付你的产品。
使用bk-ci屏蔽掉所有研发流程中的繁琐环节,让你聚焦于编码,它通常被用于
- 工程编译
- 静态代码检查
- 运行测试用例,及时发现BUG
- 部署与发布
bk-ci提供了
流水线、代码检查、代码库、凭证管理、环境管理、研发商店
- 流水线:将团队现有的研发流程以可视化方式呈现出来,编译、测试、部署,一条流水线搞定
- 代码检查:提供专业的代码检查解决方案,检查缺陷、安全漏洞、规范等多种维度代码问题,为产品质量保驾护航。
- 代码库:将企业内已有的代码托管服务关联至bk-ci
- 凭证管理:为代码库、流水线等服务提供不同类型的凭据、证书管理功能
- 环境管理:可以将企业内部的开发编译机托管至bk-ci
- 研发商店:由流水线插件和流水线模板组成,插件用于对接企业内部的各种第三方服务,模板助力企业内部的研发流程规范化
# 1.2 架构设计
- 蓝鲸持续集成平台(简称bk-ci )是基于 kotlin/java/js/go/lua/shell等多种语言编写实现的
- 采用完全前后分离,插件式开发,具备高可用可扩展的服务架构设计
# 1.3 架构详解
- 前端&接口网关(WebAPI Gateway & FrontEnd) :
- WebAPI Gateway: 由OpenResty负责,包含了对接用户登录及身份鉴权,和后端API的Consul服务发现转发的lua脚本及Nginx配置
- FrontEnd: 基于VUE的纯前端工程,包含一序列的js,img和html等静态资源。
- 后端服务(MicroService BackEnd):
- 基于Kotlin/Java编写,采用SpringCloud框架的微服务架构设计,以下按各微服务模块的启动顺序介绍
- Project: 项目管理,负责管理流水线的项目,多个模块依赖于此。
- Log: 构建日志服务,负责接收构建的日志的转发存储和查询输出。
- Ticket: 凭证管理服务,存储用户的凭证信息,比如代码库帐号密码/SSL/Token等信息。
- Repository: 代码库管理服务,存储用户的代码库,依赖于Ticket的联动。
- Artifactory: 制品构件服务,该服务只实现了简化版的存取构件功能,可扩展对接自己的存储系统。
- Environment: 构建机服务,导入构建机以及用环境管理构建机集群用于构建调度的并发。
- Store: 研发商店服务,负责管理流水线扩展插件和流水线模板功能,包括插件&模板升级上下架,与process和artifactory联动。
- Process: 流水线管理,负责管理流水线以及流水线编排调度功能的核心服务。
- Dispatch: 构建(机)调度,负责接收流水线的构建机启动事件,分发给相应构建机处理。
- Plugin: 服务的插件扩展服务,目前为空,主要是用于提供给后续扩展一些与前端页面联动的后台服务,比如对接各类CD平台,测试平台,质量检查平台等等,与前端页面配置,想象空间很大。
- 资源服务层(Resource): 包括提供存储和必须的基础中间件等。
- Storage(存储服务): 存储服务/中间件等一序列依赖的基础环境。
- MySQL/MariaDB: bk-ci的主数据库存储,可用mysql 5.7.2 /mariadb 10.x存储以上所有微服务的关系型数据。
- Redis: 核心服务缓存,3.x版本,缓存构建机信息和构建时的信息和提供分布式锁操作等等。
- ElasticSearch: 日志存储,log模块对接ES来对构建的日志做存取。
- RabbitMQ: 核心消息队列服务,bk-ci的流水线事件机制是基于RabbitMQ来流转事件消息的。
- FileSystem: 这块主要为artifactory提供服务,用于存储插件,构建产物等二进制文件服务,可对接文件或者云存储类,扩展在artifactory服务模块。
- Consul: 作为微服务的服务发现Server,需要搭建Consul Server, 以及在bk-ci微服务部署的所在机器上同时安装Consul并以 Agent方式运行。 组建集群可以直接用bk-ci微服务部署机器(2台)上直接以consul server和agent方式直接启动,以减少对机器数的需求。
- Agent(构建机): 构建机是负责运行CI打包编译构建的一台服务器/PC,是由比如go,gcc,java,python,nodejs等等编译环境依赖,再加上运行由bk-ci提供编写实现的两部分服务进程:
- Agent:由Golang编写实现,分DevopsDaemon和DevopsAgent两个进程
- DevopsDaemon: 负责守护和启动DevopsAgent。
- DevopsAgent: 负责与Dispatch和Environment微服务通信,负责整个Agent的升级和Worker(任务执行器) 进程的启动和销毁工作。
- Worker: 由Kotlin编写实现,是一个命名为agent.jar的文件,,任务真正的执行者。被DevopsAgent通过jre来拉起运行,之后会负责与Process微服务模块通信,领取插件任务并执行和上报结果(Log&Process)。
- Agent:由Golang编写实现,分DevopsDaemon和DevopsAgent两个进程
- Storage(存储服务): 存储服务/中间件等一序列依赖的基础环境。
# 1.4 BK-CI 的设计理念
在技术架构上,bk-ci自研了一套持续集成框架和流水线引擎,目的是增强平台安全性、稳定性和可扩展性,保证服务的高可用。
- 我们把研发体系中需要的每个单独功能抽离成一个微服务,通过分解巨大单体式应用为多个服务方法来分解复杂模块,这样就保证了每个服务相对简单,结构清晰,方便测试;
- 微服务体系还会对接企业内其他团队的服务,每一个服务都可以加入到bk-ci中为整个研发体系提供服务;
- 可以水平的动态扩展子服务,遇到性能瓶颈时可以弹性的增加子服务来满足业务需求;
- 一个微服务的异常不会导致其它微服务同时异常。通过隔离、融断等技术可以避免极大的提升微服务的可靠性;
- 微服务还可以保证我们每个子服务可以独立部署和灰度,加快后台服务的迭代,使平台本身的持续交付成为可能。
编辑 (opens new window)
上次更新: 2024/3/13 15:35:10