产品迭代发布如何更快速?阿里持续集成与持续交付实践之路全解析-程序员宅基地

技术标签: ui  运维  测试  

2017年5月9日,云效平台资深研发工程师向禹通过直播分享了《持续集成与持续交付实践之路》。他从云效背景、云效方案、云效价值三个方面进行了分享。他主要分享了持续集成持续交付的解决方案和案例,并且对大型系统如何实现持续集成、持续交付、进行产品迭代发布进行了详细介绍。

 

以下内容根据直播视频整理而成。

云效背景——阿里巴巴《持续交付》之路

大应用下的交付

7606f32cbb867359b177a067320482b884c3cc68

在七八年之前,阿里巴巴的B2B一直沿用瀑布的模式来进行项目管理,当时已经感觉到瀑布模式对应用持续快速的发展产生了很大的影响。并且当时很多的应用都是以大应用的方式来开发的,一个应用可能有几十万行、上百万行代码量,如果此时进行小的功能点的修改会比较麻烦。改了几行代码,花费几个小时进行编译打包,发布到测试环境上去,运行全网的自动化回归(积累了两千多个自动化脚本,总共几万行)也非常耗时,降低了开发效率。所以,当时开始准备把大应用进行服务化的拆分,将大应用的逻辑拆分成了会员中心、产品中心、订单中心、交易中心等服务化模块,每个模块下面又有微服务来支撑。

d6d737cd4bb4baf0ecf1d6b2f79f5fe4c3f9673d

做完第一步改造之后,又遇到一些问题,最明显的是环境上的问题。每一家公司环境管理的方式是类似的,都会划分为开发环境、测试环境、集成环境以及线上的生产环境。微服务化之后,在开发环境下,由于应用变多,调用链路变得更加复杂,很难保证整个环境中所有应用的稳定性。问题难以排查,修改程序之后,很难判断是应用出现问题还是链路出现问题。在集成环境,为了保证稳定性,规定了每周的交付窗口时间,将所有项目代码合成到集成分支上,编译打包部署到集成环境中,运行全网自动化回归脚本。如果出现问题,排查比较麻烦,首先判断是哪一个应用引起的问题,然后再细分到项目组进行排查,修改后重新交付测试。

既然现在已经是微服务了,是否可以跳过集成环境,在开发测试环境将应用完善测试好?经过尝试发现,即使在开发测试环境将某个要发布应用的所有功能测得再详细,也很难保证应用上面的链路和下面的链路的业务逻辑都是正常的。

自动化

如果仅仅通过开发方式的转变是没有办法很好的完成持续集成、持续交付的理念。我们应该创造一个持续集成、持续交付的自动化平台来保证在每个环节里面效率的提升,以及整个链路的打通。

f871a487948b7ffca843a3249fa18c2df64717db

上图是我们在平台上解决的核心问题:并发项目配管方案,在并发项目很多的时候需要进行代码分支的管理;持续部署方案也是需要解决的核心问题;持续验证方案,在持续部署之后要快速进行验证,如果用手工的方式是不现实的;通过持续部署和持续验证达到持续交付的目标;为了让各个团队更好的适应角色的变化、使用平台来提高效率,提出了落地使用推广方案。

云效方案——核心解决方案内容

a6e2078aafdfe4dfcbac505505b46fc98bf3ae13

针对需要解决的问题,我们所建设平台核心的原则是核心化、流程化、自动化,希望能够建立持续部署的流程、代码管理的流程,通过自动化的方式实现出来。在上述基础上,云效平台建立了配置管理、持续集成、持续交付等相关子系统。通过这些子系统,创造了可靠、可重复的交付流水线。此外,与项目管理进行结合,开发的效率很好的沉淀到了平台上,在平台上建了与项目管理相关的一些子系统,将其数据打通就能达到业务和产品的相互促进。多个角色的团队都会在平台上用相关的系统来进行相互工作上的协作,所以对组织和团队的协作也产生了促进作用。云效平台在内部是部署在专有云平台上,对于托管的应用支持EDAS/Dubbo分布式服务化架构、SpringBoot微服务架构、Docker容器化架构。

并发项目配管方案——SCM管理

919f22086b32c7ae2752b82755dcd8a7265b8b4f

并发项目配管方案即项目分支管理方案。很多公司在开发一个项目的时候会首先由相关的PM或者运维人员拉出来一个分支交给开发人员。为了简化上述过程,在平台上提供了开发人员直接拉取分支的功能。如上图所示,项目1和项目2同时进行开发,分别拉取了V1.0的分支。如果项目1提前开发完成,就会触发提交集成的操作,会把项目1最新的分支代码重新拉出来一个集成分支,把主干代码合成到集成分支中,针对集成分支进行编译打包,自动部署到集成的测试环境中。在集成环境运行云效的测试用例,如果没有问题就合并回主干。

持续部署方案-环境管理

4fa1621846aabeb91f6692e6dec710e2721062f3

每个公司都有相同的环境建设方式,包括开发环境、测试环境、集成环境。为了规避开发环境不稳定的情况,摒弃了各种环境的概念,在云效平台上划分为了公共环境和功能环境。公共环境可以认为和线上服务的环境一致,是由线上同步回来的,不需要人为手工参与部署。测试时,如上图需求1,每个项目组根据项目开发的应用在云效平台上申请一台服务器,通过云效一键部署的功能把应用部署到服务器上去,如果需要调用其他服务器,则通过服务化路由的方式路由到其他服务器上。针对每个项目组来说,他们都可以认为自己有一个独立的、供他们使用的测试环境,互相之间没有相互的干扰。对于服务化自动路由,各个系统间相互调用的方式有HTTP、RPC、HSF、Dubbo框架等,使用HTTP的话可以利用本机host绑定达到路由效果,可以使用云效平台自动托管;如果使用Dubbo和HSF,则有一些注册中心和路由规则,可以在本地部署服务器上直接生成HSF的路由文件,动态改变服务的路由。

分层自动化

40a451492a08950c9960649356d1da79f93947c7

在测试环节,倾向于认为没有某一种的测试方式能从效率、质量达到一个很好的平衡,涵盖所有测试的业务逻辑。如果把所有的功能都通过UI自动化实现的话,UI自动化的创建、维护成本很高,稳定性也有一定问题。建议在不同的业务层次使用不同的、适合的测试环境。在方法层面,检测方法是否有问题,可以利用单元测试来进行。接口则可以通过服务化接口测试来涵盖,再往上更长流程的业务逻辑可以通过界面自动化测试来实现。很少一部分的测试场景通过自动化的方式是没法实现的,只能通过手工的方式来实现。

单元测试

7d785d03618bac54cc4f72e339c4126756a76f98

在分支上进行提交的时候,每一次后台都会及时检测到触发提交后针对最新代码的编译、单元测试、代码扫描。平台扫描的结果会及时通过邮件反馈到开发人员,相关的数据也会沉淀到系统上。在云效平台上,阻塞问题是最严重的问题,通过提示信息可以方便开发人员及时进行相关排查。

服务化接口测试

daa22e4e7d6d4da18dd6c2e3540a495e558a5443

在云效平台上,所有的自动化测试都希望不写代码,直接在页面上配置,通过最直观的方式进行。接口测试方面,如果是HTTP接口,则会直接在页面上输入需要测试接口的地址、入参、出参的校验规则;如果是Dubbo或者HFS接口,则需要写单元测试用例启动一个容器才能进行相关的测试。为了减轻写单元测试的工作,在云效平台上,可以解析到某一个jar包里的接口,只需要指定针对Dubbo接口往哪一个IP服务上发送相关请求,平台会自动生成相关的一些测试用例,把入参进行传递,把出参进行校验。

云效价值——实际效果与客户案例

2de0ab8b7dd618c97cd45882eb7bc234e7524a9f

在阿里巴巴内部,云效平台是从2012年开始建设,当初开发测试的配比大约是3:1,到2015年提高到了6:1,目前已经接近8:1。由于业务在持续快速的发展,在平台的保障下,历年故障数有明显的下降,集成验证发布耗时也有显著缩减。有了平台上自动化工具的保证,50%的小需求不需要进行测试。也没有了发布窗口的限制,随时可以发布。

 

对于外部客户来说,现在使用云效的客户也有不少,比如众安保险、五矿电商、红岭创投等,主要使用的是环境部署、自动化集成、自动化用例的建设,大大提升了企业研发效率。

转载于:https://my.oschina.net/u/3471671/blog/904395

版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/chuhan3075/article/details/100669361

智能推荐

白盒测试之分支-条件覆盖_白盒测试测试中的分支测试-程序员宅基地

文章浏览阅读549次,点赞17次,收藏11次。分支-条件覆盖可以使程序中的判断语句以及判断语句中的条件的真、假分支都得到覆盖,但是分支-条件覆盖达到 100% 仍然强度不够,程序中的某些逻辑运算等错误仍然可能不会被发现。_白盒测试测试中的分支测试

fastadmin 关联模型查询 线下测试没问题 线上报错Unknown column_fastadmin关联搜索 出错-程序员宅基地

文章浏览阅读172次。PHP版本也是一样的 都是7.4。就很迷惑 一模一样的代码 怎么上线就会报错。但是又不能不用 因为两个表有相同的字段 去掉别名更是报错。奇怪的是 线下环境大写小写都可以用 不报错。最终解决手段:别名首字母改小写就好了。线上环境只能小写 大写就报错了。代码上线之后莫名报错。_fastadmin关联搜索 出错

编译安装python3.6-程序员宅基地

文章浏览阅读6.7k次,点赞2次,收藏2次。1. 通用格式1.1 安装依赖1.1 命令yum install xx -y1.2 解压缩源码包1.2.1 命令wget xxxxtar -xf xx.tar.xz1.3 configure 编译且安装( 进入python源码包目录,编译且安装 )1.3.1 命令./configure --prefix=安装路径1.3.2 介绍./configure --prefix=/opt/python365/ 上面的意思是将该软件安装在 /usr 下面,执._编译安装python3.6

vue2 element UI 与 vue3 elementPlus 二次封装分页-程序员宅基地

文章浏览阅读173次,点赞8次,收藏3次。【代码】vue2+element UI分页封装及其使用。

IC设计端各岗位薪酬对比(建议收藏)_模拟芯片设计中电路设计工程师和版图设计工程师薪资chayi-程序员宅基地

文章浏览阅读325次。根据人才招聘平台对于2023年已有数据统计,芯片工程师岗位均薪为26012元,位列全行业第一。不可否认,芯片行业的薪资水准确实是超越了绝大多数行业。但具体问题还需要具体分析。在参考数据时,我们也要考虑到所在地区城市、应聘者学历背景和经验、招聘企业类型的不统一性,这种不统一性会导致比较高的薪资差。1、不同学历下背景下的平均税前年薪①IC求职者硕士及以上占比96%,平均年薪为31W+;本科仅为4%,年薪平均20.5W+。②普通高校人员占比15.6%,平均年薪为26.5w+;_模拟芯片设计中电路设计工程师和版图设计工程师薪资chayi

FPGA实现Cordic算法求解arctan和sqr(x*2 + y* 2)_基于verilog的赛灵思cordic反正切fpga例程-程序员宅基地

文章浏览阅读1.4k次,点赞2次,收藏18次。由于在项目中需要使用的MPU6050,进行姿态解算,计算中设计到**arctan 和 sqr(x2 + y2),**这两部分的计算,在了解了一番之后,发现Cordic算法可以很方便的一次性求出这两个这两部分的计算。另外也可以一次性求出sin和cos的值。另外该算法还可以计算其他的一些公式(没做过多的了解)。_基于verilog的赛灵思cordic反正切fpga例程

随便推点

sparkSQL基础_spark 创建用户类-程序员宅基地

文章浏览阅读351次。目录1.sparksql概述1.1、什么是Spark SQL1.2、SparkSQL的数据源1.3、SparkSQL底层架构2. sparksql的四大特性2.1、易整合2.2、统一的数据源访问2.3、兼容hive2.4、支持标准的数据库连接3. DataFrame概述3.1、DataFrame是什么3.2、DataFrame和RDD的优缺点3.4、DataFrame常用操作4. DataSet概述4.1、DataSet是什么4.2、RDD、D_spark 创建用户类

ev.h-程序员宅基地

文章浏览阅读3.5k次。g++ -E ev.h_ev.h

02-C语言底层驱动:NTC测温驱动_ntc.c文件-程序员宅基地

文章浏览阅读1.3k次,点赞2次,收藏10次。采用MCU超级工具计算出NTC值对应的ADC寄存器值表,不用换算成电压。ADC和NTC的参考电压只要是一样的,就能抗电压波动,不必很精准的电压就能得出比较准确的温度值。bsp_ntc.h文件:#ifndef __BSP_NTC_H#define __BSP_NTC_Hint8_t app_getNtc1Temp(void);int8_t app_getNtc2Temp(..._ntc.c文件

Springboot毕设项目考勤管理系统30gu6(java+VUE+Mybatis+Maven+Mysql)_java springboot考勤管理系统源码-程序员宅基地

文章浏览阅读64次。Jdk1.8 + Tomcat8.5 + Mysql + HBuilderX(Webstorm也行)+ Eclispe(IntelliJ IDEA,Eclispe,MyEclispe,Sts都支持)。Springboot + mybatis + Maven + Vue 等等组成,B/S模式 + Maven管理等等。Springboot毕设项目考勤管理系统30gu6(java+VUE+Mybatis+Maven+Mysql)2. 使用IDEA/Eclipse/MyEclipse导入项目,修改配置,运行项目;_java springboot考勤管理系统源码

vba python 结合_xlwings利用VBA调用python-程序员宅基地

文章浏览阅读998次。安装配置完成后(与自定义函数UDFs的配置是一致的,加入xlwings加载项,alt+F11中引用xlwings等等常规操作后),通过 “RunPython”调用python代码。范例:VBA代码如下:Sub hi()RunPython ("import sayhi; sayhi.sayhi()") " sayhi为py文件名,sayhi()为sayhi.py中的自定义函数"End SubVBA..._vba结合python

解决iText+freemark导出pdf不支持base64的解决办法_freemark转pdf base64无法显示-程序员宅基地

文章浏览阅读1.6k次。
 工具类:

 1 package test;
 2 
 3 import java.io.IOException ;
 4 import org.w3c.dom.Element ;
 5 import org.xhtmlrenderer.extend.FSImage ;
 6 imp..._freemark转pdf base64无法显示