CategoryResourceRepost/极客时间专栏/研发效率破局之道/研发流程/08 | DevOps、SRE的共性:应用全栈思路打通开发和运维.md
louzefeng d3828a7aee mod
2024-07-11 05:50:32 +00:00

16 KiB
Raw Blame History

你好我是葛俊。今天我来跟你聊一聊DevOps和SRE。

DevOps和SRE尤其是DevOps是最近几年软件研发方法的重要趋势。因为它们都跟打通开发和运维流程相关所以常常被混淆。比如SRE等同于Google的DevOps、SRE是升级版的DevOps就是两个常见的误区。

事实上DevOps和SRE虽然关系紧密但差别还是蛮大的。所以今天我首先会通过DevOps和SRE的对比引出它们背后的Why、How和What也就是它们的目标、原则和具体实践。然后我会结合自己在一个创业公司的经验向你推荐如何在团队落地DevOps。

DevOps和SRE的定义和异同

因为DevOps和SRE都是比较新的概念而且在不断地发展变化所以学术界和工业界对它们的定义并未达成一致。

接下来我参考已有定义并加入自己的理解对DevOps和SRE的大致定义如下

DevOpsDevelopment和Operations的组合词是一种重视“软件开发人员Dev”和“IT运维技术人员Ops”之间沟通合作的文化、活动或惯例。 通过自动化“软件交付”和“架构变更”的流程,使得软件的构建、测试、发布更加快捷、频繁和可靠。

SRE全称是Site Reliability Engineer ,网站可靠性工程师,是一个职位,是软件工程师和系统管理员的结合,主要目标是创建可扩展且高度可靠的软件系统。

为达到这个目标SRE需要掌握如下相关知识算法、数据结构、编程、网络编程、分布式系统、可扩展架构、故障排除等。SRE使用工具和系统支撑其完成工作比如自动化发布系统、监控系统、日志系统、服务器资源分配和编排工具等而这些工具往往需要他们自己开发和维护。

所以总结来说,DevOps是打通开发和运维的文化和惯例而SRE是DevOps的具体实践之一。说到相同点它们都是为了打通Dev和Ops提高研发效能说到区别DevOps是文化而SRE是职位。如果要类比的话DevOps与SRE的关系就像敏捷跟Scrum的关系。

理解了DevOps和SRE的定义和异同后我们再来看看它们的目标、原则和具体实践吧。

DevOps和SRE的Why、How、What

不知道你有没有考虑过,传统定义中,开发人员和运维人员的利益其实是冲突的。

开发人员的职责是开发功能。功能上线越多,对团队和公司的贡献就越大。所以,开发人员倾向于多开发功能,并快速上线。而运维人员的主要职责是,上线功能,以及保证系统的稳定性,更关注系统的稳定性。新功能上线越多,工作量就越大,服务越容易不稳定,所以运维人员不愿意功能多上线、快速上线。

另外,职能竖井越严重,这些问题就越严重。因为在这种情况下,开发人员写完代码就扔给运维人员撒手不管了,运维人员也很少能从开发人员手里拿到有效信息。此时,线上问题的修复对运维人员来说挑战很大。于是,他们会更加谨慎。

**这就是DevOps和SRE最初要解决的问题开发和运维这两个角色的目标不一致导致研发和上线流程的不顺畅最终严重影响软件上线的效率。**比如运维团队倾向设置多而严格的上线检查门禁限制上线频率。而开发人员则很可能把一些功能“伪装”成Bug修复来绕过针对版本发布的严格检查。

那怎么解决这个问题呢?接下来,我向你推荐以下几个原则和具体方法。

原则1协调运维和开发人员的目标、利益

目标、利益不一致是导致开发团队和运维团队矛盾的首要问题所以想办法让它们的目标、利益变得一致是整个DevOps中最重要的一条。因为只有协调好了目标和利益它们才有动力去解决问题。实现这个原则的一个最主要的方法我称之为“全栈开发”。

什么意思呢?全栈开发,就是每一个工程人员的工作涵盖了不止一个领域。虽然他专攻某一个领域,但对负责的领域都有责任。说白了,就是对产品结果负责,而不是只对某一个具体环节负责。

具体的实施方法,主要包括两大方面。

**第一,增加一个新的运维角色,用开发的方式去做运维。**不同于传统运维人员主要关注网站和服务的稳定和快速,这种新型运维角色负责帮助开发人员推动业务快速开发、快速上线,具体工作包括:优化流程,提供自助工具。

在Facebook这个角色由一个专门的发布工程师团队以及一个生产工程师Production Engineering PE团队承担。而在Google这个角色就是SRE。

PE和SRE职责比较类似都是负责日常运维、紧急响应、工具研发、建设平台化服务体系、容量规划和容量管理、Oncall等。他们会被指派到具体的产品团队中深入到开发第一线拿出比较多的时间Google SRE规定至少50%进行编程工作针对性地自动化和优化CI/CD中的流程、工具等。这里请注意他们的开发工作不是业务开发而是工具开发和自动化等。

与发布工程师团队相比PE和SRE的最大特点是更多地参与到具体产品和项目中。为了方便讨论**我把PE、SRE和发布工程师团队这种新的运维角色统称为“类SRE”。**类SRE顺利推进的关键是找到高质量的开发、运维多面手也就是有很强的开发能力同时有系统维护、网络问题排查等运维技能的工程师。

需要注意的是除了类SRE传统的运维角色比如网络工程师、系统工程师可能仍然存在他们也使用类SRE提供的DevOps工具链提高工作效率所以人员数量比以前少了很多。在遇到线上问题时开发、类SRE和传统运维需要配合解决。

第二,修改开发人员的职责描述为,快速开发和上线稳定的高质量产品,让他们也参与到一部分运维工作中去。

开发人员最主要的工作仍然是开发但会使用类SRE团队提供的工具、流程来进行发布相关的工作包括代码部署、线上问题定位和处理等部分工作。这样他们会在代码开发时就注意提高服务的稳定性和代码质量。

比如在Facebook进行日部署的时候开发人员写好了修复的代码提交还需要去找到提交所依赖的、还没有上线的其他提交跟这些提交的作者进行确认没有问题后才可以一起上线。

上线时,这个开发人员对这一组提交负责,把它们全部提交到日部署流程工具上,并负责功能验证。而负责部署的发布工程师,则会使用工具自动化地把这些提交部署到日部署环境中,并进行系统验证。可以看到,开发人员较多地参与了整个部署过程,这正是持续开发的体现。

另一个比较直观地体现开发人员参与运维工作的实践是让开发人员Oncall也就是身上别个BP机线上出现问题要马上响应即使半夜三更也要爬起来让功能的开发人员承担起解决一线问题的职责。

通过引入类SRE角色和修改开发者职责描述这两种方法开发人员和部分运维人员的职责都从原来的单一职能扩展到了产品的高效开发上线从根本目标和利益上实现了这两个角色的对齐。

所以说,“全栈开发”方式非常重要,效果也非常好。这,也正是我把“全栈”用在文章标题中的原因。

原则2推动高效沟通

之所以强调推动高效沟通,就是为了解决开发和运维因为存在“部门墙”而导致的信息不流通的问题。

具体的实施方法包括:

  • 设置聊天室比如IRC用于沟通部署进展和问题。
  • 引入ChatOps也就是通过自动化的方式提高部署相关的沟通。比如可以让聊天机器人在ChatOps聊天室中自动发送发布流程的进展也可以向聊天机器人询问服务部署进展等。这些自动化可以节省很多部署人员的时间。
  • 把任务、代码提交、发布的关联关系,在工具中呈现出来,并提供比如任务看板、系统监控看板等可视化工具,显示开发、运维重点信息。这样可以大大提高运维人员定位问题的效率。

原则3优化从开发到部署的整个上线流程

优化上线流程,主要目的是解决频繁上线工作量大、产品质量不稳定的问题。

这个原则的主要方法是优化代码入库和部署上线流程并最大化地利用工具来自动化流程。最近10年这个原则发展得非常快逐渐涵盖了快速、高质量上线的各方面工作。这些方面的效率也被称作**交付效能,**具体实践包括:基于主干开发、持续集成、持续交付、持续部署、实现系统松耦合等。

前4条实践我们已经在前面的文章中讲解过了而关于系统松耦合我会在“工程方法”模块中与你详细讨论。

理解了DevOps和SRE的目标、方法和具体实践后我们再来看看具体怎么落地吧。

落地步骤推荐

在落地DevOps时我经常看到有些团队一上来就去寻找工具比如使用Jenkins来搭建流程。但正如上面所说DevOps的本质是解决开发和运维之间的冲突所以落地时首先要从人出发然后是流程最后才是工具。

所以,我推荐的具体落地步骤是:

  1. 对团队目标达成共识,并重新定义职责;
  2. 设计CI、CD、快速反馈以及团队沟通等流程
  3. 引入工具,实现自动化。

接下来,我就用我在一家创业公司的实践来帮助你理解这些落地步骤。

落地实践案例

这个案例是我在一个创业公司落地DevOps的实例。当时公司刚成立不久我的角色是技术总负责人操作的自由度很大。为了提高产品研发的交付效能也就是团队快速发布高质量软件的能力我采用了以下步骤和方法。

第一,在团队内部统一认识

研发团队内部统一认识,主要是让团队成员明确我们的目标一致。同时在做绩效考评时,对大家的要求都是产品快速、高质量上线。

我还把“统一认识”这一点扩展到研发以外的部分比如市场、设计团队。在推广时我始终注意以公司利益为出发点而不是按照职能划分来追责获得了CEO和其他团队管理者的支持。最终推广得比较顺利。

第二,增加“发布工程师”角色

这个角色的职责相当于Facebook发布工程师团队的职责。因为我在部署、运维方面的经验相对丰富便担起了这个工作投入相当一部分精力去设计、优化产品的开发和上线流程包括持续集成、持续交付、手动部署流程以及问题监控流程和Oncall机制。

其他开发人员则使用这个流程来部署、上线、监控、解决问题,提高交付效能。在这个过程中,我作为发布工程师,主要起到了“使能”的作用,即日常的部署上线由开发人员自己负责,而我只参与解决一部分运维相关的难题。

第三,设计问题沟通流程

在解决了“人”的问题之后,我在流程方面,设计了部署沟通流程,以及部署系统常见问题及解决办法收集流程。

部署沟通流程是:建立了专门的聊天室沟通持续集成、持续交付,以及手动部署的进展情况,确保发布上线流程相关信息的顺畅流通。

部署系统常见问题及解决办法收集流程是:在解决完线上问题之后,记录下问题的细节和解决步骤。很简单,就是因为很多问题会重复出现。每个人都可以更改、搜索这些记录,对后续解决问题帮助非常大。所以,我们每次遇到问题,都会先搜索这个知识库,找到答案和线索的概率能达到百分之七八十。

第四,用工具来实现流程自动化

完成了有关人和流程的工作之后工具的实现就不那么难了。DevOps相关工具主要包括两大类CI/CD工具链和沟通工具。

我已经在第5第6第7篇文章中与你详细讲述了CI/CD流水线的内容而沟通工具的内容将会是下一篇文章的主题。这里我给出当时我们使用的工具链也就是一个小型创业公司落地DevOps具体工具链的示例供你参考。

通过这一系列针对人、流程、工具的措施整个研发团队实现了全栈开发目标一致、流程顺畅能够聚焦于开发交付效能非常高实现了后端服务每周上线三次热修复上线时间5分钟MTTRMean Time To Recovery大概15分钟线上也很少出问题系统的可用性达到4个9即99.99%)。

同时,对于开发者来说,全栈开发机制也优化了开发体验,提升了技术成长速度。

当然这些实践能够顺利推广与这是一个小的初创公司有关。一方面公司存亡直接关乎个人利益另一方面一切都在建设期引入具体实践的阻力非常小。如果是在大的团队或者是职能已经成型的团队实施的困难会相对较大。这时我建议你从以下3个方面入手

  • 在团队普及全栈开发的理念;
  • 在你管理范围内推行全栈开发,做出效果;
  • 通过实际运行效果获得公司管理层的支持,让他们了解全栈开发模式为提升研发效能带来的好处,从而逐步改变职责定义和流程。

小结

今天我给你介绍了DevOps这个很火的话题以及SRE和它的关系。文章中我与你介绍了DevOps的目标、原则和具体实践。这三条原则分别是协调开发和运维的目标、推动高效沟通和”优化从开发到部署的整个上线流程。最后我通过自己的实战经验介绍了用“人、流程、工具”的步骤来落地DevOps。

在我看来,打通开发和运维的“部门墙”,最关键、最根本的就是解决人的问题,也就是第一条原则,”协调开发和运维的目标“,要解决的问题。而全栈开发就是一个非常棒的解决方法。

简单来说,全栈开发就是让工程师不再只是对某一个单一职能负责,而是对最终产品负责。全栈开发是一个很好的抓手,逐步提高全栈开发的程度,大家的目标自然就会对齐,从而主动去提高,那其他方面的提高就容易得多了。

事实上测试工作也是全栈开发的一部分。在Facebook没有专门的功能测试团队而是有一个测试工具团队提供测试平台、流程和工具供开发者使用。以此让开发者更进一步地对整个产品负责。这种开发人员全栈其他职能提供支持的工作方式可以总结为如下所示的图片。

最后,我再与你分享一点我的体会。

云技术尤其是Docker和Kubernetes的流行使得越来越多的底层运维工作被自动化导致对传统的系统工程师、运维工程师的需求越来越少。所以懂得开发的运维人员会越来越重要同时更关注部署、测试甚至产品的全栈工程师也会越来越受欢迎。

思考题

有些人认为“全栈工程师”要求太高,一个人不能掌握那么多领域的知识,不现实。你怎么看呢?

感谢你的收听,欢迎你在评论区给我留言分享你的观点,也欢迎你把这篇文章分享给更多的朋友一起阅读。我们下期再见!