一个运维工程师必须要知道的(工作职责与应用场景)干货整理_运维知识库应用场景-程序员宅基地

技术标签: Linux  运维  linux  

目录:

一.Linux运行

1. 什么是linux运维?

在这里插入图片描述

  • 运维是指大型组织已经建立好的网络软硬件的维护,就是要保证业务的上线与运作的正常。
  • 在他运转的过程中,对他进行维护,他集合了网络、系统、数据库、开发、安全、监控、应用架构、存储 于一身的技术。
  • 运维分类:
    • 运维开发:是给应用运维开发运维工具和运维平台的
    • 应用运维:是给业务上线、维护和做故障排除的,用开发运维开发出来的工具给业务上线、维护、做故障排查
    • 系统运维:是给应用运维提供业务上的基础设施,比如:系统、网络、监控、硬件等等
    • 数据库运维: 负责数据存储方案设计、数据库表设计、索引设计和SQL优化
    • 安全运维: 进行常规的安全扫描、渗透测试,进行安全工具和系统研发以及安全事件应急处理

2.运维的职责

  • 保证服务的稳定运行;
  • 考虑服务的可扩展性;
  • 从系统的稳定性和可运维性的角度,提出开发需求;
  • 定位系统的问题,甚至可以直接修正bug;
  • 对突然出现的问题做到快速响应和处理;

二. 工作中运维应用场景

1. Devops交付环常识普及

  • 我们把开发交付划分为: 计划 --> 编码 --> 构建 --> 测试 --> 版本 --> 部署 --> 运维 --> 监控 的一个闭环
  • DevOps的目标是通过建立并不断完善持续交付的流水线
  • 运维的职责覆盖了产品从设计到发布、运行维护、变更升级及至下线的生命周期

在这里插入图片描述

2.产品发布前

注:这个阶段运维工程师的职责是参与设计并把关运维准入,主要包括下面类容

  1. 产品的业务熟悉
  2. 产品架构设计的合理性评估,包括是否存在单点,是否可容错,是否有强耦合等,
  3. 资源评估,包括所需的服务器资源网络资源以及资源的分布等,同时把相关产品对资源预算申请的合理性,控制服务成本;
  4. 资源就位,将申请的服务器及基础环境/域名准备就位。

3.产品发布过程中

  1. 产品发布阶段运维工程师负责发布的具体工作,将具体的软件和系统/硬件资源整合形成产品并对外提供服务。
  2. 对于已在线服务的更新也属于发布范畴,这个时候的产品发布一般要保障在线发布,在不中断对外服务的情况下完成产品的升级。
  3. 对于大型复杂的变更也存在中止服务部署完成后再重新提供服务的情况,但这种情况需要运维工程师通过尽可能的技术手段来避免。

4.产品运行维护

  • 监控:
    • 对服务运行的状态进行实时的监控,随时发现服务的运行异常和资源消耗情况;
    • 输出重要的日常服务运行报表以评估服务/业务整体运行状况,发现服务隐患;
  • 故障处理:
    • 对服务出现的任何异常进行及时处理,尽可能避免问题的扩大化甚至中止服务。
    • 这之前运维工程师需要针对各类服务异常,如机房/网络故障、程序bug等问题制定处理的预案,问题出现时可以自动或手动执行预案达到止损的目的。
  • 容量管理:
    • 包括服务规模扩张后的资源评估、扩容、机房迁移、流量调度等规划和具体实施。

5.产品性能/成本优化

  1. 产品对外提供服务最重要的一点是用户体验,用户体验中非常重要的是产品的可用性和响应速度。
  2. 而如何用最**合理的资源(如机器、带宽等)**支持产品提供高可用和高速度的用户体验,这也是运维工程师的重要职责。

6.产品下线

1. 发展良好的互联网产品将始终在线对外提供服务,但互联网产品快速迭代,也存在相当多孵化的产品最后被淘汰的情况
2. 这些产品都需要做下线处理,这个过程运维工程师主要做好**资源回收**的工作,将**机器/网络等资源回收后纳入资源池中**供其它服务使用

三. 运维的发展过程–为什么需要运维?

1.手工管理阶段

  • 业务规模( 几十台机器)
    • 业务流量不大,服务器数量相对较少,系统复杂度不高。
    • 对于日常的业务管理操作,大家更多的是逐台登录服务器进行手工操作,属于各自为战。
    • 每个人都有自己的操作方式,缺少必要的操作标准、流程机制,比如业务目录环境都是各式各样的。
  • 职责
    • 早期的运维团队在人员较少的情况下,主要是进行数据中心建设、基础网络建设、服务器采购和服务器安装交付工作。
    • 几乎很少涉及线上服务的变更、监控、管理等工作
    • 这个时候的运维团队更多的属于基础建设的角色,提供一个简单、可用的网络环境和系统环境即可。

2.工具批量操作阶段

  • 业务规模( 几百台机器)
    • 随着服务器规模、系统复杂度的增加,全人工的操作方式已经不能满足业务的快速发展需要。
    • 因此,运维人员逐渐开始使用批量化的操作工具,针对不同操作类型出现了不同的脚本程序
    • 此时,虽然效率提升了一部分,但很快又遇到了瓶颈,操作的质量并没有太多的提升。
    • 我们开始建立大量的流程规范,比如复查机制,先上线一台服务器观察10分钟后再继续后面的操作,一次升级完成后至少要观察20分钟等。
    • 这些主要还是靠人来监督和执行,但在实际过程中执行往往不到位,反而降低了工作效率。
  • 工作职责
    • 这个时候的运维团队还会承担一些服务器监控的工作,同时会负责LVS、Nginx等与业务逻辑无关的4/7层运维工作
    • 这个时候服务变更更多的是借助saltstack、ansible批量管理工具工操作。
    • 监控的焦点更多的在服务器状态和资源使用情况上,对服务应用状态的监控几乎很少,监控更多的使用各种开源系统如Nagios、Cacti、openfalcon、等。

3.平台管理阶段

  • 业务规模( 几千台机器)
    • 在这个阶段,我们决定开始建设运维平台,通过平台承载标准、流程,进而解放人力和提高质量
    • 这个时候对服务的变更动作进行了抽象,形成了操作方法、服务目录环境、服务运行方式等统一的标准
    • 通过平台来约束操作流程,如上面提到的上线一台服务器观察10分钟,程序的启停接口必须包括启动、停止、重载等。
    • 在平台中强制设定暂停检查点,在第一台服务器操作完成后,需要运维人员填写相应的检查项,然后才可以继续执行后续的部署动作。
  • 工作职责
    • 由于业务规模和复杂度的持续增加,运维团队会逐渐划分为应用运维系统运维两大块。
    • 应用运维开始接手线上业务,逐步开展服务监控梳理、数据备份以及服务变更的工作
    • 同时,为了应对每天大量的服务变更,我们也开始编写各类运维工具,针对某些特定的服务能够很方便的批量变更。
    • 随着业务规模的增大,基础设施由于容量规划不足或抵御风险能力较弱导致的故障也越来越多,
      运维人员开始将更多的精力投入到多数据中心容灾、预案管理的方向上。

4.系统自调度阶段

  • 工作环境(上万台机器)
    • 更大规模的服务数量、更复杂的服务关联关系、各个运维平台的林立,原有的将批量操作转化成平台操作的方式已经不再适合
    • 需要对服务变更进行更高一层的抽象,将每一台服务器抽象成一个容器,由调度系统根据资源使用情况,将服务调度、部署到合适的服务器上
    • 自动化完成与周边各个运维系统的联动,比如监控系统、日志系统、备份系统等
    • 通过自调度系统,根据服务运行情况动态伸缩容量,能够自动化处理常见的服务故障
    • 运维人员的工作也会前置到产品设计阶段,协助研发人员改造服务使其可以接入到自调度系统中。
  • 工作职责
    • 业务规模达到一定程度后,开源的监控系统在性能和功能方面,已经无法满足业务需求
    • 大量的服务变更、复杂的服务关系,以前靠人工记录、工具变更的方式不管在效率还是准确性方面也都无法满足业务需求;
    • 在安全方面也出现了各种大大小小的事件,迫使我们投入更多的精力在安全防御上。
    • 逐渐的,运维团队形成之前提到的5个大的工作分类,每个分类都需要有专精的人才
    • 这个时候系统运维更专注于基础设施的建设和运维,提供稳定、高效的网络环境,交付服务器等资源给应用运维工程师。
    • 应用运维更专注于服务运行状态和效率,数据库运维属于应用运维工作的细化,更专注于数据库领域的自动化、性能优化和安全防御。
    • 运维研发和运维安全提供各类平台、工具,进一步提升运维工程师的工作效率,使业务服务运行得更加稳定、高效和安全。

四. 运维分类与工作职责

1.系统运维(SYS):

  • 负责IDC、网络、CDN和基础服务的建设(LVS、NTP、DNS);
  • 负责资产管理,服务器选型、交付和维修,网络建设、LVS负载均衡和SNAT建设

2.应用运维(SRE):

  • 应用运维负责线上服务的变更、服务状态监控、服务容灾和数据备份等工作,对服务进行例行排查、故障应急处理等工作
  • 工作职责如下:设计评审、服务管理、资源管理、例行检查、预案管理、数据备份。
  • 业务运维工作细则
    • 监控线上的服务质量
    • 响应异常/处理突发故障
    • 在线发布/升级产品
    • 和相应产品线的研发和测试协调处理产品问题

3.运维开发

  • 是给应用运维开发运维工具和运维平台的
  • 主要平台:工单系统、CMDB、监控系统、ELK日志系统、CI/CD、LDAP、FAQ、培训系统、OpenStack平台等

4.数据库运维(DBA):

  • 数据库运维负责数据存储方案设计、数据库表设计、索引设计和SQL优化
  • 对数据库进行变更、监控、备份、高可用设计等工作,详细的工作内容如下
  • 设计评审、容量规划、数据备份与灾备、数据库监控、数据库安全、数据库高可用和性能优化

5.运维安全(SEC):

  • 运维安全负责网络、系统和业务等方面的安全加固工作
  • 进行常规的安全扫描、渗透测试,进行安全工具和系统研发以及安全事件应急处理
  • 工作内容如下:安全制度建立、安全培训、风险评估、安全建设、安全合规、应急响应。

五. 运维工程师使用的运维平台和工具

1.运维工程师使用的运维平台和工具

  • Web服务器:apache、tomcat、nginx
  • 负载均衡:keepalive、lvs、haproxy、nginx
  • 监控:prometheus、zabbix、openfalcon、nagios、cacti
  • 自动部署:ansible、saltstack、sshpt
  • 配置管理:puppet
  • 备份工具:rsync、wget
  • 分布式数据库:hbase、redis、MongoDB
  • 容器:docker、k8s、docker-compose、swarm
  • 安全:kerberos、selinux、acl、iptables
  • 虚拟化:openstack、xen、kvm
  • 问题追查:netstat、top、tcpdump、last

2.运维工程师要掌握的技能

  • 扎实的计算机基础知识,包括计算机系统架构,操作系统,网络技术等;
  • 通用应用方面需要了解操作系统、网络、安全,存储,CDN,DB等,知道其相关原理;
  • 编程能力小到运维工具的开发大到大型运维系统/平台的开发都需要有良好的编程能力;
  • 数据分析能力:能够整理、分析系统运行的各项数据,从中发现问题及找到解决方向
  • 丰富的系统知识,包括系统工具、典型系统架构、常见的平台选型等;

3.运维工程师的软素质要求

  • 时间管理能力,特别是碎片化时间的处理能力;
  • 沉稳的心态,面对紧急情况时需要处变不惊;
  • 沟通能力、团队协作,运维工作跨部门、跨工种工作很多,需善于沟通、并且团队协作能力要强;
  • 工作中需胆大心细:胆大才能创新、不走寻常路,特别对于运维这种新的工种,更需创新才能促进发展;
  • 心细,运维工程师是最高线上权限者,需要谨慎心细;
  • 主动性、执行力,能够主动学习国际国内的运维技术,并引入到工作中,提高运维的质量和效率;
版权声明:本文为博主原创文章,遵循 CC 4.0 BY-SA 版权协议,转载请附上原文出处链接和本声明。
本文链接:https://blog.csdn.net/longlong6682/article/details/104877538

智能推荐

树形结构的jsp展现 (2)_jsp树形结构-程序员宅基地

文章浏览阅读3k次。1,在没有树形控件等的情况下,后台用sql查询出树形结构数据,前台直接根据标记遍历(其实属性控件也是如此)(用js直接遍历数据) 2,还有中方式后台根据父子关系组装成list,前台用jsp标签遍历父子 $(function(){ alert("2");appendTable();});function appendTable() { ale_jsp树形结构

Android进阶之路 - 监听软键盘当前状态,实现布局上移_android软键盘弹出布局上移-程序员宅基地

文章浏览阅读3k次,点赞3次,收藏6次。在项目开发中遇到这样一个问题,当用户输入某些数据时,我们接下来是进行数据操作,这时候为了让用户有更好的交互感,所以我们需要布局中的某一块布局进行整体上移,增加用户体验,故有了此篇文章,请往下看 ~Effect(面临的问题)公共注意点1.在AndroidManifest中找到对应的activity,加入 android:windowSoftInputMode="stateHi......_android软键盘弹出布局上移

springboot打jar包将引用的第三方包、配置文件(.properties、.xml)、静态资源打在包外_springboot 引用的包会打到-程序员宅基地

文章浏览阅读1.1k次。1、外置配置文件springboot核心配置文件,Springboot读取核心配置文件(application.properties)的优先级为当前目录下的/config目录 当前目录 classpath里的/config目录 classpath 跟目录上面是springboot默认去拿自己的核心配置文件的优先级,还有一种最高优先级的方式是项目启动时通过命令的方式指定项目加载核心配..._springboot 引用的包会打到

【2021版】解决MySQL8.0.27安装问题——No compatible servers were found._no compatible servers were found. you'll need to c-程序员宅基地

文章浏览阅读9.2k次,点赞9次,收藏28次。问题描述在从官网下载mysql-installer-community-8.0.27.0.msi文件后,安装MySQL8.0.27时,遇到了这个界面点击Reconfigure,出现报错:No compatible servers were found.You’ll need to cancel this wizard and install one.或是提示requires the visual C++2019 redistributable package to be installed解决_no compatible servers were found. you'll need to cancel this wizard andinsta

【Linux上使用jeprof和jemalloc分析内存泄漏的方法】_jemalloc jeprof-程序员宅基地

文章浏览阅读332次。备注:参考:https://docs.tibco.com/pub/activematrix_businessworks/6.6.1/doc/html/GUID-231E1EFC-EA7C-4072-B0F4-0D92093D3161.html。_jemalloc jeprof

SSM框架分页查询_ssm分页查询-程序员宅基地

文章浏览阅读2.4k次,点赞2次,收藏18次。分页查询步骤:以查询用户为例:1.先查询出总记录数:准备好接口方法: int getAllSize();2.准备好SQL语句: <select id="getAllSize" resultType="int"> select count(*) from user; </select>service接口方法及实现类: int getAllSize();实现类: @Override public int getAllSize()_ssm分页查询

随便推点

U盘安装redhat4.7_redhat4.4.7的iso官方镜像-程序员宅基地

文章浏览阅读725次。前段时间给实验室安装新的服务器,为了稳妥,我选择了刻盘,下好了系统,买了光盘,无奈的是不知是我刻盘方式有问题还是下载的镜像有错了,刻了几张都失败了,虽然光盘才1、2块,但老是刻坏也不划算啊,于是寻找U盘安装方式,U盘现在已经很便宜了,我的一个8G toshiba才20多米。好了,下面开始正题。准备:1.redhat4.7的镜像.iso(一定要下靠谱的镜像,我后来发现上面刻盘安装都失败其_redhat4.4.7的iso官方镜像

信息产业浪潮中,京东IoT的技术演进与实践创新-程序员宅基地

文章浏览阅读798次。物联网正在改变着我们的世界。如今,在智能园区、智能城市、工厂,甚至街边的自动贩卖机中,处处可见物联网的踪迹。据前瞻产业研究院的物联网相关报告预测,全球物联网设备数量将在一年内(2020-..._京东iot设备接入

第八周项目4-字符串加密_strassign的头文件函数是-程序员宅基地

文章浏览阅读241次。2015,烟台大学计算机与控制工程学院 文件名称:第8周项目4-字符串加密 作 者:杨惠娟 完成日期:2015年10月30日 版 本 号:v1.0 问题描述:一个文本串可用事先编制好的字符映射表进行加密。例如,设字符映射表为: abcdefghijklmnopqrstuvwxyz _strassign的头文件函数是

SESAM(WADAM)计算模型文件-T2文件_wadam gnode-程序员宅基地

文章浏览阅读86次。该文件中按顺序使用的数据卡有:IDENT、DATE、GNODE、GCOORD、GELMNT1、GELREF1、GBARM、GBEAMG、TDSECT、MISOSEL、TDMATER、GUNIVEC、TDSETNAM、GSETMEMB、TDSCONC、SCONCEPT、SCONMESH、IEND;GSETMEMB为节点或单元形成的组的定义,其中的ISREF与TDSETNAM中的ISREF匹配,(注意:下图示例中GSETMEMB没有INDEX这个数据项)这两个组成合一组,每个质量棒有一个这样的组。_wadam gnode

Oracle-Listener log解读_oracle listener.log-程序员宅基地

文章浏览阅读2.2w次,点赞3次,收藏21次。Listener log 概述在ORACLE数据库中,如果不对监听日志文件(listener.log)进行截断,那么监听日志文件(listener.log)会变得越来越大.Listener log locationFor oracle 9i/10g在下面的目录下: $ORACLE_HOME/network/log/listener_$ORACLE_SID.logFor oracle 11g/12c_oracle listener.log

基于java中的springboot实现课程答疑系统演示【附项目源码+论文说明】-程序员宅基地

文章浏览阅读518次,点赞6次,收藏9次。同时,一个大型的计算机网站系统,必须有一个正确的设计指导思想,通过合理选择数据结构、网络结构、操作系统以及开发环境,构成一个完善的网络体系结构,才能充分发挥计算机信息管理的优势。管理员功能有,个人中心,学生管理,老师过来,科目类型管理,学生问题管理,老师回答管理,老师信息管理,关注列表管理,交流区,系统管理。