集大咖之作,由运维圈的明星人物、拥有15年运维经验的肖力领衔策划,首次将国内来自腾讯、*、YY、盛大游戏、UC、西山居、猎豹移动的14位资深运维大咖聚集在了一起,有针对性地挖掘了他们多年来在各种工作中积累的独到经验和*实践。得到了七牛云创始人许世伟、盛大游戏G云总负责人陈桂新等多位业界专家的好评和推荐。集大成之作,精选了运维领域重要的6大主题:运维运维与虚拟化14个重要的知识点。所有的知识点既有理论指导,又有方法论的提炼;既有来自这些专家们共事过的企业的商业案例,又有针对企业常见问题的解决方案。
14位来自腾讯、*、YY、盛大游戏、UC、西山居、猎豹移动的资深运维分享他们在自动化运维、系统运维、云与虚拟化、Web运维、游戏运维、数据库运维技巧总结,七牛云联合出品
Preface?前 言为什么要写这本书《运维前线:一线运维专家的运维方法、技巧与实践》(以下简称《运维前线》)是前线系列的一个子集,前线系列图书的出版理念是邀请多位业界专家,总结所在行业的最新理念或深度实践经验。前线系列图书不同于市面上的很多图书,这类书并不系统,有的只是一线专家的实战经验,人们常称之为干货。一篇文章、一家公司、一个案例、一个场景,独立成篇,在满足碎片化阅读的同时,也能让读者进行横向比较和深入思考。本系列图书不强调大而全,追求的是每篇文章都是精品,希望能给读者带来深度的启发和收获。 按照这个理念,之前著名产品经理兰军(笔名Blues)策划的《产品前线》,出版之后大获成功,随之而来的《运维前线》令我感觉到压力巨大。《运维前线》的出版犹如十月怀胎,中间充满波折,好几次我都以为要半途而废了,最后终于得以出版,在此要特别感谢机械工业出版社华章公司著名出版人杨福川,是他的坚持和鼓励让我总能在迷茫中看到希望。我和福川有共同的理念,希望把《运维前线》做成精品,如果有哪点不符合要求,那么我们宁愿耗时长一些,多打磨打磨,很庆幸能与福川一起合作。 本书共有14位作者,包含了在腾讯、YY语音、UC、京东、盛大游戏、金山西山居、猎豹移动、广发银行、优维科技等多家公司工作的实践经验,基本覆盖了互联网和传统行业运维的各个领域,估计这是迄今为止第一本由这么多资深运维专家联合写成的图书,也是第一本分享了众多一线运维专家亲身实践的图书。本书的出版也充分体现了互联网开放合作的精神。 看到本书的目录时,我激动不已,即使书中的内容我已经看了好多遍,但是在回顾目录的时候,我依然感到这是一本非常有吸引力的书,是一本每名运维工程师都应该案头常备的书! 本书特色当前IT领域的概念层出不穷,云计算、物联网、移动互联网、大数据、人工智能、VR,所有的这一切都基于IT系统,IT系统正在向规模更大、更复杂、更高级的方向演进,一切IT资源都掌握在运维手里,通过运维来操作。这个时代对运维的要求越来越高,运维如果稍有不慎,就会造成重大的损失,所以随着IT系统的发展,运维的重要性也越来越高。 根据量子力学理论,世界由基本粒子组成,因此世界是不连续的,这个理论在运维知识体系的建立上同样适用。仔细回想一下自己运维体系的建立,就是逐个攻克和掌握知识点,再进一步通过实践不断加深的过程。《运维前线》也是这样,其中的每一篇文章都能够协助读者更快地掌握一个或多个知识点,相信通过运维前线系列的逐步出版,最终能够覆盖更多的运维知识点,为读者带来更多的实践经验和理念。 作为运维前线系列的第一本书,本书覆盖了运维自动化、系统运维、云及虚拟化、Web运维、游戏运维、DBA运维等6个方面14个知识点,都是各位作者总结自己多年实践经验的干货,每一篇文章都很精彩,都值得读者仔细品味。 本书作者本书第1章自动化运维之深度解码,来自订阅号互联网运维杂谈的作者、优维科技创始人王津银,人称老王。我在多个场合听过老王的分享,有40分钟的,也有长达3个小时的,令我惊讶的是,老王每次总能带来新的东西。这篇自动化运维之深度解码也是如此,凝结了老王许多最新的见解,值得深读。 胥峰是我在盛大游戏的前同事,从胥峰身上我学到了不少知识,比如解决问题的思路和方法,有时候碰到运维难题,也许换一个角度就能迎刃而解。 刘宇、尹会生、陈立军是我多年的同事。刘宇、会生已经出版了多本运维图书,他们都是非常资深的运维专家。刘宇无论演讲还是文章都逻辑清晰,丝丝入扣。会生和立军分享的都是我亲眼所见的、在工作中碰到的难题及解决方法。 张观石是欢聚时代(YY)互娱事业部业务运维负责人,有多年的将PHP运用到日常运维中的经验。观石将PHP用到了极致,即使不懂PHP,也可以通过本书一窥观石在运维方面的丰富经验。 马亮有多年的游戏运维经验,目前在腾讯云专注做游戏云的架构设计,对游戏运维有深刻的理解。 本书的作者还有冉宏元(老男孩)、余洪春(抚琴煮酒)、吴传玉、彭华盛、蒋迪、赵旻、赵海军。虽然我与他们未曾谋面,但是彼此都是熟悉的网友,他们的文章我都曾仔细拜读并多次请教过,其中的运维思想让我深深折服,非常期待能有机会向他们当面请教。 读者对象本书面向所有的运维工程师,无论是资深运维,还是刚入行的运维,相信都能从本书中获益。本书的读者对象包括如下几类: 系统运维工程师安全工程师数据库运维工程师业务运维工程师网络运维工程师运维系统开发工程师及架构师云计算/虚拟化运维工程师其他对运维感兴趣的读者勘误和支持由于作者的水平有限,编写时间比较仓促,书中难免会出现一些错误或不准确的地方,恳请读者批评指正。如果您有更多宝贵的意见,欢迎关注我的订阅号云技术实践,然后在后台将您的宝贵意见发送给我。本书的勘误也会通过订阅号进行发布,关注订阅号请扫描下面的二维码: 运维前线是一个系列,欢迎在平时工作中积累了实战经验的广大运维工程师继续参与运维前线的写作,带来更多的干货分享! 期待能够得到你们的真挚反馈,在运维之路上互勉共进。 致谢从开始构思到《运维前线》的出版,本书的创作过程犹如十月怀胎,期间也获得了无数的支持与肯定。借此机会,向所有为此奉献力量的人表示深深的感谢。 感谢参与本书写作的14位行业专家,他们在百忙之中伏案写作,将自己的经验共享给广大读者。能够和你们合作,我深感荣幸,经过将近一年时间的沟通和交流,你们的专业和执着深深地打动了我,同时也让我学到了不少东西。 感谢机械工业出版社华章公司的首席策划杨福川,编辑高婧雅、孙海亮。在近一年的时间中,你们的敬业精神不断地鼓舞着我前进,你们的鼓励、帮助和坚持引导了本书的完成。 这里,我还要特别感谢七牛云。七牛云是我见过的最具技术气质的云服务企业,肩负帮助开发者缩短从想法到产品的距离的使命,立志打造以数据为核心的场景化PaaS服务。七牛云主张技术共享并热衷于技术的传播,发起架构师实践日,推出各类创业扶持计划,这些都是七牛云正在做的事。 特别致谢本书在成书过程中,得到了一批热心志愿者的协助,他们是陈家豪、曹学朋、邓荣兴、刘海文、李斯朗、韩海林,尤其刘海文做了大量的义务工作,在此特别感谢! 肖 力志愿者的话能在力哥组织的这本书中担任助理,我感到非常荣幸。本书出自一群经验老到并乐于分享的运维前辈之手,是一本案头必备的好书。 刘海文
2014 6 DevOps Puppet10X8610Linux 10Leader IT IDC
Contents?目 录推荐序前 言第1章 自动化运维之深度解码 11.1 概述 11.2 运维自动化的三重境界 31.3 运维自动化的困境和价值 41.3.1 运维自动化的困境 41.3.2 运维自动化的价值 41.4 运维自动化的多维解读 51.4.1 基于应用变更场景的维度划分 51.4.2 基于系统层次的维度划分 81.4.3基于与业务程序耦合紧密程度的维度划分 81.4.4 面向服务的自动化能力划分 91.5 运维自动化的方法论 111.6 运维自动化系统的实现 121.6.1 DNS管理系统 121.6.2 CMDB管理系统 131.6.3 名字服务中心系统 131.6.4 持续部署管理系统 141.6.5 运维调度管理系统 151.7 运维自动化系统的API参考实现 161.8 运维自动化依赖的团队模型 171.8.1 团队的能力模型 171.8.2 团队的驱动模型 181.8.3 团队的技能模型 181.8.4 参考的运维团队组织结构 191.9 小结 19第2章利用Facter和Django快速构建CMDB 202.1 CMDB简介 212.2 开源CMDB介绍 212.2.1 OneCMDB介绍 212.2.2 CMDBuild介绍 222.2.3 其他的开源CMDB 232.3 Puppet及Facter介绍 242.3.1 什么是Puppet 242.3.2 为什么是Puppet 252.3.3 什么是Facter 252.3.4 Facter的特点 252.3.5 Facter变量 262.4 如何利用Python获取Facts 272.4.1 工作原理 272.4.2 利用Python脚本获取Facts 272.5使用Django快速构建CMDB系统 282.5.1 Django介绍 282.5.2 Django安装 292.5.3 Django常用命令 302.5.4 Django的配置 302.6 高级进阶 442.6.1 历史查询功能 442.6.2 API功能 452.6.3 数据表结构 482.6.4 用户管理功能 502.6.5 用户组管理功能 512.7 小结 53第3章数据中心搬迁中的x86自动化运维 543.1 数据中心搬迁准备 543.1.1 数据中心搬迁介绍 543.1.2 搬迁环境介绍 553.1.3 搬迁前的准备工作 563.1.4 搬迁信息收集 563.2利用VMware脚本简化虚拟化层的搬迁 583.2.1通过脚本完成ESXI安装后的基础设置 583.2.2 批量挂载数据盘 633.2.3 批量注册虚拟机 673.2.4 vCenter目录结构的调整 683.2.5批量更改虚拟机名称及port group 693.2.6批量设置虚拟机版本和CPU、内存保留值 703.3利用批处理与Shell脚本简化逻辑节点的搬迁 713.3.1 逻辑节点切换脚本的思路 713.3.2利用批处理脚本简化Windows逻辑节点的搬迁 723.3.3利用Shell脚本简化Linux逻辑节点的搬迁 783.3.4通过SFTP和WMIC指令将脚本文件上传至所有虚拟机 863.3.5 搬迁期间的注意事项 873.4 小结 87第4章集中配置管理工具Puppet 884.1如何同步puppet-agent端上的常用服务 894.2如何在puppet-agent端上自动安装常用的软件包 904.3如何自动同步puppet-agent端的yum源 904.4如何根据不同名字的节点机器推送不同的文件 924.5如何根据节点机器名来选择性地执行Shell程序 954.6如何快速同步puppet-server端的www目录文件 974.7如何利用ERB模板自动配置Apache虚拟主机 1024.8如何利用ERB模板自动配置Nginx虚拟主机 1054.9 小结 110第5章深度实践iptables 1115.1 禁用连接追踪 1115.1.1 排查连接追踪导致的故障 1115.1.2 分析连接追踪的原理 1135.1.3 禁用连接追踪的方法 1145.1.4 确认禁用连接追踪的效果 1175.2 慎重禁用ICMP协议 1175.2.1禁用ICMP协议导致的一则故障案例 1175.2.2 MTU发现的原理 1195.2.3 解决问题的方法 1215.3 网络地址转换在实践中的案例 1215.3.1 源地址NAT 1215.3.2 目的地址NAT 1225.4深入理解iptables的各种表和各种链 1235.5 小结 125第6章使用systemd管理Linux系统服务 1266.1 systemd和sysVinit之间的关系 1266.1.1 sysVinit方式下系统的启动特点 1276.1.2 systemd方式下系统的启动特点 1276.2 systemd的原理和启动顺序 1286.2.1 sysVinit的启动顺序 1286.2.2 systemd的启动顺序 1306.3 systemd的进程控制命令 1356.3.1 systemctl命令 1366.3.2 hostnamectl命令 1366.3.3 localectl命令 1376.3.4 loginctl命令 1376.3.5 timedatectl命令 1386.4 systemd服务管理 1386.4.1编写Nginx的sysVinit启动脚本 1386.4.2编写Nginx的systemd启动脚本 1406.4.3 systemd的其他功能 1426.5 优化 1466.5.1使用systemd-analyze优化启动时间 1466.5.2 使用systemd journal功能 1486.6 小结 148第7章PHP运维实践 1497.1 PHP再认识 1507.1.1 PHP进程的工作方式 1507.1.2 PHP代码的编译和部署 1517.1.3 PHP内部实现和生命周期 1517.1.4 PHP在互联网技术栈的位置 1527.2PHP开发、架构、运维问题及解决思路 1537.2.1 运维对PHP研发提要求 1537.2.2运维参与PHP项目架构设计 1547.2.3PHP运维常见问题及解决之道 1567.3 PHP进程部署和配置、代码发布 1577.3.1 PHP进程的部署 1577.3.2 PHP配置文件变更 1617.3.3 PHP配置项 1627.3.4PHP进程部署及配置文件管理实践 1647.3.5 PHP代码发布 1657.3.6PHP代码发布实践:代码发布系统 1677.4 PHP性能分析 1707.4.1 性能问题概述 1707.4.2 PHP性能问题 1717.4.3 性能分析方法 1727.4.4PHP性能分析实践:性能分析系统 1817.5 PHP故障处理与监控 1827.5.1 PHP故障分类及处理思路 1837.5.2 业务监控和故障发现 1847.5.3 PHP故障消除的方法 1867.5.4 故障分析案例 1877.6 小结 189第8章应用系统运行分析 1908.1 分析模型 1918.1.1 数据采集 1918.1.2 数据模型 1948.2 运行分析平台建设 1998.2.1 数据采集接口 1998.2.2 数据分析模块 2008.2.3 推广 2008.3 呼叫中心系统运行分析示例 2018.3.1 确定分析方案 2018.3.2 问题分析案例介绍 2028.4 小结 203第9章虚拟化中存储配置典型场景:启动风暴 2049.1 oVirt虚拟化平台配置介绍 2059.1.1 存储配置背景知识 2059.1.2 模板与实例同一存储 2069.1.3 模板与实例分离存储 2079.1.4无状态实例的硬盘与快照分离存储 2079.2 启动风暴相关系列实验 2089.2.1 模板配置 2089.2.2 实验脚本 2089.2.3WD 1TB机械硬盘启动Windows XP实验 2109.2.4Intel 480GB SSD启动WindowsXP实验 2129.2.5 实验结论 2149.3私有云中处理启动风暴的常用方法 2149.3.1 启动排队 2149.3.2 存储分层选择 2159.3.3其他提升桌面云存储性能的方式 2179.4 小结 219第10章私有云桌面网络组建 22010.1 桌面云常用网络 22010.1.1 NAT网络 22010.1.2 桥接网络 22310.1.3 VLAN网络 22610.1.4 Access模式 22610.1.5 Trunk模式 22910.1.6 Open vSwitch 23110.2 oVirt/OpenStack的桌面网络应用 23210.2.1 oVirt/OpenStack组网方式 23210.2.2 应用场景举例 23710.3 小结 239第11章浅谈服务器交付的那些事儿 24011.1 设备签收的学问 24011.2 服务器设置 24111.3 Cobbler的流程与规划 24411.4 服务器安装时遇到的各种坑 24711.4.1DHCP客户端获取IP地址失败 24711.4.2 TFTP加载失败 24811.4.3 TFTP Client交互后 无响应 24811.4.4 yum安装失败 24911.4.5Linux内核无法识别新硬件 25011.4.6恶意PXE启动导致原有系统被误装 25011.5 交接后的故事 25011.6 小结 252第12章企业级Nginx Web服务优化实战 25412.1 Nginx基本安全优化 25412.1.1调整参数隐藏Nginx软件版本号信息 25412.1.2 更改源码隐藏Nginx软件名及版本号 25612.1.3更改Nginx服务的默认用户 25912.2 根据参数优化Nginx服务性能 26012.2.1优化Nginx服务的worker进程个数 26012.2.2优化绑定不同的Nginx进程到不同的CPU上 26212.2.3 Nginx事件处理模型优化 26512.2.4调整Nginx单个进程允许的客户端最大连接数 26612.2.5配置Nginx worker进程的最大打开文件数 26712.2.6优化服务器域名的散列表大小 26712.2.7 开启高效文件传输模式 26912.2.8优化Nginx连接参数,调整连接超时时间 26912.2.9上传文件大小的限制(动态应用) 27212.2.10 FastCGI相关参数调优(配合PHP引擎动态服务) 27312.2.11 配置Nginx gzip压缩实现性能优化 27712.2.12 配置Nginx expires缓存实现性能优化 27912.3 Nginx日志相关的优化与安全 28312.3.1编写脚本实现Nginx access日志轮询 28312.3.2不记录不需要的访问日志 28412.3.3 访问日志的权限设置 28412.4Nginx站点目录及文件URL访问控制 28412.4.1根据扩展名限制程序和文件访问 28412.4.2禁止访问指定目录下的所有文件和目录 28512.4.3 限制网站来源IP访问 28612.4.4配置Nginx,禁止非法域名解析访问企业网站 28712.5Nginx图片及目录防盗链解决方案 28812.6 Nginx错误页面的优雅显示 29512.6.1生产环境中常见的HTTP状态码列表 29512.6.2为什么要配置错误页面优雅显示 29512.7Nginx站点目录文件及目录权限优化 29812.8 Nginx防爬虫优化 30012.9利用Nginx限制HTTP的请求方法 30212.10 使用CDN做网站内容加速 30212.10.1 什么是CDN 30212.10.2 CDN的特点 30312.10.3 企业使用CDN的基本 要求 30412.11 Nginx程序架构优化 30412.12 使用普通用户启动Nginx(监牢模式) 30512.12.1 为什么要让Nginx服务使用普通用户 30512.12.2 给Nginx服务降权的解决方案 30512.12.3 给Nginx服务降权实战 30612.13 控制Nginx并发连接数量 30812.14 控制客户端请求Nginx的速率 31212.15 小结 314第13章 游戏运维的思考 31513.1 游戏运维最关键的几件事 31513.1.1 安全 31513.1.2 稳定 31813.1.3 高效 32213.1.4 成本节约 32313.2 游戏运维人的发展 3251