腾讯微信技术总监周颢：一亿用户增长背后的架构秘密(全文 PPT)

2020-02-27 154浏览

1.腾讯微信技术总监周颢：一亿用户增长背后的架构秘密 2012-05-15 07:56 来源：CSDN 专稿作者：付江 [CSDN.NET 专稿付江/文] 微信——腾讯战略级产品，创造移动互联网增速记录， 10 个月 5000 万手机用户，433 天之内完成用户数从零到一亿的增长过程，千万级用户同时在线，摇一摇每天次数过亿...在技术架构上，微信是如何做到的？日前，在腾讯大讲堂在中山大学校园宣讲活动上，腾讯广研助理总经理、微信技术总监周颢在两小时的演讲中揭开了微信背后的秘密。周颢，2001 年毕业于华南理工大学，计算机专业硕士。2005 年加入腾讯广州研发部，历任 QQ 邮箱架构师，广研技术总监，T4 技术专家，微信中心助理总经理。 (腾讯广研助理总经理、微信技术总监周颢 CSDN 配图) 周颢把微信的成功归结于腾讯式的“三位一体”策略：即产品精准、项目敏捷、技术支撑。微信的成功是在三个方面的结合比较好，能够超出绝大多数同行或对手，使得微信走到比较前的位置。所谓产品精准，通俗的讲就是在恰当的时机做了恰当的事，推出了重量级功能，在合适的时间以最符合大家需求的方式推出去。他认为在整个微信的成功中，产品精准占了很大一部分权重。敏捷是一种态度敏捷就是试错微信研发团队里鼓励一种试错的信仰：他们坚信，在互联网开发里，如果能够有一个团队在更短的时间内尝试了更多机会(并能改进过来)，就能有(更多的)机会胜出。敏捷是一种态度，在软件开发过程中，项目管理者都会非常忌讳“变更” 这个词，但是在微信的项目运作中是不可以的。因为微信必须要容忍说哪怕在发布前的十分钟，也要允许他变更。这是非常大的挑战，因为打破了所有传统项目开发的常识。所有人都说不可能做到的，但微信做到了。研发团队所做的一切都是要给产品决策者有最大的自由度，而这个决策正是微信能够胜出的关键。
2.海量系统上的敏捷无异于悬崖边的跳舞敏捷有很多困境，如果做一个单机版程序，是可以做到很敏捷的，但是腾讯正在运作的是一个海量系统，有千万级用户同时在线，在一个单独的功能上每天有百亿级的访问，同时还要保证 99.95%的可用性。在海量系统上应对项目开发会有很严谨的规范，都说要尽可能少的变化，因为 90%-95%的错误都是在变更中产生的，如果系统一直不变更会获得非常高的稳定度，但是微信就是要在悬崖边跳舞。微信的研发团队要做一些事情，让敏捷开发变得更简单。如何做到这一切？周颢认为，首先，必须建立起一种狂热的技术信念，就是一定是可以做到的。然后，需要用一些稳固的技术(理念)来支撑，例如大系统小做、让一切可扩展、必须有基础组件、轻松上线(灰度、灰度、再灰度；精细监控；迅速响应)...等等来支撑。四大法器：大系统小做、让一切可扩展、要有基础组件、轻松上线 • • • • 大系统小做：当设计庞大系统的时候，应该尽量分割成更小的颗粒，使得项目之间的影响是最小的。一切可扩展：在高稳定度、高性能的系统中间，为了稳定性能把它设计成不变化的系统，但为了支持敏捷需要让一切的东西都要变得可以扩展。必须建立基础组件：要解决复杂问题的时候，需要将已有的经验固化下来，固化下来的东西会成为系统中的一部分。轻松上线：当做了变化并把它从开发环境中部署到现有的运营环境中去，在这个过程中，“灰度”这个词非常关键，就是在黑和白之间的选择，必须要变成一种小规模尝试，再逐步扩展到海量过程中的一个问题。大系统小做——仅仅把模块变得更为清晰，这在海量系统设计开发中是不够的，还需要在物理环境上进行分离部署，出现问题的时候可以快速发现，并且在最快的情况下解决掉。大系统小做混搭模式
3.将不同的应用逻辑物理分割独立出来，用户注册登录、LBS 逻辑、摇一摇逻辑、漂流瓶逻辑、消息逻辑独立开来。把关键的逻辑混搭在一起，当所有的逻辑部署在同一个服务器上，确实也会带来很大敏捷上的好处，因为不需要额外的考虑部署和监控的问题。在整个微信的逻辑中，可能现在已经有上百种不同的逻辑，因为会在逻辑的分割上拆分成 8-10 种做分离部署。一切可扩展——网络协议可扩展、数据存储可扩展扩展的关键点有两块。一个是网络协议需要扩展，当要升级一个新功能的时候，会有一些比较大的困难，所以所有协议设计都比较向前兼容，但是向前兼容还是不够的，因为网络协议设计本身有非常多的功能也会有比较大的字段，相关的代码可能会有数千行，这一块不能通过手写方式完成。可以通过 XML 描述，再通过工具自动生成所有的代码，这是微信获得快速开发的一个重要的点。另外一块就是在数据存储方面是必须可扩展的。在 2005 年绝大多数海量系统的设计都是采用固定字段的存储，但是在现代系统中会意识到这个问题，会采用 KV 或者 TLV 的方式，微信也做了不同的设计。把复杂逻辑都固化下来，成为基础软件。在微信后台会有几种不同的基础组件。大致包括： • • • • Svrkit——Client/Server 自动代码生成框架:10 分钟搭建内部服务器 LogicServer——逻辑容器：随时添加新逻辑 OssAgent——监控/统计框架：所见即所得的监控报表存储组件——屏蔽容灾/扩容等复杂问题灰度、灰度、再灰度在变更后的部署方式上，微信在一些规则会限定不能一次把所有的逻辑变更上去，每一次变更一小点观察到每一个环节没有问题的时候，才能布局到全网上去。微信后台每一天可以支撑超过 20 个后台变更，在业界来说，通常做到 5 个已经是比较快了，但是微信可以做到快 4 倍。
4.腾讯内部的上线系统而所谓灰度发布，是指在黑与白之间，能够平滑过渡的一种发布方式。AB test 就是一种灰度发布方式，让一部用户继续用 A，一部分用户开始用 B，如果用户对 B 没有什么反对意见，那么逐步扩大范围，把所有用户都迁移到 B 上面来。灰度发布可以保证整体系统的稳定，在初始灰度的时候就可以发现、调整问题，以保证其影响度。(在腾讯，灰度发布是最常采用的发布方式之一) 孙子兵法：古之所谓善战者，胜于易胜者也常识上，解决一个复杂问题的时候，会用高明的技巧解决复杂的问题，这个不是微信团队的目标，他们追求的要做到让所有问题很自然和简单的方式解决掉。在周颢看来，微信架构的技术复杂点在四个要点：协议、容灾、轻重、监控。微信架构 • • • • 协议。手机终端跟后台服务器之间的交互协议，这个协议的设计是整个系统的骨架，在这一点做好设计可以使得系统的复杂度大大降低。容灾。当系统出现了若干服务器或若干支架(宕机的时候)，仍然需要让系统尽可能的提供正常的服务。轻重。如何在系统架构中分布功能，在哪一个点实现哪一个功能，代表系统中间的功能配置。监控。为系统提供一个智能仪表盘。在协议设计上，移动互联网和常规互联网有很大的区别。首先有 CMWAP 和 CMNET 的不同，在中国现在有相当多的手机用户使用 WMWAP 连接，还有就是在线和离线的概念，当 QQ 下线的时候叫离线，当你登录的时候叫在线。但是在移动互联网这两个概念比较模糊。从微信的设计中，不管在线还是离线系统表现都应该是一致的。还有一个是连接不稳定的问题，由于手机信号强弱的变化，当时信号很好，5
5.秒钟走到信号不好的地区，连接就必须断掉。这个中间带来不稳定的因素为协议设计带来较大困难。此外就是资费敏感的问题，因为移动互联网是按照流量计费的，这个计费会使得在协议设计中如何最小化传输的问题。最后就是高延迟的问题。对此，业界标准的解决方案：Messaging And Presence Protocol： 1)XMPP;2)SIP/SIMPLE。它的优点是简单，大量开源实现。而缺点同样明显：1)流量大：状态初始化；2)消息不可靠。微信在系统中做了特殊设计，叫 SYNC 协议，是参考 Activesyec 来实现的。特点首先是基于状态同步的协议，假定说收发消息本身是状态同步的过程，假定终端和服务器状态已经被迟了，在服务器端收到最新的消息，当客户端、终端向服务器对接的时候，收取消息的过程实际上可以简单的归纳为状态同步的过程，收消息以及收取你好友状态更新都是相同的。在这样的模式之下，我们会也许会把交互的模式统一化，只需要推送一个消息到达的通知就可以了，终端收到这个通知就来做消息的同步。在这样的简化模式之下，安卓和塞班都可以得到统一。这样的系统本身的实现是更为复杂的，但是获得很多额外的好处。让剩下系统实现的部分更加简单，简化了交互模式，状态同步可以通过状态同步的差值获得最小的数据变更，通过增量的传输得到最小的数据传输量。通过这样的协议设计，微信可以确保消息是稳定到达的，而且是按序到达。引用一句俗话：比它炫的没它简单，比它简单的没它快，没谁比他更快，哪怕在 GPRS 下，微信也能把进度条轻易推到底。追求完美设计的团队不能胜任海量服务在容灾之前面向最坏的思考，如果系统真的挂了，需要做一些事情，首先是防止雪崩，避免蝴蝶效应。如果关注春节订火车票就知道了，用户的请求量会因为系统服务不了而不断的重试，意味着发生雪崩的时候，系统可能会承载原先 3-10 倍的流量，使得所有的事情更加恶化。所以微信有很多“放雪”功能的设计。第二个词是柔性可用，在任何的系统中不要追求完美设计，追求完美设计的是团队是不能胜任海量服务的。如果在一个系统出现问题的时候，这个系统就挂了，那么这是一个不好的设计，最好的做法是提供 0-1 中间的选择。举一个例子，当一个用户向另外一个用户发消息的时候，可能会通过一个垃圾信息过滤的检测，如果垃圾信息过滤这个模块突然挂掉了，这个消息难道就不能达到了吗？在这样的情况下，要忽略掉这个错误，使得消息正常达到对方。要精确定位出哪一个环节是最为重要的，把不是重要的错误尽可能的忽略掉。当不能做到完美的时候，尽可能为用户提供服务。另外一个重要方面叫做“保护点前置”，最前的一个点就是终端，在手机终端上蕴埋更多的保护点，这样会为用户系统赢得更大的处理空间。如果终端具备这样的能力，会获得更大的反应空间。周颢介绍了在微信上具体容灾设计的做法。在所有的容灾中存储层的容灾是最难的，一个系统的设计分为三层：接入层、逻辑层、存储层。接入层和逻辑层的容灾都有比较成熟的方案。逻辑层的容灾相对来说比较简单，尽量不要有状态的设计，比如说当你做上一个请求的时候，会保持一些状态，要使得下一个请求发到下一个服务器。如果任何一个请求之间互相不关联的话，这个就是无状态的设计，只要做到这一点逻辑层的容灾可以随意的切换。在回到存储层本身的容灾设计上，
6.相对来说困难一些，但是微信研发团队采用了一些技巧，叫分而治之，分离业务场景，寻求简单的设计，并不会寻求大而同一的解决方案，因为这样会使得系统的复杂度大幅度上升，而微信会尽可能把产品拆细，寻求简化的设计。首先是主备容灾，这是最常见的方案。在有一些业务场景中是可以容忍最终一致性的，比如账号系统的设计，每天写入账号系统的请求是非常少的，但是访问的请求非常多，这个差异可能会达到数万倍的规模，在这样的场景下，微信会在账号系统中采用简化的方案，也可以获得比较大的稳定度。 SET 模型＋双写第二种容灾的模式叫双写，两台 Master 的机器，当一台机故障的时候，另外一台机还是可以接收到写请求，当两台机交错启动的时候，会得到数据的丢失。但是有一些场景是可以容忍轻度数据丢失的，比如说会有一个存储专门记录用户终端的类型，比如说安卓还是塞班以及他们使用终端的微信版本是什么，这样的数据是可以容忍轻度数据丢失的，因为偶尔有一些丢失的话，下一次访问会把这些数据带上来，会尽快的修复所有的数据。双写也是非常简单的模式。微信的研发团队做了一个叫 Simple Quorum 的机制，在微信的后台中，同步协议有一个很重要的基石叫序列发生器，这样的一个序列发生器需要有极高的稳定度。首先可以看到序列号有一个特点永远是递增的，用递增方式往前推进的时候，最大的序列号就是最新的系列号。有一个毕业才加入广研的毕业生想到一个绝佳的方案，按 SET 分布，从 2G 减到 200K。前轻后重功能点后移周颢还谈到了轻重的概念。这个概念的提出主要是从终端本身的一些困境所带来的。首先在终端上需要表现最多的一个产品的逻辑，逻辑非常复杂，变更的成本也非常高，当需要修复的时候必须发布一个新版本，这个新版必须由自己下载才能完成，下载的成本非常高。在这样的前提下，如果手机终端产生了任何变化的时候，如果这个变化有非常大的问题就会有极大的困境，所以需要在每一个发布之前做一些充分的数据，确保不会发生致命问题。如果一旦出现致命问题难以修复，需要把关键的点从终端移到后台实现，把功能点后移，来充分发挥后台快速变更的能力。
7.接入优化：从 GSLB 到 IP 重定向在接入层的优化，速度很重要的因素，是不是能够就近接入一个最优的节点，比如说移动用户最好接入移动的节点，海外的用户可能需要寻找更佳的路由，有的时候可能无法自动做到这一点，一点是在终端上做测速，微信会通过在后台 IP 逆向的能力，通过后台指挥微信终端联网的能力，寻找最优的接入点。上图就是每分钟收到同一项指令曲线的报表。如何解决“偷流量”的问题——当国内类微信类产品发布的时候出现一个大的问题就是“偷流量”，当用户在某一些逻辑下进行一个死循环，不断访问某一些数据，这样的死循环是非常可怕的，如果在用户不知觉的情况之下，可能会在一个小时之内偷到数 10 兆甚至数百兆的流量。有非常多业内的同行都需要花大量的精力解决这个问题，微信研发团队用了非常强大的方式解决它。通过在后台建立起严厉的监控系统，对每一个用户的行为做一个监控，当发现异常的时候，后台会给终端发出指令，使得微信终端在一段时间无法联网，但是可以保证用户流量不会白白的使用掉。功能适配的例子——第一期微信版本发布的时候，当时没有群聊的功能，第二版发布的时候做了这个功能。当时有两个选择，对于早期版本的用户，因为不支持群聊，就无法享用到这个功能，但是微信希望提供更好的选择，想让早期不支持群聊的版本，也可以被拉到一个群里面收消息、发消息，通过后台功能的适配也能做到这个事情。分而治之把监控嵌入基础框架对于一个海量系统来说，一个精密的仪表盘非常重要。监控是非常痛苦的，对于这样一个系统来说，每小时会产生数百 G 的监控日志。微信希望在 1 分钟之内监控的数据就能够显示在报表上，因为只有这样的精准和实时度才能够赢得处理故障的时间。微信会做关联统计，通过摇一摇加了好友，他们活跃度如何，过了一段时间他们的活跃度变化情况又是如何。这种需求是需要通过大量日志的关联统计来获得的。研发团队也花了一段时间来理解这个问题，发现了中间一个重要的经验叫做“鱼和熊掌不能兼得”。
8.为了让监控数值更敏感，需要把监控细化再细化，上面数据表示每一栏子系统的数据，下面这个是按微信版本号来划分的，这里的数据项是非常多。微信还需要采集一些异常的点，如果有异常的话会发布紧急的版本，尽可能快的替换它。对收发消息延时做的监控，比如说 0—1 秒端到端的速度，会对不同的区段做一些统计，当某一个环节出现异常的时候，通常会在中间的延时上体现出来。有一个很重要的点叫自动报警，现在有数千项的数据，不可能每一项都靠人工去看的，必须要跟自动报警相关联，微信有一些智能的算法，是不是在正常的范围内，跟历史的数值进行对比，如果有异常的话，会通过短信、邮件还有微信本身来发出报警信息。把监控嵌入基础框架微信会把监控嵌入到基础框架里面去，因为并不是每一个人都会意识到在需要的地方嵌入一个监控点，所以在基础框架本身内置很重要的监控点，比如说这个表上的栏目，非常多的栏目大概会有数百项的栏目，都不需要程序员自己去写，当用基础组件搭建一个系统的时候，就可以直接观测系统数据。在谈到微信未来的技术挑战时，周颢首先希望能够让微信成为可用性 99.99%的系统；设计出面向现在 10 倍容量的系统以及完全的 IDC 容灾。
9.网上盛传的凌晨两点，腾讯大厦那多层大片大片的灯光和楼下那长长的出租车队伍说明了一切。引用一句话做结尾，可怕的不是微信，真正可怕的是，比你领先比你更有天赋的团队比你更努力。特别鸣谢：腾讯大讲堂（djt.qq.com）对本篇报道的内容支持附录：腾讯微信技术总监周颢演讲 PPT
10.微信之道－至简广州研发部 harveyzhou 腾讯大讲堂http://djt.qq.com
11.关于我周颢（harveyzhou） 2001年毕业于华南理工大学，计算机专业硕士 2005年加入腾讯广州研发部历任QQ邮箱架构师，广研技术总监，T4技术专家，微信中心助理总经理腾讯大讲堂http://djt.qq.com
12.关于微信移动互联网的探索者 10个月5000万手机用户创造移动互联网用户增速的记录千万级在线苹果中国区AppStore月下载量第一摇一摇每天次数过亿腾讯战略级产品腾讯大讲堂http://djt.qq.com
13.微信的历程腾讯大讲堂http://djt.qq.com
14.微信的三位一体产品的精准项目的敏捷技术的支撑腾讯大讲堂http://djt.qq.com
15.产品的精准－用简单规则构造复杂世界张小龙，腾讯副总裁，广研灵魂人物从第二代程序员旗手，到领军者，到产品传奇人物从Foxmail，到QQ邮箱，到微信腾讯大讲堂http://djt.qq.com
16.微信的三位一体产品的精准项目的敏捷技术的支撑腾讯大讲堂http://djt.qq.com
17.什么是敏捷项目管理的技巧？Scrum？矿工？腾讯大讲堂http://djt.qq.com
18.项目的敏捷敏捷就是试错法敏捷是一种态度产品决策是成功的第一因素允许发布前十分钟的变更给予产品决策以最大自由度腾讯大讲堂http://djt.qq.com
19.敏捷的困境海量系统的复杂度千万级同时在线亿级摇一摇单集群百亿级服务请求 99.95%的可用性海量系统上的敏捷，无异于悬崖边的跳舞腾讯大讲堂http://djt.qq.com
20.让敏捷变得简单狂热的信念，You can do it ! 稳固的技术支撑大系统小做让一切可扩展要有基础组件轻松的上线灰度，灰度，再灰度精细的监控迅速的响应腾讯大讲堂http://djt.qq.com
21.大系统小做从代码分模块，到分离部署灵活的折衷：混搭模式（重要/复杂逻辑分离，其它混合部署）腾讯大讲堂http://djt.qq.com
22.让一切可扩展网络协议可扩展 XML描述向前兼容代码自动生成（ProtocolBuffer & TLV）数据存储可扩展 KV or TLV 字段配置表类SQL处理腾讯大讲堂http://djt.qq.com
23.要有基础组件 Svrkit：Client/Server自动代码生成框架 10分钟搭建内部服务器 LogicServer：逻辑容器随时添加新逻辑 OssAgent：监控/统计框架所见即所得的监控报表存储组件屏蔽容灾/扩容等复杂问题腾讯大讲堂http://djt.qq.com
24.灰度，灰度，再灰度腾讯大讲堂http://djt.qq.com
25.You can do it ! >20个后台变更/天腾讯大讲堂http://djt.qq.com
26.微信的三位一体产品的精准项目的敏捷技术的支撑腾讯大讲堂http://djt.qq.com
27.技术的支撑－剥离复杂，让剩下的更简单孙子兵法：古之所谓善战者，胜于易胜者也腾讯大讲堂http://djt.qq.com
28.微信架构腾讯大讲堂http://djt.qq.com
29.关注复杂点协议容灾轻重监控腾讯大讲堂http://djt.qq.com
30.移动互联网的复杂性 CMWAP vs. CMNET 在线 vs. 离线连接不稳定资费敏感高延迟腾讯大讲堂http://djt.qq.com
31.业界标准方案 Messaging And Presence Protocol XMPP SIP/SIMPLE 优点：简单，大量开源实现缺点流量大：状态初始化消息不可靠把简单留给自己，把复杂留给别人？腾讯大讲堂http://djt.qq.com
32.SYNC协议参考ActiveSync 状态同步：Sync by SyncKey 模式简化：Notify & Client Pull 实现更复杂，但 … 腾讯大讲堂http://djt.qq.com
33.让剩下的更简单简化交互模式最小增量传输最优重传控制 More important：消息可靠传输 & 按序到达和菜头 @ 2011/11/26 比它炫的没它简单，比它简单的没它快，没有谁比它更快，哪怕在GPRS下，微信也能把进度条轻易推到底。腾讯大讲堂http://djt.qq.com
34.关注复杂点协议容灾轻重监控腾讯大讲堂http://djt.qq.com
35.在容灾之前－面向最坏的思考如果真的挂了 … … 防止雪崩，避免蝴蝶效应把防雪崩内置到组件柔性可用，追求不完美只求完美的团队，不能胜任海量服务。 0/1完美 = 60分保护点前置，赢得处理空间终端配合的容灾腾讯大讲堂http://djt.qq.com
36.存储层容灾－分而治之与接入层/逻辑层对比接入层：GSLB, LVS, IP redirect, Client Retry 逻辑层：无状态设计存储层容灾是海量系统最复杂的设计分而治之分离业务场景，寻求简单设计腾讯大讲堂http://djt.qq.com
37.主备实现简单局限容忍最终一致性故障时不可写 Example 帐号系统腾讯大讲堂http://djt.qq.com
38.双写实现简单故障时可写局限容忍轻度数据丢失 Example 用户终端类型记录腾讯大讲堂http://djt.qq.com
39.SET模型＋双写实现简单（注：SET1写入不成功时，切换到SET2写入）完全一致的备份副本局限只支持追加写需要外部索引简化版Google FS Example 语音/图片存储腾讯大讲堂http://djt.qq.com
40.Quorum 分布式理论 CAP理论 Paxos Leslie Lamport Chubby，ZooKeeper Quorum：Amazon Dynamo R+W>N Vector Clock：解决冲突 Merkle Tree：节点恢复腾讯大讲堂http://djt.qq.com
41.Simple Quorum 实现SYNC协议的序列发生器极高稳定度要求避免Vector Clock：递增的序列号避免Merkle Tree：全量加载一位毕业生的创意：按SET分布，全量数据从2G减到200K 腾讯大讲堂http://djt.qq.com
42.关注复杂点协议容灾轻重监控腾讯大讲堂http://djt.qq.com
43.终端的迷思复杂的逻辑高昂的变更致命的风险前轻后重功能点后移，发挥后台快速变更的优势腾讯大讲堂http://djt.qq.com
44.接入优化：从GSLB到IP重定向腾讯大讲堂http://djt.qq.com
45.“偷流量”防御：屏蔽流量异常的终端腾讯大讲堂http://djt.qq.com
46.后台适配群聊的例子二维码扫描的例子腾讯大讲堂http://djt.qq.com
47.关注复杂点协议容灾轻重监控腾讯大讲堂http://djt.qq.com
48.监控的痛苦海量的日志：数百G/小时实时的图表：1分钟灵活的需求：复杂的关联统计鱼与熊掌不可兼得也腾讯大讲堂http://djt.qq.com
49.分而治之监控 != 统计监控反映系统运行状态关联实时报警可靠性与业务系统等同统计反馈业务指标非实时（数小时~一天）灵活变化 90%以上数据项属于监控。需要专用监控系统腾讯大讲堂http://djt.qq.com
50.监控监控系统极致的简单 AttrAPI：单一数值取样接口，易于添加，所见即所得数千监控项统计系统极致的灵活 OssLog：日志汇总接口大日志量，数百统计项 Hadoop 在故障可被用户感知前排除它腾讯大讲堂http://djt.qq.com
51.春晚时段监控曲线腾讯大讲堂http://djt.qq.com
52.LBS地图腾讯大讲堂http://djt.qq.com
53.让监控更灵敏－捕捉异常腾讯大讲堂http://djt.qq.com
54.让监控更灵敏－分段监控腾讯大讲堂http://djt.qq.com
55.让监控更灵敏－灰度的利器Example:Android Crash Report 腾讯大讲堂http://djt.qq.com
56.让监控更准确－监控点前移腾讯大讲堂http://djt.qq.com
57.自动报警腾讯大讲堂http://djt.qq.com
58.把监控嵌入基础框架腾讯大讲堂http://djt.qq.com
59.总结三位一体产品的精准项目的敏捷技术的支撑剥离复杂，让剩下的更简单协议容灾轻重监控一些原则大系统小做面向最坏的思考，柔性可用分而治之腾讯大讲堂http://djt.qq.com
60.最后，让剩下的更简单摇一摇 & 漂流瓶，一周完成 3个月30个内部发布每天20个后台变更 99.95%的可用性腾讯大讲堂http://djt.qq.com
61.未来的技术挑战 99.99% 面向10倍的架构提升完全的IDC容灾腾讯大讲堂http://djt.qq.com
62.技术的追求其疾如风，其徐如林，侵掠如火，不动如山腾讯大讲堂http://djt.qq.com
63.Q&A 腾讯大讲堂http://djt.qq.com