刘道儒——微博混合云架构实践

2020-02-27 864浏览

1.微博混合云架构实践刘道儒@Weibo 2016.05
2.自我介绍 - 刘道儒，微博 @liudaoru - Feed项目组技术负责人，研发总监，自2011年起至今负责微博 Feed系统的后端工程研发 - 擅长大规模分布式系统的构架和高可用保障 - 主导过微博混合云、微博多机房部署等项目 - 目前主要关注个性化Feed、混合云、策略效果评估等技术方向
3.o 微博面临的挑战 o Docker与公有云 o 混合云架构 o 微博春晚峰值应对 o 混合云展望
4.2015年6月1日李晨娱乐事件微博某业务请求量曲线图
5.微博面临的新挑战 “谁来抬我下飞机” “世界那么大，我想去看看” - 弹性需求不断扩大 - 娱乐综艺等热点事件频繁出现 - Push日常化使极端峰值流量普遍化 - 春晚业务请求量全面飙升 “重要的事情说三遍” “蓝色还是黑色” “duang” “我们” “青岛大虾” “主要看气质” “地铁哺乳风波” “优衣库”事件
6.微博面临的新挑战 - 原有体系架构弊病愈加明显 - 服务器采购扩容以月为单位 - 机架等资源紧缺，无法满足业务大规模扩容需求 - 春晚应对服务器需提前1~2月准备，浪费巨大 - 热点事件爆发时无法短时间快速扩容申请评审设备采购入CMDB 装机上架初始化服务部署报修下架
7.- 更轻量级的虚拟化，快速部署 - Docker解决业务发布差异化问题 - 2015年Docker体系开始成熟 - 小时级数千台服务器的支撑能力 - VPC技术将公有云与内网融合 - 2015年国内公有云趋于成熟
8.- 阿里云按小时部署成本为新浪内网3X - 常备服务器成本基本相同新浪内网与阿里云成本对比-月成本按小时租单小时成本（元）包月租单小时成本（元）新浪内网（12核16G）阿里云（4核8G+8核8G）
9.- 国外Airbnb、Yelp等使用AWS进行部署 - 高德、快的已在阿里云部署 - 小米借助AWS解决秒杀峰值流量问题 - 12306借助阿里云解决饱受诟病的春节余票查询峰值问题
10.微博内网私有云专线/VPC 阿里云公有云 - 微博内网与阿里云通过专线联通 - VPC使阿里云服务器可以当内网服务器使用 - 将阿里云作为微博新的数据中心，多IDC部署 - 借助Docker和运维自动化改造实现弹性扩缩容 - 阿里云可直接提供对外服务（需备案）
11.业红包飞务方用户 MAPI 通讯广告 Feed 调发布管理 Docker 调度策略度层容器监控调度监控服务池管理容量评估物共享池管理成本核算 ECS管理 SLB 管理理层四七层解决方案专线保障公有云流量管理审批流程基软件安装工程框架安全保障账户体系础框架监控体系 DNS管理配置管理阿里云 Yum/日志平台架构 Docker Register Docker 镜像市场 OS升级自动化 Docker 工具体系
12.基础设施服务发现 Nginx Motan SLB 镜像中心 Docker Registry 监控中心容量评估 …… Java PHP JPool Web RPC … 扩缩容服务池管理 Hadoop 上线发布回滚降级 Docker Deamon Roam Swarm Mesos 创建主机 Pluto 成本中心初始化私有云电信专线联通专线公有云编排调度主机
13.
14.新架构技术挑战 - 阿里云服务器如何进行配置管理 - Docker镜像如何进行调度 - Docker镜像如何进行快速分发 - 七层服务发现如何处理，Reload与Upsync-Module - 在线容量评估与动态扩缩容
15.微博春晚峰值应对 1400 台 50% 流量 0 降级 2 小时整点开始操作【日常】100台服务器初始化流程，总时间14分钟 3min 10台基础设施ECS创建 1min Ansible初始化 3min 阿里云建100机器 2min Registry初始化 3min 预热镜像【日常】每多100台多3分钟 3min 阿里云初始化 3min 阿里云建100机器 3min 拉镜像操作 3min 阿里云初始化 3min 容器启动、七层变更 3min 拉镜像操作
16.日常峰值应对与突发峰值应对 - 日常峰值21点部署服务，0点前完成缩容 - 在线容量评估系统每周进行容量评估 - 实时流量分析，对突发峰值进行快速扩容
17.混合云展望 - 跨语言解决方案，支持PHP体系 - 内网私有云在线业务私有云化 - 与实时计算类服务动态调度 - 与离线计算类服务动态调度 - 数据中心操作系统！
18.#微博混合云架构#专栏系列 - 概述篇 - 弹性调度揭秘 - 不可变基础设施 - 镜像分发实战
19.