华为单彤-华为基础架构

2020-02-27 104浏览

  • 1.华为服务器在SSD领域 的实践历程和展望 华为技术有限公司 单彤
  • 2.什么引发数据中心全面转向闪存化? 2020 所有生产业务运行 在Flash存储上 云 大数据 移动互联网 物联网 不可预期的业务高峰 2015 企业HDD市 场开始下滑 日益增多的报表实时分析 需持续提升的客户体验 HDD SSD 2017 SSD市场份 额超越HDDSource:IT Brand Pulse, 2015 2
  • 3.华为端到端闪存解决方案 10 μs TB 100 μs 500 μs 5 ms 服务器闪存 全闪存阵列 混合阵列 应用加速器 替代传统硬盘,解决IO瓶颈,加速业务性能 ES3000 V3 x10 TB 关键业务数据库加速 领先业界的性能,持续稳定的低时延 SSD和系统的深度融合 OceanStor Dorado V3 x100 TB 企业核心业务加速 融合闪存架构,闪存全面优化 让企业核心业务高效稳定运行 OceanStor V3 PB 3
  • 4.>10年闪存产品研发历程  NVMeSSD:ES3000 V3 第三代PCIe SSD 卡: ES2000 V3 第二代PCIe SSD卡: ES2000 V2 业界首款PCIe SSD卡: ES2000 第五代PCIe SSD 卡: ES3000 V2 PCIe SSD卡: ES3000 3.2GB/s带宽 76万IOPS 华为ASIC芯片 3.2GB/s带宽 80万IOPS 投入闪存 技术研发 20万IOPS 华为闪存技术发展 2005 4 2007 2009 2011 2012 2014 2016
  • 5.ES3000引领SSD走向NVMe时代 NVMe SSD盘 • 支持热插拔 • 更高性能 ES3000 V3 NVMe闪存风暴 • 华为SSD控制芯片和算法技术 • PCIe 3.0接口,NVMe 1.2标准 • U.2盘(2.5寸),800GB~3.2TB容量 • 高达3.2GB/s带宽、80万IOPS性能 SATA SSD盘 • 支持热插拔 • 高性能 PCIe SSD卡 • 更高性能 • 不支持热插拔 1块NVMe SSD 替代 4块SATA SSD 3,200 GB 总容量 3,200 GB 800,000 22 W IOPS 最大功耗 336,000 45 W 同等容量 性能翻倍 节能40% 5
  • 6.Storagereview.com评测结果 Huawei Memblaze ES3600 V3 PBlaze4 3.2TB 3.2TB Intel P3700 2TB Samsung XS1715 1.6TB Toshiba PX04P 3.2TB Huawei Memblaze ES3600 V3 PBlaze4 3.2TB 3.2TB Intel P3700 2TB Samsung XS1715 1.6TB Toshiba PX04P 3.2TB 评测报告:http://www.storagereview.com/huawei_es3600_v3_nvme_ssd_review_256
  • 7.Atomic Write,优化MySQL与SSD的配合应用 Buffer pool Page (16K) ①② Double write buffer HDD Data file (*.ibd) 为了防止Partial page write问题: ① Page先写到DWB ② 然后写到数据文件 Buffer pool Page(16K) ① Data file (*.ibd) NVMe SSD 外存储有atomic write特性: ① Page直接写到数据文 件 • Atomic write特性可以 减少SSD的写损耗、减少 每个事务的写操作时间 • 使用Atomic write特 性,在不同条件下 MySQL的TPMC提升7% 以上,SSD使用寿命延长 40%以上 7
  • 8.Multi-NameSpace,挖掘NVMe SSD的潜力 NVMe SSD 容量 性能(业界均值) • NVMe针对存储系统整合、 2016 2017 2018 主流产品最大容量为 3.2TB 大部分厂家的路标产 品最大容量6.4~8TB 大部分厂家的路标产 品最大容量16~32TB 600K read IOPS, 100K write IOPS 750K read IOPS, 150K write IOPS NA 多路径等特性提出 NameSpace • NameSpace可以配置不同容 量、不同的数据格式、不同 的访问模式,更进一步,可 •容量越来越大 •性能(IOPS、QoS)逐步提升 应用调研显示: 以跟App适配,配置不同的 读写性能 • ES3000 V3产品是业界第一  大部分App通常会给SSD下发<16QD的负载,远未发挥 出SSD的并发能力  中小客户在单盘部署的数据量大部分<2.4T 个支持多个NameSpace能力 的NVMe SSD产品 8
  • 9.SR-IOV,优化SSD在虚拟化中的应用 Guest OS APP NVMe Guest OS APP NVMe Guest OS APP NVMe Guest OS APP NVMe VMM PF PCIe VF EP VF RR / WRR NVMe Controller VF NAND FLASH ARRAY • 允许多个虚拟机高效共享PCIe设备 • 与CPU的VT-x、VT-d等虚拟化技术配 合,虚拟机可以获得能够与物理机性能媲 美的I/O 性能 • ES3000 V3产品支持1个PF和15个VF • SR-IOV特性可以对单VM内的IOPS提升 约40%的性能: 单VM读IOPS(K) 250 200 150 100 50 0 软件模拟 SR-IOV 单VM读IOPS 9
  • 10.全NVMe闪存服务器,大幅提升业务性能 全NVMe服务器 华为RH2288H V3 12 / 24 盘NVMe SSD 业务性能加速 OLTP 数据库 每秒处理事务TPS 10倍 分布式存储 数据读写IOPS性能 5倍 Cloud / VDI 虚拟机部署密度 2倍 数据搜索 / 大数据分析 每秒数据查询性能 6倍 10
  • 11.NVMe 未来展望(接口IP化,功能智能化) 性能或特性 NKoF 简单块设备 双控/有限共享 ALL-IP 灵活资源池化 块+对象存储 功能智能化 NKoF NVMe oF NVMe • NVMe SSD共享资源池和可编排服务器 • 全共享后端高效存储系统 • 性能与容量解耦、按需扩展存储系统 • 计算靠近数据,分布式并行搜索和分 析,大幅度减少数据搬迁 块/文件/对象/智能分析接口 控制器 控制器 分析节点 PCIe-SSD SATA SAS Time NKoF over RoCE Fabric *NKoF:NVMe & Key-Value Store over Fabric with Analytics extension IP化&智能化基本存储单元 搜索/分析功能下移, 并行操作 11
  • 12.NVMe Over Fabric存储资源池的逻辑架构图 计算节点1 计算节点2 计算节点N NVMe NVMe DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK • 可以像本地存储一样使用 • 通过NVMe提供低时延 • Fabric带来的时延相比磁盘来 讲可以忽略 • 可以实现灵活的计算、存储资 源配比 12 NVMe Over Fabric 40GE/100GE RoCE 存储节点1 NVMe DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK 存储节点N NVMe DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK DISK 云数据中心痛点: 业务的需求复杂性和多变性使固定配比的计 算和存储的套餐产生资源浪费,或性能不足 直接部署NVMe oF场景: • 提高业务性能的Cache或buffer • 快速分析类业务的主存访问
  • 13.各种块设备存储的协议栈对比 本地存储 NVMe盘卡 SAS盘/SSD 私有存储 扩展存储 SAS JBOD NVMe oF 既有共享存储 的特性,又有 私有存储的低 时延 共享存储,可扩展性好 FC SAN IP SAN 云存储 NVMe SAS盘/SAS SSD SAS 扩展 RDMA fabric SAS盘/SAS SSD NVMe PCIe SSD SAS盘/SAS SSD 40GE RoCE 性能验证: SAS盘实测结果 4k 单IO随机读的情况下,NoF比本地时延增加1% 4k 多IO随机读的情况下,NoF比本地时延相比几乎没 有差别 NVMe盘实测结果 4k 单IO随机读的情况下,NoF比本地时延增加9%, 绝对时延增加10us左右 4k 多IO随机读的情况下,NoF比本地时延相比几乎没 有差别 13 FC fabri c NVMe PCIe SSD SAS盘/SAS SSD IP fabri c NVMe PCIe SSD SAS盘/SAS SSD IP fabri c NVMe PCIe SSD SAS盘/SAS SSD
  • 14.Thank You Copyright©2015 Huawei Technologies Co., Ltd. All Rights Reserved. The information in this document may contain predictive statements including, without limitation, statements regarding the future financial and operating results, future product portfolio, new technology, etc. There are a number of factors that could cause actual results and developments to differ materially from those expressed or implied in the predictive statements. Therefore, such information is provided for reference purpose only and constitutes neither an offer nor an acceptance. Huawei may change the information at any time without notice.