商汤科技 陈宇恒 - 《未来都市--智慧城市与基于深度学习的机器视觉》

2020-02-27 557浏览

  • 1.未来都市 - 智慧城市与基于深度学习的 机器视觉 演讲者／陈宇恒
  • 2.
  • 3.
  • 4.概要 • 我们是谁 • 智慧城市中机器视觉应用 • 我们是如何构建城市级AI+智慧城市系统 • 大规模深度学习实战系统的几点经验
  • 5.l商汤科技联合创始人，架构师 lC++/Go/Rust/Ruby开发者 l多个开源项目贡献者 lNIPS国际会议论文作者 @chyh1990
  • 6.软银孙正义收购Google旗下的 机器人公司Boston Dynamics 和Schaft 软银孙正义设立1000亿美元人 工智能基金，320亿美元收购芯 片架构公司ARM 通用 10亿美元 收购无人驾驶技 术初创公司Cruise Automation 首次中国公司在ImageNet竞赛 夺冠，视频分析技术登顶 人脸识别大幅提高精度，商汤科 技首次突破人类肉眼识别准确率 ，领先于Facebook Google5000万美元招入 Hinton，发布基于深度学习的 搜索引擎 Microsoft 深度学习驱动的语音 识别大幅提升精度 2017.6 2016.7 2016.3 2015.11 2014.6 2013.3 2011年中 2017.3 2016.8 2016.3 2014.11 2013.12 2012.12 Intel 153亿美元收购无人驾驶 技术公司 Mobileye 赢得ImageNet 5项主要比赛中 的3项世界冠军 DeepMind AlphaGo 围棋AI击 败李世石 Google 6.6亿美元收购深度学 习公司 DeepMind Facebook 建立人工智能实验室 并聘用 Yann LeCun 深度学习鼻祖 Hinton 赢得 ImageNet图像识别竞赛
  • 7.公司简介 20年 科研经验 历史业绩 累计融资 全球最大 800余位 技术研发人员 150余位 人工智能博士 唯一 深度学习 平台公司 核心技术 全球领先 商业营收 市占率 行业第一 400余家 大型客户伙伴 共同发展 领先技术 AI+金融 AI+智慧城市 AI+智能手机 AI+芯片 AI+无人驾驶 AI+医疗图像
  • 8.AI+智慧城市：以智能安防场景为例 特征向量
  • 9.AI+智慧城市 2015-2017 l 单机、简易分布式人脸检测、跟踪、比对平台 l 处理数十路到数百路监控摄像头数据 l 千万级别深度学习特征检索 l 行业试水 2018-2019 l 云原生Cloud-Native超大规模视图存储、处理、检 索 l 处理数万到数十万路，城市范围级别监控、门禁摄 像头数据 l10-100 Billion级别深度学习特征检索 - PB以上级别数据库存储 - 100PB级别抓拍图片存储 - 每秒万次并发检索请求 l 大规模推广应用 l 某种程度上说，城市内所有市民都是系统的用户
  • 10.深度学习算法发展为平台系统赋能 首次超过人眼 98.52% 人眼 97.45% 97.35% 2014 DeepID时代 DeepID3 99.55% DeepID2 99.15% 30万张人脸训练 6位密码时代 1/100万 错误概率 95% 通过率 6000万张人脸训练 2015 2016 8位密码时代 1/1亿 错误概率 97% 通过率 20亿张人脸， 2亿个体训练 2017 What’s Next? 2018
  • 11.自我演化的异构人工智能云
  • 12.云原生的深度学习数据闭环 场景相关业务 深度学习 应用服务 高度定制的 图片、特征仓库 自进化深度学习系统 模型测试与验证 数据清洗-查询 深度学习训练平台
  • 13.深度学习算法在产品应用中的挑战 • 深度学习算法也需要“深度”学习业务需求 - 处理特殊输入，如模糊、黑白照片 - 适配具有不同特征的数据源 - 在严肃应用中，客户追求100%准确率，算法性能提升永无止境 *示意图来自互联网 • 深度学习模型需要在准确率和速度上做均衡 - 使用更加精巧的模型和Operator设计 - 使用模型压缩算法，在基本保障准确率的情况下大幅提升速度 - 利用最新的硬件特性，如GPU TensorCore/int8
  • 14.Kubernetes在异构系统调度中的挑战 1.6 nvidia/gpu custom scheduler 1.8 local-volume 1.9 volume-awared scheduling 1.10 CPU manager Device plugin • Kubernetes版本发布快，新特性更新频繁，对异构调度的支持不断加强；但配套设施落后（e.g. Spark on K8s, GitlabCI) • 容器系统调用栈深，需要仔细验证操作系统，内核及异构设备驱动的兼容性 • Kubernetes对NUMA、异构计算、存储设备的调度能力待加强
  • 15.Go语言在高性能系统中的实践经验 • 为什么用Go - 比起C++，更易于实践各种并发模式 - 比起Java，更加简洁，更易于与C/C++交互 - 比起脚本语言，类型和内存安全，保证重构效率与产品质量 - 完善的配套工具，如go test, gofmt, go lint, race-detector
  • 16.
  • 17.Go语言在高性能系统中的实践经验 • Go在开发高性能应用上也有一些不足， 对比C++： - 无法直接控制操作系统线程，CUDA 调用需要特殊处理 - 部分标准库实现依赖reflect，性能较 差 - GC的带来的开销，如在Go Heap上 构建百万以上级别的对象缓存，需要 仔细优化 百倍慢于等价的C实现！
  • 18.回顾 • 智慧城市中，在智能安防领域机器视觉有着爆发式应用 • 我们使用基于深度学习的机器视觉技术，构建了超大规模的自我演化 的分布式智能系统 • 在构建这个规模的系统中，我们广泛使用了Kubernetes、Go等流行技 术，“那些年踩过的坑”
  • 19.
  • 20.
  • 21.
  • 22.
  • 23.