元凯 WebNN API 将硬件加速的深度学习带入开放式 Web 平台
2020-03-01 387浏览
- 1.WebNN API - 将硬件加速的深度 学习带入开放式 Web 平台 元凯宁 Intel 软件技术经理 kaining.yuan@intel.com
- 2.自我介绍
- 3.自我介绍
- 4.自我介绍 Intel 亚太研发有限公司 Web Platform Engineering Team 软件技术经理。参与 Intel 开源的 Crosswalk、 RealSense 等项目，目前带领的团队负责 PWA 以及 Web Machine Learning 等方向。
- 5.目录 * 其他名称和品牌可能是第三方的财产。 o o o o o 前端 JavaScript* ML 的演进与问题 WebNN API 的提案与实现 WebNN API 的代码及示例 WebNN API 的性能对比 W3C 社区组的进展及合作
- 6.前端 JavaScript* ML 的演进 安全增强 图像分类 目标检测 语义分割 面部识别 娱乐与媒体 游戏/电子竞技 用户 场景 特征检测 超分辨率 手写识别 图像捕捉 智能监控 社交与合作 生产率 前端 框架 * 其他名称和品牌可能是第三方的财产。 情感分析 姿态识别 风格迁移 语音分析 Tensorflow*.js Onnx*.js Brain*.js OpenCV.js … 更多
- 7.前端 JavaScript* ML 的优势 延迟 成本 访问本地资源的浏览器内推理。 客户端计算意味着不需要服务器端算力支持。 可用性 共享 初始资源缓存并离线后，不再依赖网络。 在浏览器中运行 ML，而无需任何额外的安装， 并易于共享。 隐私 跨平台 敏感数据本地访问。 可以轻松开发在几乎所有平台上运行的 AI 应 用。 * 其他名称和品牌可能是第三方的财产。
- 8.前端 JavaScript* ML 框架的挑战与努力 性能 设备中的机器学习推理需要高性能的数值计算能力。 将 C++ 编译为高效的字节码，以便在浏览器 中进行解释和执行。 * 其他名称和品牌可能是第三方的财产。 重新调整图形 API 用于并行计算。
- 9.前端 JavaScript* ML 框架 基于 AI 的 Web 应用 新兴的基于 AI 的 Web 应用 和 JavaScript* 框架 Web 应用 浏览器 驱动 硬件 * 其他名称和品牌可能是第三方的财产。 OpenCV.js ONNX*.js WebAssembly WebGL* WebGPU CPU GPU TensorFlow*.js Brain*.js
- 10.性能: JavaScript* ML 框架的主要问题 ResNet50 推理时间 (越小越好) 6573 5000 2559 2355 1707 1622 2031 551 500 24x 294 3.9x 95 74 50 Cloud Vision* 云 * 其他名称和品牌可能是第三方的财产。 Keras*.js (JS) WebDNN* (WASM) OpenCV.js (WASM) CoreML* (CPU) Keras*.js (WebGL) Deeplearn*.j s (WebGL) CPU MacBook Pro (13-inch), SkyLake Core i5 2.9GHz, HD 550, macOS 10.14.4 ResNet50, trained by ImageNet, inference, batch size 1, warm up 1, iteration 10 Deeplearn*.j s (WebGL2) GPU WebDNN* (WebGPU/ Metal) CoreML* (GPU)
- 11.前端 JavaScript* ML 框架与原生优化的隔绝 基于 AI 的 Web 应用 新兴的基于 AI 的Web 应用 和 JavaScript* 框架 Web 应用 浏览器 AI Lib 驱动 硬件 * 其他名称和品牌可能是第三方的财产。 OpenCV.js ONNX*.js WebAssembly WebGL* WebGPU AI Lib CPU Brain*.js TensorFlow*.js 缺乏原生软件 及硬件优化的桥梁 ? AI Lib GPU NPU VPU FPGA ASIC 新兴 AI 加速器
- 12.WebNNAPI:'>API:
