Qcon北京2018 《AI大数据时代电商攻防：AI对抗AI》 苏志刚

2020-03-01 54浏览

  • 1.AI大数据时代电商攻防：AI对抗AI 苏志刚, Ph.D. Head of JD Security Research Center JD.COM JD.com
  • 2.JD.com 2
  • 3.JD.com 3
  • 4.AlphaGo:战胜世界冠军Source:David Silver JD.com
  • 5.深度学习的广泛应用 pcmag.com JD.com theverge.com
  • 6.攻击的规模和复杂性都在增加 JD.com
  • 7.账号安全: AI Empowered APP 安 全 SDK 设备指纹 JD.com 生物探针 注册和 登陆环 节的人 机识别 异常检 测 行为分析 黑产情报 订单风 控 业务验 证和反 馈
  • 8.欺诈行为 • 机注 • 刷单 • 黄牛 • 代购和刷券 • 恶意订单 • 虚假评论 JD.com
  • 9.黄牛行为 攻：爬虫 QQ群传递消息 黑产软件登录 打码平台图像识别 守：反爬虫 NLP黑产活动监控 黑产软件逆向 高对抗性样本 JD.com 地址聚类
  • 10.电商与黄牛的对抗 自然语言理解（NLP）／距离聚类 ／密度聚类 提前预警／实时拦截 黑产监控／信息采集 效果反馈／样本标注 JD.com
  • 11.黄牛手机订单拦截 JD.com
  • 12.机注 • 成熟的工具：火牛和刀锋 • 黑灰产供应链 – SIM卡 – 解码平台 – 短信验证服务 – 身份证 • 检查特征 JD.com – 机器行为 – 虚假信息
  • 13.账号销售 • 账号分类销售 • 销售平台 JD.com – 友商零售平台 – 社区 IM (QQ，微信) – 批发网站
  • 14.刷单 • 利用虚假订单来提高第三方商家排名 • 刷单成本: 账号, 代购和物流. • 组织行为 – 代购仿照普通用户行为 – 多个账号下单，但公用有限的支付账号。类似的 收货地址 – JD.com 部分使用虚假快递追踪编号
  • 15.恶意订单 • 第三方厂商之间的恶意竞争：破坏对手的促销活动 – 打击第三方对手的库存量 – DDOS 正常用户 – 浪费物流资源 • 特征 JD.com – 针对某个商家和产品 – 货到付款
  • 16.机注是万恶之源 • 批量机注账号 • 检查机注 – 黑产情报：深挖黑产工具和策略 – 无监督学习 – 有监督学习 • 挑战: 低误判率 JD.com
  • 17.打击机注 Device Info User Behavior Geography Frequency 设备分析 无监督学习 行为分析 JD.com
  • 18.人机识别 • 京东有丰富的人机识别场景 机注 机器下单 爬虫 • 使用键盘和鼠标的行为作为人机识别特征 POPQUIZ:人工人机识别 JD.com
  • 19.人机识别 JD.com
  • 20.图片验证码对抗 AI的对抗与反制 黑产打码平台 模型提取： 使用尽可能少的查询去学习近似模型 使用对抗样本Adversarial example： 修改输入去击垮机器学习 熊猫 JD.com 长臂猿
  • 21.京东智慧物流系统安全 无人仓 安全挑战多源于恶意攻击(例如Mirai蠕虫攻击) 总结安全挑战类型可分为如下两类： 设备安全：AGV自主路径规划 系统安全：单一设备错误造成系统紊 乱 无人机 人身安全：降落环境识别 设备安全：自主避让 人工智能安全 针对于AI系统本身的攻击和 相关安全性问题 数据安全：GPS劫持 人体识别 空中交通关系 自主规划路径 数据传输劫持 无人车 设备安全：车辆劫持 货物安全：被盗 伪造客户（骗过人脸识别） 数据安全：数据传输劫持 人身安全：道路识别 系统级别安全 人体识别 无人超市 资产安全：伪造货物 伪造用户（骗过人脸识别） 设备终端 云端 通讯协议 JD.com 隐私安全：用户数据 订单数据 人脸数据
  • 22.AI安全问题的后果 l 无人车：被攻击者控制，变为工具， 造成货物丢失； l 无人车：无法正常识别路况，撞击 其他人或正常行驶的交通工具； l 无人机：自主规划路线违背规则， 出现安全隐患； l 无人仓：AGV协作出现问题，彼此 碰撞损毁；损失财产和延误货物运 l 无人机：被攻击者控制，变为工具， 造成货物丢失或者更大危害； l 无人仓：AGV出现故意扰乱其他 AGV行走的状况，扰乱仓库秩序； l 无人超市：出现货物被盗窃或者支 户数据被盗取训练； 产生攻击者想要的结果 购物品，并形成关联，造成财务损 失； 中级 不能按照既定功能运行 初级 JD.com 模毁坏性攻击； l 消耗本系统所有资源，并导致其他 系统瘫痪； 被潜伏和利用作为肉鸡网络 付费用被转嫁其他购物者情形；用 送； l 无人超市：无法正确识别购物人所 l 在特定时刻实现对其他系统的大规 高级
  • 23.AI 系统安全 京东信息安全部 AI系统级别 软件级别 要防御缓存溢出／接入控制等 等攻击方式对软件系统攻击 JD.com 要在对抗样本下，进行learning系 统的测试 从架构和方法两个层面来保证 learning系统的安全性 分布式级别 每个agent做局部最优决 策，如何达到全局最优
  • 24.总结 • 京东安全有广泛的AI应用场景 • AI应用高效运作的唯一途径 • 电商和黑产之间持续的高对抗性攻防 JD.com
  • 25.JD.com Page_25
  • 26.JD.com Page_26
  • 27.JD.com Page_27
  • 28.JD.com Page_28