微表情读心术全集 全球黑客大会DEFCON 京东安全首秀 “AI读心术”

2019-02-05 - 读心术

日前,由GeekPwn(极棒)联合谷歌大脑Alexey Kurakin、Ian Goodfellow 以及美国加州大学伯克利分校计算机系教授宋晓冬共同发起的全球首个聚焦AI安全的CAAD对抗样本攻防赛登录全球顶级黑客大会DEFCON。

来自京东安全的 JD-Omega战队,与来自微软、谷歌、腾讯、清华大学等国际知名的高水平战队团队会师拉斯维加斯,在CAAD CTF和CAAD Village展开技术切磋。

微表情读心术全集

京东安全硅谷研发中心研究员郭文博在DEFCON CAAD Village上分享了全球首创的、可适用于不同深度学习网络结构的AI解析技术,该技术可应用于自动化黑产对抗。并介绍了AI解析技术在京东打击黑产上的具体应用。

缘起:深度学习的“杀手”

微表情读心术全集

随着深度学习技术的崛起,AI似乎已成为无所不能的代名词。但事实并非如此,AI也会犯错。

研究者发现:通过向真实样本中添加人眼不可见的噪声,就会导致深度学习模型发生预测错误,把原本是雪山的图片误认为是狗。

微表情读心术全集

而在“生成式对抗网络”的发明者 Ian Goodfellow近期发表的一篇关于恶意样本的论文中,这一“欺骗性效应”进一步升级,不光是欺骗机器,连人类也被欺骗了。

如上图所示,机器模型和人类都会判断左侧是猫,而右侧是狗,即使我们仔细观察可能也会得出相同的结论。而事实上右侧图像只是左侧图像一个简单地对抗扰动。

微表情读心术全集

别小看了这个“对抗性扰动”,这便是有深度学习“杀手”之称的对抗样本,肉眼看上去虽是同一个目标,但在深度学习分类器上便会把它分到错误的类别上。试想:如果这是一辆行驶中的自动驾驶汽车,那么别有用心的人随时都能制造一起车祸。

以上的一切,似乎都在告诉我们,AI并不那么可靠,而事实果真如此吗?

破局:从解释深度学习开始

事实上,对抗样本看似强大,但并非无法解决,只要调整深度学习的判断机制便可以了。但是,现实情况往往是程序只会给你一个结果,并不会向你解释判断过程,即便你想调整也无从下手。这时理解深度学习便显得尤为重要。

在CAAD village上,郭文博介绍,正是基于此,京东安全开创了一套AI解释系统,可以对深度学习模型的决定进行分析,并找到它做出判断的依据。这就好比它不光告诉你图片中是香蕉,还会告诉你因为它是黄的、弯的,掰开皮有白色的果肉,周围的环境还是热带丛林,所以我判定它是香蕉。

如此一来,除了可以得到深度学习模型的判断结果,工程师还能得到它做出判断的原因,如果发现判断逻辑有误,便能立马进行修复,从而实现重新训练深度学习模型的目的,使模型更安全。

据了解,在京东,这种修复功能也实现了自动化。因此,即便AI犯错了也会快速完成调整,确保让黑产无懈可击。

对抗:在博弈中不断精进

据了解,JD-Omega由京东安全团队的科研人员组成。团队成员的背景涵盖了计算机软件安全以及人工智能。在过去的几年里,该团队成员在世界顶级安全会议CCS,USENIX Security, IEEE S&P, blackhat USA/Europe, DEFCON 先后发表过10余篇科研论文。

除此之外,该队成员也是世界顶级AI会议的常客。他们的科研成果曾被美国纽约时报、麻省理工技术杂志、新科学家杂志等广泛报道。

京东首席信息安全专家Tony Lee称,此次京东安全JD-Omega战队参与CAAD对抗样本攻防赛的根本目的是与世界级顶尖黑客同台切磋,分享京东安全最新研究成果的同时也希望能在比拼中获得更多蓝军视角的经验,在实战中不断提升。

在京东安全看来,互联网战场上从来没有绝对的安全,有的只是攻方和守方的反复博弈。防御方想要获得真正的安全,唯有在博弈中不断精进,始终保持技术领先,比攻击方快人一步。用Tony Lee的话说,“我们要永远战斗在最激烈的战场”。

相关阅读
微表情读心术微表情读心术 学微表情读心术 90%人不知道这三大关键点

相信很多人听说过微表情心理学,也有很多人对这一门科学有些浓厚的兴趣,也查询过相关的资料也有着自己的见解,但是不知你是否形成了一个自己的判定体系了,是否能够准确的判定出表情的意思了.相对于微表情这一门科学,我目前的所学就只像大海中的一条小河,我的观点,思考过程,结论都有着很多的局限性与不足,但是我希望我能进步。

读心术大全集读心术大全集 钟汉良《快乐大本营》大秀读心术最懂女人心

节目中,钟汉良尽显成熟好男人的风范,大秀读心术,完美答对诸位女主编的心声问题。同时又透露出呆萌本色,在找镜头环节里和镜头“零同步”,引得现场观众欢笑不断,气氛十分热烈。钟汉良高超舞技难掩呆萌本色在“找呀找呀找镜头”环节中,几位舞蹈达人老师的示范让钟汉良赞叹不已。正在筹备“乐作人生”巡回演唱会的他也不甘示弱。

读心术教学读心术教学 418苏宁推秘密武器 智能客服Sunny学会“读心术”

近日,苏宁物流在南京试点社区无人快递车,这也是国内首个与电梯进行信息交互送货上门的无人车。除了智能送货,在苏宁易购418电器购物节期间,苏宁服务团队也对智能客服系统进行全面升级,推出最懂顾客心的“Sunny”客服机器人。据了解,苏宁结合消费者一站式体验服务需求,依托智慧零售积淀的大数据支持,开发出“Sunny”客服机器人。

神奇读心术神奇读心术 赛车手强烈推荐:这是一款会“读心术”的减压神器!

8月21日,荣耀手机携手奥迪RS系列运动车,联合发起了“Turbo加速,让快更快”荣耀10GTamp;奥迪RS系列极速挑战赛,现场香车美女十分热闹,还邀请到了两位人气虎牙主播,为我们带来了一场速度与激情的王者荣耀比赛直播。一个是“比快更快”的荣耀10GT、一个是奥迪极速跑车,唯一的共同点是两者都有“Turbo”涡轮增压技术。

读心术入门读心术入门 苹果自动驾驶新技术:除了开车 还会读心术

虽然苹果早已经放弃了自己做汽车的想法,但是他们仍然在研发自动驾驶技术,并且已经有不少自动驾驶测试车在加州上路了。而今天又有一项专利显示,苹果似乎并不只打算让汽车自己开起来而已,他们还想让它更聪明一些,比如你回家的路上说想喝咖啡了,车或许就自动开到咖啡馆了,就像把Siri和自动驾驶汽车结合起来了一样。

推荐阅读
读心术教你看穿一个人读心术教你看穿一个人 读心术:教你如何看出一个人在撒谎?
fbi教你读心术fbi教你读心术 荣耀Magic2 YOYO读心术新技能曝光 首款智商手机来袭
大洋洲国家杯大洋洲国家杯 大洋洲沙滩足球国家杯 进军世界杯的新起点
核糖体的作用【核糖体的作用】蛋白与RNA的瞬时互作引导新生核糖体RNA折叠
学打羽毛球基本手法学打羽毛球基本手法 学打羽毛球
梅艳芳金曲梅艳芳金曲 梅艳芳为什么恨他母亲 母子二人之间关系如何
三山五岳猜一动物三山五岳猜一动物 三山五岳中的三山是指哪三座山