乌镇刷脸游、新零售卖场抓小偷、帮故宫睡衣维权……这些看起来风马牛不相及的事件背后,却都有阿里安全图灵实验室安全AI技术能力的身影。

在阿里近日首提“安全AI”技术概念后,旋即引发行业讨论——如何看待安全场景的新一代AI?在应用场景中AI如何不断进化、带来哪些改变?

  1月16日,阿里巴巴在京举行的“安全AI护航数字经济”沟通会上,阿里安全图灵实验室多名技术专家集体亮相,系统阐释了内容安全、新零售安全、知识产权保护等领域的实践案例,并详细讲解安全AI应用的技术逻辑。

  “举个例子,人都是可以进化的,在安全领域,面对高对抗性、高变化、小样本等特质,我们觉得可以培养或者进化出一种新的AI能力,就是安全AI,”阿里安全研究员陆全表示。

面对阿里巴巴经济体这样一个庞大、复杂的生态环境,以及黑灰产利用AI等攻击手段,让AI具有灵活性、自适应性、实现智能攻防就尤为重要,安全AI理念的提出也是阿里安全不同于其他安全团队的技术特质。

  安全AI智能攻防等多场景落地

阿里安全提出这一理念的底气缘于他们长久以来为业务解决安全问题的实践经验。2018年双11,阿里安全拦截了超过16亿次的恶意攻击,就是通过其安全AI的智能攻防技术。

  阿里安全资深技术专家铁花表示,安全AI首先会分析是什么样的行为,其次会通过深度学习正常人的购买路径和交易请求,“通过黑样本和白样本的筛选,当于是我给你建了档,你从这个地方来的时候,你必须得符合这些要求,我才让你过,所以安全AI能够催生下一代的AI智能攻防。”

近期故宫睡衣遭侵权的事件引来高度关注,而在淘宝原创保护机制下迅速成功维权,安全AI功不可没。与此同时,在知识产权保护领域,安全AI的应用也在不断增强。

  “阿里安全已经建立了一套基于内容的大规模检索系统,应用在logo识别、盗图检索、视频指纹、商家原创保护等领域,”阿里安全图灵实验室高级算法专家华棠表示,安全AI应用可有效抵抗转码、加噪、裁剪等多种干扰,与此同时,GPU配合大规模分布式计算,使得十亿规模的图像检索系统,可在几秒内返回结果,并使百亿量级的图像检索成为可能。

  安全AI提供未来安全的解决方案

活动现场,阿里安全图灵实验室的专家们也对未来网络安全的趋势进行预判,内容安全和新零售安全的需求无疑将不断增长。

2018年,从内涵段子、暴走漫画等被关停的风波,到多家视频、新闻平台被约谈,内容安全的重要性已经不言而喻,但却鲜有高效、精准的解决方案。

  “以色情低俗内容为例,很多人认为通过‘信息+开源模型‘就能简单粗暴去做过滤,但实际上从我们实践的经验来看,AI算法与业务需求之前存在很大的鸿沟。”阿里安全图灵实验室高级算法专家威视认为原因包涵:正常样本与违规样本的比例极度不均衡,图像、音频等面临高度的对抗性,以及不断增加的新风险深度学习可参考的样本几乎没有。

“针对上述原因,安全AI已有面向未来的解决方案,比如对抗训练、多任务网络、AI专用芯片、设计适合在低质量和小样本情况下学习的结构或模块等。”威视表示。

而作为商业操作系统的新零售业务,为用户提供了更自由、更放松的购物环境,但也可能出现偷盗、商品损坏等多种风险,对安全技术提出更高的要求。

  阿里安全图灵实验室高级算法专家觉奥表示,安全AI技术在新零售的多家门店进行落地后,其预警小偷的准确率接近100%,抓捕率达到90%,“其中就是通过技术能力,我们归类了18项高风险人物特征,运用深度学习技术实现视频信息结构化,结合算法和规则计算风险概率,根据中期长期记忆增强识别能力,对风险行为进行识别。”

觉奥认为,随着安全AI技术能力的进步,未来算法需要实现从解决单点到透视全局,从模拟人工到超越人工的进化。