【猎云网北京】9月24日报道
“360AI安全实验室已经发现多款移动APP人脸识别设备存在模型数据和人脸数据泄露的风险。这些模型本应是企业非常重要的资产，却被轻易的破解，可见人工智能系统本身存在很严重的安全问题。” 三六零(股票代码：601360.SH，以下简称“360”)集团副总裁、人工智能研究院院长邓亚峰对于人工智能发展面临的安全挑战直言不讳。
9月16日，第四届全球人工智能产品与应用博览会（AIExpo2021）——新一代人工智能开放创新平台高峰论坛召开，邓亚峰发表主题演讲，并被大会主办方评为中国人工智能年度十大风云人物。
本次大会由新一代人工智能产业技术创新战略联盟、苏州市人工智能协同创新中心联合主办。360作为唯一一家网络安全企业，360安全大脑入选科技部“国家新一代人工智能开放创新平台”项目，参与搭建国家级AI开放平台。大会当天，包括华为、百度、商汤、小米、科大讯飞等多家入选企业参会，演讲内容围绕各自负责的人工智能重点细分领域平台建设情况展开。
AI发展造成潜在安全风险 中国AI安全领域亟需补强
当前，已经成为数字化时代的核心驱动力，技术成熟度越来越高，在图像识别、语音识别、游戏、医疗影像识别等众多场景中甚至开始超越人类的表现。但是，随之而来的风险也不可避免的产生，AI算法和系统自身存在的安全隐患，会引入新的安全威胁，涉及到国防、经济、民生的人工智能设施和系统一旦遭到攻击，甚至会威胁到国防安全、企业安全、个人安全，造成重大的损失与恶劣的影响。
作为中立性的技术，人工智能具有硬币的两面性，正面推动了创新发展，背面则在被黑客利用，用于自动化网络攻击，加剧了日益严峻的网络安全威胁。现有的检测、识别、响应、保护技术，严重落后于智能化发展过程中的需求，难以应对有组织的，具有政府背景的网军的袭击。为此，全球范围内的网络安全公司利用人工智能技术，为安全攻防寻求新的武器。目前，人工智能技术在漏洞挖掘、恶意代码检测、恶意流量监测等方面已经得到了广泛的应用。
Research And Markets报告显示，2030年网络安全中人工智能产值将突破千亿美元，在2020至2030十年间将达到25.7%的年复合增长率，市场潜力巨大。然而，我国的人工智能安全领域的发展却严重不足，主要表现在三个方面：一是安全评价体系不完善；二是人工智能安全应用存在较大差距；三是人工智能安全创新意识和环境相对滞后，在CB Insights评选的全球100家最具前景的人工智能创业公司中，人工智能安全公司24家，占比靠前，却无一家中国公司上榜。
全面开放安全能力 360七方面构建人工智能安全生态
基于此，360所承担建设的安全大脑人工智能开放创新平台对于中国人工智能安全领域的发展，具有重要的生态建设意义。据邓亚峰介绍，安全大脑开放创新平台建设主要包括七部分内容，分别是多源异构安全大数据融合与治理、AI赋能安全、AI自身安全、开放与共享、开源社区与APP STORE、安全大数据攻防竞赛与科研项目。
360正在AI基础安全方面发力，努力建造AI安全的基石，只有根基稳固，才能保障上层应用的安全性。“AI的框架本身有很多的安全问题，但是行业里对这方面的关注是比较少”，邓亚峰表示。目前，360AI安全实验室所开发的AI框架安全监测平台，已累计发现Tensorflow、Caffe、Pytorch等主流机器学习框架及供应链漏洞200多个，其中提交给谷歌Tensorflow的漏洞数98个，包括24个高危、严重漏洞，在全球各大厂商中排名第一，成果于今年4月入选了中央网信办“人工智能企业典型应用案例”。
除了框架的安全，AI算法模型本身和数据也存在安全风险，360AI安全实验室已经发现多款移动APP人脸识别设备存在模型数据和人脸数据泄露的风险。“这些模型本应是企业非常重要的资产，却被轻易的破解，可见人工智能系统本身存在很严重的安全问题。” 邓亚峰表示。为此，360构建了算法模型安全攻防平台，用于攻防的手段来检测模型，保障开放平台企业的算法模型的安全性。作为一家成立16年的网络安全公司，360本身也是一家大数据公司，从人工智能开发创新平台生态建设的角度，360将会把基于自身大数据的训练、推理、标注的机器学习平台应用于平台建设中，赋能生态中的更多企业。不仅如此，360还将面向企业内部的安全分析系统、防护软件、测试系统等转化成能力进行封装，面向平台中的企业开放。
生态共建 360建立协同交互机制赋能平台企业
生态共建是360构建开放创新平台的战略思路，目前360已经与清华大学、中科院自动化所、中科院工所、北京瑞莱智慧科技有限公司（RealAI）、浙江大学机构等开展共建合作。为了进一步打造开放生态，360还联合中国计算机学会，以举办数字安全公开赛的方式，开放自身安全大数据，将产学研力量联合起来，集中推动网络安全的创新，其成果也将最终沉淀于安全大脑人工智能创新开放平台的建设。
目前，360安全大脑开放平台的能力已经落地于工业互联网、物联网、智能网联汽车、智慧城市等场景，赋能了教育、运营商、信创等诸多行业。邓亚峰表示，安全大脑国家开放创新平台建设的目标是，通过平台运营，建立人工智能与安全开放创新体系，建立平台化机制，实现核心研究成果的对接与转化，赋能人工智能与安全相关的中小微企业、高校、科研院所，赋能中小初创安全企业、垂直行业、人工智能产业，共享技术成果，推动产业健康快速发展，提升国家人工智能安全整体防御能力。
“安全一直是攻防的思想，有人去攻，有人去防，从AI的角度，AI系统也是一个不断的自主学习的系统，实际上也是一种攻防的概念。360作为AI开放创新平台中唯一的一家网络安全公司，希望促进行业和产业的协同交互机制，进而推进人工智能的整体发展。”邓亚峰说。
