360参与编写的《人工智能安全测评白皮书(2021)》重磅发布

360参与编写的《人工智能安全测评白皮书(2021)》重磅发布


近日,在“第二届两化融合暨数字化转型大会人工智能论坛”上,由国家工业信息安全发展研究中心牵头、360等企业单位共同参与编写的《人工智能安全测评白皮书(2021)》(以下简称“白皮书”)正式发布。

白皮书梳理了人工智能安全的背景、趋势和范围,分析了人工智能安全与可信赖的关系,构建起由安全目标、安全风险、安全测评和安全保障为指引的人工智能安全框架,并介绍了现有人工智能安全测评标准、机构和工具情况,以及提出人工智能安全测评建议。360作为参与编写单位之一,指出白皮书对我国人工智能安全产业的发展具有指导作用,对引导技术产业健康发展具有积极意义,同时呼吁企业加强在框架安全方面的重视和投入。

当前,人工智能技术在计算机视觉、语音识别、自然语言处理等方面已经取得了巨大进展,在自动驾驶、智慧金融、智能医疗等重点民生领域深入应用。但人工智能系统的安全性问题频发,对社会稳定、公共安全,甚至是国际政治都可能产生极大影响。白皮书指出,机器学习框架作为人工智能基础设施的核心,正面临着缺乏严格的安全测试管理和认证的挑战,一旦其中存在安全问题并被攻击者恶意利用,将会影响数以千万计的开发者以及使用AI服务的用户。

资料显示,360集团依托360 AI安全实验室开展AI安全前沿技术的研究,是全球率先从系统实现角度对AI关键基础设施进行研究的团队,360近期利用自研的漏洞威胁感知系统AIFater发现并修复累计7款机器学习框架(如Tensorflow、PyTorch等)漏洞150+个,框架供应链漏洞200+个。值得一提的是,360已经累计发现并帮助谷歌修复Tensorflow漏洞98个(CVE),其中高危、严重漏洞共24个,在数量上均位列全球领先。

据360 AI安全实验室介绍,能够发现这些漏洞主要依托于360人工智能框架漏洞威胁感知系统AIFater。该系统能够从算法实现、漏洞类型、编译优化等多角度持续开展对机器学习框架的安全风险研究,并采用动、静结合的分析方法对Python、C++、Go等不同语言中的不同漏洞类型进行全面系统的检测,检测过程着重关注从训练到推理、从数据到模型、从云端到终端过程中存在的安全风险。此外,该系统基于丰富的安全专家知识库,能够提供对AI框架业务的定制化检测,如对计算图优化、图编译、分布并行等模块的安全性检测。

未来,360将继续协同硬件安全、算法安全、数据安全等软硬件各维度的安全防御技术,建立一体化安全防御体系,提升国家人工智能安全整体防御能力,打造人工智能“安全底座”。