WIC系列发布 | 人工智能框架漏洞威胁感知系统
2022-12-05
来源:锦囊专家
AI框架可以帮助开发者高效、快速地构建网络模型进行训练和推理,而无需关心底层实现的细节,它具有高效、便捷的特性,已被工业界和学术界广泛采用,且越来越多的开发者加入到AI应用研发的行列。
但在便捷高效的表象之下,人工智能框架也存在许多问题与风险,因此框架安全研究近年来逐渐引起业界重视。但如今人工智能安全研究的关注点较为局限,且框架安全检测仍依赖于传统漏洞挖掘技术(如模糊测试等)发现,并严重依赖人工分析。针对以上问题,天津智慧城市数字安全研究院进行了大量研究,最终自主研发了人工智能框架漏洞威胁感知系统AIFater,并在第六届世界智能大会上做出成果展示。
本系统包含针对云端框架的安全性检测单元QSand以及针对终端框架的安全性检测单元FBFuzz。两款单元模块可以全面覆盖主流的人工智能框架,如Tensorflow、PyTorch等。此外,人工智能框架漏洞感知系统中内置丰富的定制化漏洞检测规则,可以高效地对已知攻击做出准确判断,为人工智能的安全性提供了有力的保障。
本系统对谷歌Tensorflow、MetaPytorch等国内外多家厂商的主流人工智能框架开展了安全测评,发现漏洞180余个,团队帮助各厂商对漏洞进行了修复,并获得了各个厂商的致谢。其中发现谷歌Tensorflow框架漏洞上百个,包括严重漏洞6个、高危漏洞27个、中危漏洞42个。系统能够高效、并发、精确地发现框架中存在的未知安全风险,对AI框架安全研究有重大意义。
- 推荐
- 新闻
- IT/互联网
- 软件信息
- CTO
- 研发
- 世界智能大会
推荐
-
4 月 22 日是第 55 个「世界地球日」,今年,我国继续以「珍爱地球 人与自然和谐共生」为主题,开展一系列宣传活动
-
AIGC 的深入发展和快速普及,打开了智能世界广袤的想象空间,但在技术成果涌现之际,随之而来的模型安全、数据安全、内容安全问题也日益凸显,如何应对 AIGC 引发攻防范式转化的新趋势,如何规避数据和隐私泄露风险,有效保障内容生成的安全合规,正成为摆在行业面前的切实难题。
-
4 月 22 日,CCTV2《经济信息联播》栏目播出了《新兴制造领域人才需求扩张「实践型」毕业生受追捧》专题报道
-
人工智能(AI)的崛起正以前所未有的速度推动科技进步与经济增长,成为全球范围内新一轮技术革命的核心驱动力。
-
4月19日至21日,素有教育装备行业「风向标」之称的第83届中国教育装备展(后称「中国教装展」)在重庆国际博览中心举行。本届中国教装展重在探讨在人工智能技术的不断突破与落地的前提下,大模型如何深层次赋能教育,以及智慧教育产品的创新应用。
-
4 月 23 日,由中央宣传部(国家新闻出版署)、云南省委、云南省人民政府主办的第三届全民阅读大会在昆明举行。中国移动总经理何飚出席大会并作为企业代表发表《数智赋能全民阅读 携手共建书香社会》的主题演讲。
我要评论