我院软件安全与可信团队荣获第三届OPPO安全AI挑战赛季军

【文章来源:软件安全与可信实验室】【发布时间:2021-12-10阅读次数:434】【我要打印

12月4日,第三届OPPO安全AI挑战赛总决赛在深圳举办,我院软件安全与可信团队李仞珏博士生、软件所杨鹏飞助理研究员组成的CAS-SafeAI战队参加挑战赛,并成功斩获季军。

第三届OPPO安全AI挑战赛聚焦于安全攸关领域的人脸识别场景,以神经网络模型的对抗攻击为具体任务。挑战赛的攻击目标为一组防御性集成模型,在无法直接访问目标模型的设定下,需要设计迁移攻击算法在本地生成对抗样本,并提交至挑战赛云端系统进行攻击效果评估。此次挑战赛设置冠军1项、亚军2项、季军3项、优胜奖4项,来自国内外高校的2000多支队伍参加。

CAS-SafeAI战队凭借扎实的理论基础与分析能力,设计了基于差异性的迁移攻击框架,有效提高了对抗样本的泛化性,在比赛任务中取得了出色的效果,最终从众多队伍中脱颖而出,荣获季军(第四名)。

软件安全与可信团队负责人为张立军研究员,团队主要从事人工智能安全分析、深度学习攻防等前沿领域的理论与平台研发。


  

总决赛答辩


颁奖现场


2021年度OPPO安全AI挑战赛季军奖杯