日前,中国石油大学(华东)“科技之星”评选活动结果公布,我院研究生高宇栋荣获“科技之星”称号。
高宇栋是我院本研19级学生,研究成果丰硕,目前发表论文四篇,其中一作CCF A类人工智能顶级会议论文AAAI一篇;二作实审发明专利一项;在投论文七篇。其中一作CCF A类人工智能顶级会议论文ICML一篇(已出第一轮结果)。一作SCI二区论文一篇(已返修)。二作SCI一区,CCF A类论文一篇。
高宇栋在实验室
后门攻击(Backdoor)是人工智能模型中严重的安全威胁之一。被嵌入后门的模型会对包含触发器的输入做出错误预测,而在干净的输入上表现正常。先前的研究已经探索了后门触发器的隐蔽性来增强攻击有效性。然而,大多数攻击只关注触发器在空间域的隐蔽性,而忽略了频域隐蔽性。这使得大部分含有触发器的有毒图像很容易被近阶段的防御方法检测到,尤其是从频域提出的防御方法。为解决上述问题,高宇栋提出了一种同时在空间域与频域隐形的双隐形后门攻击(Dual Stealthy Backdoor, DUBA),中文名称为毒霸,并在人工智能顶级会议AAAI上发表。毒霸利用小波变换将触发器高频信息嵌入至干净图像中,再利用快速傅里叶变换与余弦变换擦除触发器在频域的痕迹,达到触发器在空间域与频域双重隐形的效果。大量的理论分析和仿真证明,毒霸优于现有后门攻击方法,并且可以绕过最新的后门防御系统,为后续后门防御的研究提供了新的思路。
高宇栋为我院陈鸿龙教授团队研究生,陈鸿龙教授带领的团队主要从事人工智能安全、智能物联网、边缘计算与边缘智能等领域的研究,近年来在IEEE Transactions on Information Forensics & Security, IEEE Transactions on Mobile Computing,IEEE Transactions on Industrial Informatics,IEEE Transactions on Multimedia, IEEE Internet of Things Journal, IEEE Transactions on Wireless Communications等权威国际期刊和AAAI,IEEE INFOCOM,IJCAI等权威国际会议上发表论文100余篇,成果显著。
【作者:翁泽】