近日，我院陈鸿龙教授团队在人工智能安全领域取得新进展，相关研究论文 《A Dual Stealthy Backdoor: From Both Spatial and Frequency Perspectives》被第38届人工智能领域顶级会议AAAI 2024录用（高宇栋，陈鸿龙，孙鹏，李隽键，张安庆，王志波，刘伟锋）。该工作得到山东省优青项目、山东省泰山学者青年专家项目、国家自然科学基金面上项目等项目的资助。我院硕士研究生高宇栋为第一作者，陈鸿龙教授为通讯作者，中国石油大学（华东）为第一署名单位。
AAAI是人工智能领域的国际顶级会议之一，也是中国计算机学会（CCF）分类的A类会议。AAAI每年召开一届，近年来投稿量逐年增加。据其官网数据显示，2024年度AAAI总投稿量12100份，最终有2342篇论文被接收，接收率约为23.7%，被录用的论文主题涵盖了人工智能领域的各项前沿工作。
图 1. 双隐形后门攻击流程示意图
后门攻击（Backdoor）是人工智能模型中严重的安全威胁之一。被嵌入后门的模型会对包含触发器的输入做出错误预测，而在干净的输入上表现正常。先前的研究已经探索了后门触发器的隐蔽性来增强攻击有效性。然而，大多数研究只关注触发器在空间域的隐蔽性，而忽略了频域隐蔽性。这使得大部分含有触发器的有毒图像很容易被最近的防御方法检测到，尤其是从频域提出的防御方法。为解决上述问题，该研究提出了一种同时在空间域与频域隐形的双隐形后门攻击(Dual Stealthy Backdoor, DUBA)，中文名称为毒霸。毒霸利用小波变换将触发器高频信息嵌入至干净图像中，再利用快速傅里叶变换与余弦变换擦除触发器在频域的痕迹，达到触发器在空间域与频域双重隐形的效果。大量的理论分析和仿真证明，毒霸优于现有后门攻击方法，并且可以绕过最新的后门防御系统，为后续后门防御的研究提供了新的思路。
陈鸿龙教授带领的团队主要从事人工智能安全、智能物联网、边缘计算与边缘智能等领域的研究，近年来在IEEE Transactions on Information Forensics & Security, IEEE Transactions on Mobile Computing，IEEE Transactions on Industrial Informatics，IEEE Transactions on Multimedia, IEEE Internet of Things Journal, IEEE Transactions on Wireless Communications等权威国际期刊和AAAI，IEEE INFOCOM,IJCAI等权威国际会议上发表论文100余篇，成果显著。
