活动预告 | 回顾与展望神经网络的后门攻击与防御

2022 年 7 月 4 日 THU数据派

  
  
    
   
   
     
    
    
      
     
     
       
      
      
        
       
       
          
          来源：AI Time论道 
         
      
      
        
     
     
       
    
    
      
   
   
     
  
  
    
  
  
    
   
   
     
    
    
      
     
     
       
      
      
        
       
       
          
            本文为约1452字，建议阅读123分钟 
           
           本文介绍 
           了7月9日20:00-21:30举办的“回顾与展望神经网络的后门攻击与防御”专题活动，欢迎扫码观看直播。

7月9日20:00-21:30，本期PhD Debate直播间邀请了来自宾夕法尼亚州州立大学电子工程系博士生向臻、清华大学博士生李一鸣、弗吉尼亚理工计算机工程博士生曾祎和普渡大学计算机科学博士生沈广宇，与大家一起回顾与展望神经网络的后门攻击与防御。

1.近年来，针对神经网络的后门攻击引起了广泛的关注。现有后门攻击的特点，设计的难点，以及未来研究的方向有哪些？

2. 后门攻击和对抗攻击在预测过程中均需要对样本进行修改，后门攻击与对抗攻击也是如今神经网络安全研究的两个重要的方向，大家如何看待这两个方向的区别与相似之处？

3. 现有后门防御的特点，设计的难点，以及未来研究的方向有哪些？

4. 如何看待和设计新任务上的后门攻击和后门防御？

哔哩哔哩直播通道

扫码关注AITIME哔哩哔哩官方账号预约直播

★ 嘉宾简介 ★

向臻:

宾夕法尼亚州州立大学电子工程系博士生，师从David J. Miller以及George Kesidis。主要研究方向为可信赖人工智能（包含后门攻击，投毒攻击，与躲避攻击等多个方向）以及统计信号处理。在TNNLS，Computer&Security，Neural Computation等期刊，以及ICLR，ICASSP，ICCV等会议发表一作学术论文多篇并担任多个国际会议、期刊的审稿人。

李一鸣:

清华大学四年级在读博士生，师从夏树涛和江勇教授。其研究方向为AI安全，主要包括后门学习、对抗学习和数据隐私保护。其在ICCV、 ICLR、 AAAI、IEEE TNNLS、 Pattern Recognition等AI相关顶级会议和期刊发表学术论文多篇。曾受邀担任AAAI 2022会议高级程序委员会成员，NeurIPS、ICML、ICLR等会议程序委员会成员，以及IEEE TPAMI、IEEE TDSC、IEEE TNNLS等期刊审稿人。曾获清华大学‘未来学者’、腾讯‘犀牛鸟精英人才’等荣誉。个人主页：http://liyiming.tech

曾祎:

弗吉尼亚理工计算机工程二年级博士生，师从Ruoxi Jia。个人主攻兴趣为人工智能安全。他的论文曾获得第20届ICA3PP国际会议最佳论文奖。他的论文主要发表在计算机领域顶会（如ICLR、ICCV、IJCAI、AsiaCCS）以及顶刊（例如 IEEE TII、IEEE TC、IEEE Access 等）。个人主页：https://www.yi-zeng.com/

沈广宇:

普渡大学计算机科学二年级博士生，师从Xiangyu Zhang。其研究方向为AI安全，包括在不同模态神经网络中的后门攻击，检测和防御（如计算机视觉，自然语言处理）在CVPR, ICML, S&P 等会议发表一作学术论文并多次担任顶级会议审稿人。个人主页: https://www.cs.purdue.edu/homes/shen447/

★ 主持人★