近日，2020级硕士生刘晓耕（导师胡胜山副研究员）的论文“Detecting Backdoors During the Inference Stage Based on Corruption Robustness Consistency”被计算机视觉顶会 IEEE Conference on Computer Vision and Pattern Recognition (CVPR 2023) 录用。

该论文探讨了如何设计一种不需要额外数据与模型白盒访问权限的后门样本检测算法。具体而言，论文提出了一种模型推理阶段的图像损坏鲁棒性一致性评估方法（TeCo），这是一种全新的后门样本检测方法，该方法仅需要后门模型的硬标签输出，而不需要任何额外信息。该论文发现，后门模型在面对不同的图像损坏时，对于干净的图像具有相似的鲁棒性，但对于后门样本，无论触发器属于何种类型，后门模型的鲁棒性能都仅具有较低的一致性。基于这一现象，论文所提出的方法通过收集模型在测试阶段的输出结果，计算导致模型预测产生偏差的图像损坏严重度标准差，以此来估计模型对于给定样本的鲁棒性一致性，最终完成检测后门样本的目标。实验显示，该论文提出的方法在检测准确度超越现有方法约10%，并在防御不同攻击的稳定性上达到现有方法的2至5倍。

CVPR与ICCV，ECCV并列为世界三大计算机视觉会议，是计算机视觉和人工智能研究领域的顶级会议，也是中国计算机学会（CCF）推荐的A类会议。CVPR拥有计算机相关领域最高的H5指数，是人工智能与计算机视觉发展的风向标之一。此次CVPR 2023会议录用率约为25.78%，与往届平均录用率相当。

（通讯员：刘晓耕）