近日，多媒体领域的顶级国际会议 ACM国际多媒体会议（ACM International Conference on Multimedia，ACM MM 2024）录用结果揭晓，实验室2019级博士生贺超翔（导师马晓静教授）的论文“Towards Stricter Black-box Integrity Verification of Deep Neural Network Models”被录用。

基于云的机器学习服务被广泛应用于众多场景，但同时给云端部署的DNN（Deep Neural Networks）模型带来了受篡改的风险。黑盒完整性验证（Black-box Integrity Verification，BIV）旨在使模型所有者或终端用户能够通过服务接口API仅返回的唯一预测标签来确定云部署的DNN模型是否被篡改。模型指纹技术生成指纹样本以查询模型，从而在不影响模型可用性的情况下实现DNN模型的黑盒完整性验证。文章提出了DNN模型黑盒完整性验证的首个基准测试集BIVBench，其包含16种不同类型的模型篡改，涵盖了实际中典型的篡改场景。现有的模型指纹技术仅关注有限的篡改类型，而忽视了细微的模型篡改，这些细微篡改同样常见但可能带来严重后果。基于BIVBench的测试结果揭露，现有方法在检测细微篡改方面缺乏检测灵敏度。为了缓解这一问题，文章提出了一种新型模型指纹技术MiSentry（模型完整性哨兵）。MiSentry通过采用少数但关键的细微篡改模型构造模型指纹训练集，并利用元学习最大化未篡改目标模型与指纹训练集中的篡改模型之间的输出预测差异，从而生成高灵敏度、可泛化和有效的指纹样本。通过采用BIVBench 进行全面的测试，评估结果表明MiSentry的黑盒完整性验证性能，尤其是在检测细微篡改方面，大幅优于现有的先进模型指纹技术。

ACM MM是多媒体领域的顶级国际会议，也是中国计算机学会（CCF）推荐的A类会议。本届会议共收到4385篇投稿，共录用1149篇论文，录用率约为26.2%。

（通讯员：贺超翔）