鲁东大学团队提出MLSD选择性关系蒸馏框架 提升细粒度图像检索精度与效率

鲁东大学团队提出MLSD选择性关系蒸馏框架 提升细粒度图像检索精度与效率

鲁东大学计算机与人工智能学院团队与中科院计算技术研究所合作,成果发表于《IEEE视频技术电路与系统汇刊》。针对云端大模型部署难、轻量化模型精度低、知识蒸馏易负迁移的难题,研究生张世杰等提出多层选择性知识蒸馏框架(MLSD),通过跨层特征蒸馏对齐教师与轻量模型中间层表征,并依据教师分类结果筛选可靠样本实施关系蒸馏。实验在食品、服装、商品检索等数据集上优于对比方法,在Pixel 4手机上单张推理约220毫秒,实现精度与效率双提升。

原文链接