Vision Group一篇论文被TIP录用

       近日,实验室韩许盟同学提交的论文《ViMoE: An Empirical Study of Designing Vision Mixture-of-Experts》被国际顶尖学术期刊IEEE Transactions on Image Processing录用。该研究将混合专家模型结构整合到视觉Transformer(ViT)架构中,提出了ViMoE模型。研究发现,MoE层的配置对性能非常敏感,不当的配置会导致路由不可靠,阻碍专家学习有效信息。基于此观察,研究通过引入共享专家来构建稳定模型,并展示了如何分析路由行为以去除冗余层。该工作为视觉MoE模型的设计提供了新的见解和实证指导。

        Vision Group@UCAS成立于2019年,是一支专注于机器学习、图像和视频处理及计算机视觉等领域的研究团队,尤其专注于基于点标注与多源信息融合的弱小目标感知。实验室承担了多个重要项目,包括国家自然科学基金项目、航天科工及华为公司等单位课题,致力于推动计算机视觉技术的创新与发展。