CVPR 2026 即插即用 | MoE篇 | ReMoE：告别逐 Token 路由！区域粒度 MoE，维护图像空间语义连续性

文章目录

• 模块出处
• 模块介绍
• 模块提出的动机（Motivation）
• 适用范围与模块效果
• 模块代码及使用方式

模块出处

Paper：ReMoE: Region-Mixture Experts for Adversarially-Robust Vision Transformers

Code：https://github.com/zhongskr0114/ReMoE/tree/main

模块介绍

Region-aware Mixture-of-Experts (ReMoE) 架构示意：ReMoE将区域感知的专家混合模块集成到ViT中，并进行区域对抗优化。补丁到区域 (P2R) 转换将每个区域的补丁特征或注意力聚合到区域分数中，而区域到补丁 (R2P) 转换将区域感知专家输出重新分配回其原始空间顺序中的补丁令牌。