Light-MER:把 8B 情感教师压进 855M 学生,靠的是隐藏状态的几何而不是答案
Light-MER 是格拉斯哥大学、中科院计算所与山东大学合作的多模态情感识别压缩工作,已被 ACM MM 2026 主会录用,将 8B 教师模型压缩为 855M 学生模型,训练信号来自隐藏状态的几何而非答案。该工作针对生成式多模态情感识别的部署成本问题,目标是让模型输出可解释情绪的段落。
Light-MER 是格拉斯哥大学、中科院计算所与山东大学合作的多模态情感识别压缩工作,已被 ACM MM 2026 主会录用,将 8B 教师模型压缩为 855M 学生模型,训练信号来自隐藏状态的几何而非答案。该工作针对生成式多模态情感识别的部署成本问题,目标是让模型输出可解释情绪的段落。