跳到正文
arXiv cs.RO· Jia Deng, Zizhe Wang, Xin Lu, Yi Huang, Zehao Jia·· 2 小时前AI 评分46

面向太空机器人的机载大语言模型低比特压缩方法 QSelect

Compressing Onboard Language Models for Space Robots under a Behavioral-Fidelity Requirement

AI 导读

QSelect 将 AWQ、GPTQ、AutoRound 三种量化器按线性模块分配组合成单一静态低比特模型,以最终下一 token 分布评分每次替换。

来源:arXiv cs.RO · arxiv.org