智东西· 江 宇·· 6 天前AI 评分60
面壁智能姚远:两年内GPT-6级智能有望在手机上以约3GB内存运行
面壁智能姚远:两年GPT-6级AI跑在手机上,现在点外卖订机票有点无聊
AI 导读
面壁智能联席首席科学家姚远在11月5日的端侧多模态大模型技术交流活动上表示,团队通过新一轮推理优化已将MiniCPM-V 4.7 35B-A3B在手机上的生成速度提升至30 Token/s以上,内存占用仍约3GB,并预测未来两年内GPT-6级智能有望在手机上以约3GB内存流畅运行。
来源:智东西 · zhidx.com