跳到正文
甲子光年 · 微信公众号· 田思奇·· 10 小时前AI 评分66

岩芯矩阵开源EdgeRock-4B:KV Cache不随上下文增长,单卡吞吐达原模型6.42倍

给AI装上记忆岩锚:岩芯矩阵开源EdgeRock-4B,单卡吞吐达原模型6.4倍|甲子光年

AI 导读

岩山科技旗下岩芯矩阵联合香港科技大学、卡内基梅隆大学等高校发布并开源EdgeRock-4B,该模型由Qwen3.5-4B转换而来,核心是团队提出的记忆岩锚(RMA)机制,让KV Cache不随上下文增长。

来源:甲子光年 · 微信公众号 · mp.weixin.qq.com