“缓存到缓存”新范式：大语言模型直接语义通信，准确率提升、延迟降低

跳转到主要内容搜索提交捐赠 登录搜索 arXiv按回车键进行搜索 * 高级搜索在计算机科学的计算与语言领域有论文提出新的大语言模型通信范式。arXiv:2510.03215(计算机科学)[于 2025 年 10 月 3 日提交 ([v1])最后于 2026 年 3 月 2 日修订此版本为 v2]标题缓存到缓存大语言模型间的直接语义通信作者为傅天宇、闵子涵、张涵灵、闫吉超、戴国浩、欧阳万里、王宇。可查看由他们撰写的论文《缓存到缓存大语言模型间的直接语义通信》的 PDF 版本。查看 PDF HTML实验版摘要指出多大语言模型LLM系统能利用不同大语言模型的互补优势实现单一模型无法达到的性能和效率提升。但现有设计中大语言模型通过文本通信会丢失丰富语义信息产生逐令牌生成延迟。鉴于此局限研究人员提出疑问大语言模型能否超越文本进行通信预言机实验表明丰富键值缓存KV - Cache语义可在不增加缓存大小的情况下提高响应质量证明 KV - Cache 是有效模型间通信媒介。因此研究提出了“缓存到缓存”Cache - to - CacheC2C新范式用于实现大语言模型间的直接语义通信。C2C 使用神经网络将源模型的 KV - Cache 与目标模型的 KV - Cache 进行投影和融合以实现直接的语义转移。一种可学习的门控机制会选择从缓存通信中受益的目标层。与文本通信相比C2C 利用了两个模型的深度、专业语义同时避免了显式的中间文本生成。实验表明C2C 的平均准确率比单个模型高出 6.4 - 14.2%。与文本通信范式相比它的性能进一步提升了约 3.1 - 5.4%同时平均延迟降低至原来的 1/2.5。研究代码可在 此链接 获取。评论| 发表于 ICLR26---|---学科分类| 计算与语言 (cs.CL)机器学习 (cs.LG)数学学科分类| 68T07, 68T50美国计算机协会分类| I.2.7引用格式| [arXiv:2510.03215] [cs.CL]| 若引用此版本可使用 [arXiv:2510.03215v2] [cs.CL]| https://doi.org/10.48550/arXiv.2510.03215聚焦了解更多arXiv 通过 DataCite 分配的 DOI提交历史来自傅天宇 [查看邮箱][[v1]]2025 年 10 月 3 日星期五17:52:32 UTC484 KB[v2]2026 年 3 月 2 日星期一19:24:02 UTC546 KB全文链接可查看由傅天宇等 7 位作者撰写的论文《缓存到缓存大语言模型间的直接语义通信》的相关版本。* 查看 PDF* HTML实验版* TeX 源代码查看许可当前浏览上下文计算与语言 (cs.CL)[ 上一篇] | [下一篇 ][最新文章] | [近期文章] |[2025 年 10 月文章]切换浏览领域[计算机科学][机器学习]参考文献与引用* [NASA ADS]* [谷歌学术]* [语义学者]导出 BibTeX 引用 加载中...BibTeX 格式引用×加载中...数据提供方书签文献与引用工具文献浏览器 切换文献浏览器 _(什么是文献浏览器)_关联论文 切换关联论文 _(什么是关联论文)_Litmaps 切换Litmaps _(什么是 Litmaps)_scite.ai 切换scite 智能引用 _(什么是智能引用)_与本文相关的代码、数据和媒体alphaXiv 切换alphaXiv _(什么是 alphaXiv)_代码链接 切换CatalyzeX 论文代码查找器 _(什么是 CatalyzeX)_DagsHub 切换DagsHub _(什么是 DagsHub)_GotitPub 切换Gotit.pub _(什么是 GotitPub)_Huggingface 切换Hugging Face _(什么是 Huggingface)_ScienceCast 切换ScienceCast _(什么是 ScienceCast)_演示Replicate 切换Replicate _(什么是 Replicate)_Hugging Face 空间 切换Hugging Face 空间 _(什么是空间)_TXYZ.AI 切换TXYZ.AI _(什么是 TXYZ.AI)_推荐器和搜索工具影响力花图链接影响力花图 _(什么是影响力花图)_CORE 推荐器 切换CORE 推荐器 _(什么是 CORE)_* 作者* 会议* 机构* 主题arXivLabs与社区合作的实验项目arXivLabs 是一个框架允许合作者直接在网站上开发和分享新的 arXiv 功能。与 arXivLabs 合作的个人和组织都认同并接受开放性、社区性、卓越性和用户数据隐私价值观。arXiv 致力于这些价值观仅与遵守这些价值观的合作伙伴合作。若有能为 arXiv 社区增值的项目想法可了解更多关于 arXivLabs 的信息。[本文哪些作者是推荐人]| [禁用 MathJax] (什么是 MathJax)衷心感谢主要资助者、会员机构以及所有贡献者的支持。[关于] * [帮助] *[联系我们] *[订阅] *[版权] *[隐私] *[可访问性] *[运营状态新窗口打开]主要资金支持来自*[MSC]数学学科分类*[ACM]美国计算机协会分类