FusionRoute:Token-Level 多LLM协作的新范式
Type: paper
Author: xiongny
Primary Topic: AI Agent
Ingested: 2026-06-07
Summary
FusionRoute提出了一种基于token级别路由的多LLM协作新范式,通过可训练的轻量级router模块在每一步生成时动态选择专家模型并补充生成。论文从理论上证明了纯粹依赖专家选择的token级协作存在本质不可识别性,而FusionRoute通过两阶段训练(SFT+CDPO)突破了这一限制。实验显示该方法在数学、代码、指令跟随等多个基准上均优于sequence-level协作和传统token-level协作方法。
Key Concepts
- token-level路由
- 多LLM协作
- 轻量级router
- 监督微调SFT
- CDPO补充生成
- 专家模型融合
- 不可识别性定理
Entities
- FusionRoute
- arXiv
- GitHub
- xiongny
Source
Relations
- (none)
Auto-generated on 2026-06-07