Google Research·· 20 天前AI 评分47
绕过推理瓶颈:用 Retrieve-for-Train 加速复杂 AI 搜索
Bypassing inference bottlenecks: Accelerating complex AI search with Retrieve-for-Train
AI 导读
Google Research 的 Retrieve-for-Train 通过离线 RL 发现符合奖励的查询扇出并编译为监督数据,再蒸馏至轻量扩散检索器,以单次非自回归推理绕过测试时 CoT 开销。其 53.9M 参数扩散模型可直接将查询嵌入映射为目标嵌入集合,监督样本由冻结的扇出语言模型离线生成,无需人工标注。
来源:Google Research · research.google