Google研究人员提出RRSI,防止自改进AI智能体记忆测试任务
Google研究人员提出RRSI,通过逐步收紧编辑预算和批评器审查,减少智能体在自优化过程中记忆测试任务的问题。基于冻结的Claude Opus 4.8,RRSI在8个基准上测试,训练任务最高提升14.1分,并在5个未见基准上最高提升4.7分。其运行时token用量比未正则化版本少约30 percent,代码已发布在GitHub。
Google研究人员提出RRSI,通过逐步收紧编辑预算和批评器审查,减少智能体在自优化过程中记忆测试任务的问题。基于冻结的Claude Opus 4.8,RRSI在8个基准上测试,训练任务最高提升14.1分,并在5个未见基准上最高提升4.7分。其运行时token用量比未正则化版本少约30 percent,代码已发布在GitHub。
GitHub 发布 AI 代码审查开放基准 ReviewBench,其 219 个 pull request 来自 187 个公开开源许可仓库,覆盖 19 种语言,分布参考了对 103.9M 个 GitHub pull request 的分析。
推荐理由:公开数据集、评分规则和自助运行器形成可复现评测链路,线上实验案例也展示了离线指标筛选代码审查改进的用法。
Import AI 470 汇总多项 AI 研究与观点,包括反对赋予 AI 权利、用 SPADE 自动生成训练环境,以及用 Hawkeye 帮助智能体编写硬件感知 GPU 内核。
Import AI 469 聚焦 AI 的环境规则发现、科研复现与递归自我改进,并质疑 Zuckerberg 将超级智能普及与个人赋能相联系的预设。
K-Search 新增 MLX 后端和结构化 CUDA-to-MLX 翻译层,可将既有 CUDA 内核知识转化为适配 Apple Silicon 的优化策略。
Berkeley AI Research 提出 ABBEL,通过可监督的自然语言信念状态,让 LLM 在长程交互中以信念替代完整历史作为工作上下文。在 CollabBench 上,基于重建的信念评分将其与完整上下文模型的性能差距缩小约 50%,训练步数比无信念评分版本减少 50%,同时保持更低的峰值 token 用量。