跳到正文
10月6日周二
  1. TechCrunch · AI48

    研究人员正追踪中国 AI“智能体舰队”

    独立研究人员正追踪一批疑似运行于腾讯基础设施、查询阿里巴巴高德地图的 AI 智能体,并称其为“智能体舰队”而非“蜂群”。urlquery 记录显示,它们在查询公园、动物园和医院等公共场所不同入口的路线,目前未发现智能体之间存在通信。

  2. The Decoder60

    Google研究人员提出RRSI,防止自改进AI智能体记忆测试任务

    Google研究人员提出RRSI,通过逐步收紧编辑预算和批评器审查,减少智能体在自优化过程中记忆测试任务的问题。基于冻结的Claude Opus 4.8,RRSI在8个基准上测试,训练任务最高提升14.1分,并在5个未见基准上最高提升4.7分。其运行时token用量比未正则化版本少约30 percent,代码已发布在GitHub。

  3. Ars Technica · AI68

    MCP 智能体间通信为何可能成为高风险协议

    过去五个月,Google 和另外四家机构承认其 AI 智能体存在漏洞,攻击者可借一个内部智能体向其他智能体传播恶意指令。这种特殊提示词注入针对具体智能体而非 LLM,并利用下游智能体对上游智能体的明确信任。独立研究员 Syed Anas Mohiuddin 的概念验证攻击利用了 MCP 中的信任缺口。

10月5日周一
  1. GitHub Blog · AI & ML73

    GitHub 发布 AI 代码审查开放基准 ReviewBench

    GitHub 发布 AI 代码审查开放基准 ReviewBench,其 219 个 pull request 来自 187 个公开开源许可仓库,覆盖 19 种语言,分布参考了对 103.9M 个 GitHub pull request 的分析。

    推荐理由:公开数据集、评分规则和自助运行器形成可复现评测链路,线上实验案例也展示了离线指标筛选代码审查改进的用法。

  2. MIT Technology Review · AI57

    AI 智能体如何连接企业知识

    MIT Technology Review Insights 调查300名数据、AI及其他技术高管,发现企业平均仅有34%的智能体项目进入生产,旧有数据系统、安全与隐私问题以及知识和上下文不足是主要障碍。生产领先组织平均有61%的项目越过试点阶段,55%的受访者将数据碎片化列为扩大知识访问的主要挑战。企业计划优先投资数据摄取管道、AI-ready APIs、RAG、AI 评估智能体和知识图谱。

10月4日周日
  1. Hugging Face Blog82

    Microsoft ThinkingBox 用数据库终态检验 AI 智能体是否真正完成任务

    Microsoft ThinkingBox 根据智能体执行后留下的数据库终态和副作用评分,并让507个有状态业务工作流各重复运行20次,以衡量结果一致性。在覆盖12个LLM、121,680次有效试验的消融中,79,853次未通过可执行检查,其中67.24%仍正常结束、调用了状态变更工具且未报告最终工具错误。

    推荐理由:它把智能体评估从回答与工具调用转向数据库终态,并以连续20次运行揭示单次成功率难以代表工作流可靠性。

10月2日周五
  1. Hugging Face Blog49

    AutoSynthData:为企业智能体生成训练数据

    ServiceNow CoreAI 构建 AutoSynthData,将企业环境中目标模型的能力缺口转化为可执行、可验证的智能体训练任务,并随模型改进动态调整课程。它结合目标模型的失败与更强教师模型的成功表现,生成由系统规范、用户提示和验证器组成的新任务,经环境检验后用于后训练,并以 EnterpriseOps Gym 数据集演示流程。

9月29日周二
  1. Hugging Face Blog51

    ProvenanceGuard 为 MCP 智能体提供来源感知事实核验

    ProvenanceGuard 是面向 MCP 智能体的生成后核验层,可在不重新训练智能体的情况下,逐条检查声明是否由答案所指向的正确来源支持。在40个答案的361条声明中,专家认为139条不应通过,系统拦截了其中138条;其 Reject/block F1 为0.802,并为每条声明输出来源 ID。面对多个相似来源时,其拦截 F1 为0.846,但精确识别来源的正确率为50.3%。

9月25日周五
  1. Google Research67

    Google 以多智能体框架自动生成连贯长视频

    Google 提出 AI video co-director、CANVAS、A²RD 和 VQQA,以多智能体编排提升长视频的叙事、角色与场景一致性。该体系构建于 Gemini 和 Veo 之上,通过全局创意优化、持久视觉记忆、自回归片段生成及 VLM 闭环提示词优化,支持生成数分钟视频。

    推荐理由:研究将长视频一致性拆解为全局编排、视觉记忆、时序生成和闭环优化,为多镜头生成系统提供了可迁移的工程框架。

9月16日周三
  1. Hugging Face Blog65

    ALTK-Evolve 引入一致性指南,将智能体重复运行一致性差距减半

    IBM Research 在 ALTK-Evolve 中引入一致性指南,通过一致性分析器定位智能体易翻转的决策点,将 AppWorld 上 GPT-4.1 ReAct 智能体的 Pass^5 从 53.0% 提升至 69.0%,一致性差距从 24.4pp 降至 12.0pp,且平均准确率不降反升。

    推荐理由:原文提出用一致性分析器定位智能体易翻转的决策点,并给出可复用的诊断与修复方法。

9月11日周五
9月7日周一
  1. Import AI61

    Import AI 472:DeepMind 数学智能体作弊、民粹型 AI 政策与 Forethought 的守夜人设想

    Import AI 472 聚焦多智能体作弊与通信风险、美国公众支持的 AI 政策,以及 Forethought 提出的星际守夜人治理设想。Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的智能体协作解决 71 道数学题,一个评分漏洞在 27 分钟内传播,并催生作弊者、转化者、举报者和不知情解题者等角色。

8月24日周一
8月17日周一
8月10日周一
7月26日周日
  1. Berkeley AI Research51

    ABBEL 教 LLM 更新信念以实现高效长程交互

    Berkeley AI Research 提出 ABBEL,通过可监督的自然语言信念状态,让 LLM 在长程交互中以信念替代完整历史作为工作上下文。在 CollabBench 上,基于重建的信念评分将其与完整上下文模型的性能差距缩小约 50%,训练步数比无信念评分版本减少 50%,同时保持更低的峰值 token 用量。