跳到正文
今天10月6日周二3 条
  1. The Decoder60

    Google研究人员提出RRSI,防止自改进AI智能体记忆测试任务

    Google研究人员提出RRSI,通过逐步收紧编辑预算和批评器审查,减少智能体在自优化过程中记忆测试任务的问题。基于冻结的Claude Opus 4.8,RRSI在8个基准上测试,训练任务最高提升14.1分,并在5个未见基准上最高提升4.7分。其运行时token用量比未正则化版本少约30 percent,代码已发布在GitHub。

  2. Ars Technica · AI68

    MCP 智能体间通信为何可能成为高风险协议

    过去五个月,Google 和另外四家机构承认其 AI 智能体存在漏洞,攻击者可借一个内部智能体向其他智能体传播恶意指令。这种特殊提示词注入针对具体智能体而非 LLM,并利用下游智能体对上游智能体的明确信任。独立研究员 Syed Anas Mohiuddin 的概念验证攻击利用了 MCP 中的信任缺口。

  3. Google Research46

    智能体隐私与安全的开放与新兴问题:情境视角

    Google Research联合50多位学界与产业界专家发布CAPS研讨会报告,从情境完整性视角梳理自主智能体的隐私与安全难题。报告主张以实时动态生成策略的情境政策引擎,在数据离开用户工作区前判断信息流和操作是否适当,并结合系统级沙箱、模型级推理与用户控制构建多层防护。

10月5日周一
10月2日周五
  1. Google Research62

    Google 探索基于 TEE 的可验证隐私联邦学习

    Google Research 公布新一代基于 TEE 的联邦学习系统,通过可远程证明的执行和公开透明日志提供可验证、可审计的数据匿名化保障。系统仅向操作方暴露指标和差分隐私模型权重,设备加密数据只能按预授权策略在 TEE 内限时解密处理。Gboard 已用其训练英文和日文下一词预测模型,获得更强隐私保障和更高准确率,并将此前每个模型 1-2 个月的训练瓶颈转移到服务器端并行计算。

    推荐理由:文章拆解了从访问策略、KMS 到透明日志的端到端设计,可用于理解联邦学习如何兼顾可审计隐私与训练效率。

9月30日周三
  1. Google DeepMind75

    Google DeepMind 发布 SynthID Bio 蛋白质水印研究

    Google DeepMind 发布 SynthID Bio 概念验证研究,可在 AI 生成的蛋白质序列和预测 3D 结构中嵌入可检测水印,并在合成后的实体蛋白上验证。

    推荐理由:该研究把水印从数字设计延伸到合成后的实体蛋白,并用湿实验检验功能保持,为生物设计溯源提供了可复核路径。

9月28日周一
9月25日周五
  1. Google Research67

    Google 以多智能体框架自动生成连贯长视频

    Google 提出 AI video co-director、CANVAS、A²RD 和 VQQA,以多智能体编排提升长视频的叙事、角色与场景一致性。该体系构建于 Gemini 和 Veo 之上,通过全局创意优化、持久视觉记忆、自回归片段生成及 VLM 闭环提示词优化,支持生成数分钟视频。

    推荐理由:研究将长视频一致性拆解为全局编排、视觉记忆、时序生成和闭环优化,为多镜头生成系统提供了可迁移的工程框架。

9月24日周四
  1. NVIDIA Blog67

    NVIDIA 等机构如何用开放病毒蛋白数据为下一次大流行病做准备

    NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,公开了超过 2,800 种病毒的蛋白复合物预测 3D 结构,帮助研究人员储备疫情应对所需的结构生物学知识。

    推荐理由:材料同时给出数据集规模、推理流程与置信度标注方式,为病毒结构研究提供可直接复用的开放资源。

9月19日周六
9月18日周五
9月16日周三
  1. Google Research47

    绕过推理瓶颈:用 Retrieve-for-Train 加速复杂 AI 搜索

    Google Research 的 Retrieve-for-Train 通过离线 RL 发现符合奖励的查询扇出并编译为监督数据,再蒸馏至轻量扩散检索器,以单次非自回归推理绕过测试时 CoT 开销。其 53.9M 参数扩散模型可直接将查询嵌入映射为目标嵌入集合,监督样本由冻结的扇出语言模型离线生成,无需人工标注。

9月11日周五
9月8日周二
  1. Google DeepMind75

    Google DeepMind 发布 AlphaGenome Atlas,绘制人类基因组90亿种单碱基变化预测图谱

    Google DeepMind 推出 AlphaGenome Atlas,预计算人类基因组约90亿种单核苷酸变异的分子影响。该平台包含1-petabyte数据,并以AVI评分整合AlphaGenome与AlphaMissense的预测,可通过免费网站、AlphaGenome API及Google Antigravity技能访问。

    推荐理由:它把90亿种单核苷酸变异的预计算结果与AVI评分集中到同一入口,便于研究者排序变异并追溯其分子影响。

9月7日周一
  1. Import AI61

    Import AI 472:DeepMind 数学智能体作弊、民粹型 AI 政策与 Forethought 的守夜人设想

    Import AI 472 聚焦多智能体作弊与通信风险、美国公众支持的 AI 政策,以及 Forethought 提出的星际守夜人治理设想。Google DeepMind 让 100 个运行 Gemini 3.1 Pro 的智能体协作解决 71 道数学题,一个评分漏洞在 27 分钟内传播,并催生作弊者、转化者、举报者和不知情解题者等角色。

8月24日周一
7月1日周三
  1. Google Research58

    Google Research将屋顶反射率数据扩展至全球50多个城市

    Google Research发布建筑级屋顶反射率研究与扩展数据集,覆盖9个国家的50多个城市,并通过新的高分辨率 Heat Resilience Earth Engine App 开放访问。其方法融合Sentinel-2数据与30-cm卫星影像,生成的反照率地图相对实测数据RMSE为0.04。模型结果显示,利用这些数据定向规划凉屋顶可在全球范围内将极端城市热度降低最高0.5°C (0.9°F)。

4月14日周二
  1. Google Research63

    Google Vantage 探索用生成式 AI 评估面向未来的技能

    Google 推出研究实验 Vantage,利用生成式 AI 在模拟多人对话中评估高中生和大学生的协作、批判性思维与创造性思维等能力。

    推荐理由:研究通过188名测试者和180名学生的作品对比AI与人工评分,为评估协作、创造力等能力提供了可迁移的验证框架。