MCP 智能体间通信为何可能成为高风险协议
过去五个月,Google 和另外四家机构承认其 AI 智能体存在漏洞,攻击者可借一个内部智能体向其他智能体传播恶意指令。这种特殊提示词注入针对具体智能体而非 LLM,并利用下游智能体对上游智能体的明确信任。独立研究员 Syed Anas Mohiuddin 的概念验证攻击利用了 MCP 中的信任缺口。
过去五个月,Google 和另外四家机构承认其 AI 智能体存在漏洞,攻击者可借一个内部智能体向其他智能体传播恶意指令。这种特殊提示词注入针对具体智能体而非 LLM,并利用下游智能体对上游智能体的明确信任。独立研究员 Syed Anas Mohiuddin 的概念验证攻击利用了 MCP 中的信任缺口。
Microsoft ThinkingBox 根据智能体执行后留下的数据库终态和副作用评分,并让507个有状态业务工作流各重复运行20次,以衡量结果一致性。在覆盖12个LLM、121,680次有效试验的消融中,79,853次未通过可执行检查,其中67.24%仍正常结束、调用了状态变更工具且未报告最终工具错误。
推荐理由:它把智能体评估从回答与工具调用转向数据库终态,并以连续20次运行揭示单次成功率难以代表工作流可靠性。
ProvenanceGuard 是面向 MCP 智能体的生成后核验层,可在不重新训练智能体的情况下,逐条检查声明是否由答案所指向的正确来源支持。在40个答案的361条声明中,专家认为139条不应通过,系统拦截了其中138条;其 Reject/block F1 为0.802,并为每条声明输出来源 ID。面对多个相似来源时,其拦截 F1 为0.846,但精确识别来源的正确率为50.3%。
Google Research提出ToolGrad,以答案优先范式和文本“梯度”构建已验证API工作流,降低长链工具使用数据的生成成本。ToolGrad-12B在BFCL得83.1分,接近gemini-2.5-pro的83.2,并高于claude-4.5 Opus与gpt-5。