Hugging Face Blog·· 7 天前AI 评分51
ProvenanceGuard 为 MCP 智能体提供来源感知事实核验
Getting the Source Right, Not Just the Fact: Source-Aware Verification for MCP Agents
AI 导读
ProvenanceGuard 是面向 MCP 智能体的生成后核验层,可在不重新训练智能体的情况下,逐条检查声明是否由答案所指向的正确来源支持。在40个答案的361条声明中,专家认为139条不应通过,系统拦截了其中138条;其 Reject/block F1 为0.802,并为每条声明输出来源 ID。面对多个相似来源时,其拦截 F1 为0.846,但精确识别来源的正确率为50.3%。
来源:Hugging Face Blog · huggingface.co