跳到正文
TechCrunch · AI· Aditya Mehta·· 3 小时前AI 评分62

Goodfire 推出“由内而外”监控器,低成本捕捉失控 AI 智能体

Goodfire says its new ‘inside-out’ monitors catch rogue AI agents at a fraction of the cost

AI 导读

Goodfire 推出内部激活监控器,通过读取模型中间计算信号来检测恶意行为,已向 Baseten 客户开放。在 Kimi K3 测试中,监控约 1500 个会话成本约 51 美元,而外部模型监控需 233 美元至 1 万美元;探针捕获 94% 恶意黑客会话,误报率 8.7%,且增加不到 2% 响应延迟。

来源:TechCrunch · AI · techcrunch.com