NVIDIA Blog· Saša Zdjelar·· 16 天前AI 评分35
NVIDIA 谈 AI 安全:如何在智能体栈的每一层解决这一工程问题
AI Security Is an Engineering Problem — How to Solve It at Every Layer of the Agent Stack
AI 导读
NVIDIA 提出 AI 安全是工程问题,需要明确的安全需求、可执行的管控、指定负责人和防护有效的证据。智能体栈中模型、harness 与运行时环境各层都承担安全责任,权限不能随任务自动扩展,敏感操作仍需人工审批。NVIDIA OpenShell 作为开源安全运行时在智能体之外强制执行策略并提供沙箱执行,Cisco DefenseClaw 与 JFrog 已在其上构建治理与技能扫描能力。
来源:NVIDIA Blog · blogs.nvidia.com