The Decoder· Matthias Bastian·· 3 小时前精选AI 评分78
Symantec 发现劫持未保护语言模型的自主攻击智能体
An AI agent in "Skynet mode" hijacks unprotected language models to launch self-sustaining cyberattacks
AI 导读
Symantec 研究人员发现一个攻击性 AI 智能体，可劫持互联网上未受保护的语言模型并自主发起攻击，被劫持模型的所有者需承担算力费用。该智能体通过五层越狱提示词绕过安全护栏，内置 74 个攻击模块，可在无人工干预下执行最多 10 万步扫描、利用漏洞、窃取数据和安装挖矿程序。
推荐理由
披露了攻击者如何把 LLM 变成自主攻击核心，并给出五层越狱和 74 个模块的具体结构。
来源：The Decoder · the-decoder.com