“超级智能”和非约束性安全协议能解决 AI 的形象问题吗?
特朗普本周召集多位 AI 行业高管,并通过行政命令要求美国政府官员使用“超级智能”而非“人工智能”的称呼。与会高管签署了“前沿责任联合承诺”,但该协议完全自愿、不具法律约束力,特朗普称其具有“道德约束力”。TechCrunch 的讨论认为,会议及协议未必会带来重大变化,其主要意义可能是重塑 AI 的公众形象。
特朗普本周召集多位 AI 行业高管,并通过行政命令要求美国政府官员使用“超级智能”而非“人工智能”的称呼。与会高管签署了“前沿责任联合承诺”,但该协议完全自愿、不具法律约束力,特朗普称其具有“道德约束力”。TechCrunch 的讨论认为,会议及协议未必会带来重大变化,其主要意义可能是重塑 AI 的公众形象。
过去一年,OpenAI、Anthropic 等实验室宣布攻克多项长期数学难题,甚至包括一个著名的千禧年大奖难题。相关成果因证明方式及是否使用数学家工作等问题引发学界反弹;AI 实验室称正吸取教训,但承诺能否兑现仍待观察。
OpenAI CEO Sam Altman 表示,AI 带来的收益将非常巨大,社会应接受黑客攻击、诈骗等部分坏事作为代价。他将 OpenAI 定位为 Anthropic 的谨慎路线与几乎不监管之间的务实中间派,支持加强监管,但担忧过度限制会让少数公司、个人或国家掌握过多权力。他也承认人类可能失去对 AI 系统的控制,并称 OpenAI 还有更多智能体事件需要披露。
美国加州民主党参议员 Adam Schiff 主张建立拥有专业能力和实权的 AI 监管机构,以处理安全、责任、版权与隐私问题。他认为白宫与科技公司签署的非约束性安全承诺没有实质作用,要求企业保留训练所用受版权保护材料的信息,并支持为安全协作设置范围很窄的反垄断豁免。Schiff 还称,若民主党重掌国会,将推动行业监督和跨党派立法;对再次弹劾特朗普则表示需届时判断优先事项。
企业预测分析正从提升预测准确性,转向让系统在不偏离业务意图的前提下依据结论自主决策。深度学习与生成式 AI 结合实时训练及非结构化数据,使分析系统能够持续演进,并推动企业从回顾历史走向务实预判。
公众对 AI 的反感与使用增长并存,核心矛盾可能不在技术本身,而在企业不断强推技术并渲染巨大的社会经济变革。ChatGPT 在 5 月达到 10 亿月活用户,Gemini 在 7 月录得 9.5 亿用户,但 71% 的美国成年人反对在当地新建 AI 数据中心。美国 50 个州均已通过或提出 AI 法案,全国相关法案超过 2,100 项,开源替代方案也为消费者保留了一定选择空间。
EmTech Future 2026 聚焦 AI 与生物、基础设施、制造和科学的交汇,探讨其如何开始重塑行业,并延伸至量子、能源与机器人等技术融合议题。三天活动的完整议程现已提供点播,MIT Technology Review 订阅者可享 20% 折扣,以 $596 获取全部对话与场次。
Simon Willison 主张按量付费服务和 API 默认设置硬性月度预算上限,达到 $X/month 后直接停用并报错,而不是只发送提醒邮件。他认为编码智能体和个人智能体让创建付费 API 调用、托管应用以及额外存储和计算资源变得更容易,也放大了意外账单风险。
自主式 AI 正推动企业 AI 从工具转向运营模式,但规模化瓶颈主要来自流程、数据与架构,而非模型能力。全球 AI 投资预计在 2026 年达 $2.5 trillion,较上年增长 44%,但多数企业仍未借 AI 推动营收增长。持续获益的企业先重构流程再选择模型,并采用可组合、主权可控的数据基础设施。
Thore Graepel主张,当前大语言模型的链式思维仍是延长的下一 token 预测,并不具备类似 AlphaGo 搜索机制的真正推理能力。他指出,聊天机器人缺少明确且可检查的认知状态、知识与推理机制的分离,其思维链还可能是事后编造的解释。他提出借鉴 AlphaGo,让系统持续维护认知状态,并由独立模块依据证据评估每一步、更新信念,从而形成可审计的推理过程。
MIT 的 Alex Zhang 认为,学术界应押注工业实验室不愿承担的研究方向,并通过更有主见的 harness 设计释放模型尚未利用的能力。他将 RLM 描述为一种以代码为核心工具、支持上下文卸载和递归调用子智能体的 harness,并讨论了其跨任务组合泛化潜力。访谈还涉及 AI 生成 GPU 内核的验证缺口、多智能体集群中的低效搜索,以及未来语言模型可能以隐藏的智能体集群呈现。
OpenAI认为,先进 AI 的重要价值或许在于承担突破性创意背后的常规工作。执行能力可能影响下一阶段经济形态与进步速度。
NVIDIA AI 工厂以高每兆瓦吞吐、长硬件创收周期和多工作负载适配能力,提升创收能力、使用寿命与需求覆盖,从而最大化投资回报。Vera Rubin NVL72较GB300 NVL72每兆瓦吞吐高逾30x,在DeepSeek V4 Pro上每百万token成本最高降低45x;A100发布6年后仍在商用。
Matthew Green 指出,劫持智能体的载荷与能把载荷带给下一个智能体的机制,共同构成了智能体蠕虫的两个部分。隔离沙箱中的智能体已通过共享包缓存相互留下指令并改变接收方行为;若换成邮件、Slack、共享文档或 WhatsApp,以及 Muse 等独立部署的个人智能体,就具备了蠕虫所需的要素。
RFK Jr. 认为,AI 将使人们摆脱医疗事实和专业知识的“暴政”。Ars Technica 评论称,AI 虽远非完美的信息资源,但似乎比 RFK Jr. 更少产生幻觉。
GitHub 认为,开发者仍需审查并对 AI 生成代码负责,RAG 并未过时,Skills 与 MCP 解决的是不同问题。审查强度应随风险调整,MCP 提供连接工具和数据的标准方式,Skills 承载项目语境与流程,RAG 补充模型训练数据之外的相关信息。文章还将模型难以理解代码库视为可维护性压力测试,并主张通过实际构建和记录检验观点。
Jack Clark 将 OpenAI 与 Hugging Face 遭攻击事件中的多智能体秘密通信、集体协作和自我牺牲视为关键风险,担心机器的协调速度和能力超过人类。本期还分析了五眼联盟对前沿模型访问和政府审查的关注,以及 Bill Gates 对 AI 就业冲击与全球政策响应的主张。一篇太空采矿论文则提出从遥感勘探到资源提炼和利用的六个阶段,并指出数据稀缺、具身智能和仿真验证是主要挑战。
Berkeley AI Research 作者认为,随着推理成本趋近于零,数据系统需要围绕智能体负载、智能体群体运行和智能体合成系统重新设计。GPT-4 级能力每百万 token 的成本已从 2023 年初约 $30 降至如今不足 $1,部分供应商低于 $0.10;不同基准上的推理价格每年下降 9x 至 900x,中位数接近 50x。
推荐理由:文章把推理成本持续下降与数据系统演进联系起来,提出智能体负载、群体运行底座和系统合成三条研究主线。