跳到正文
今天10月6日周二3 条
  1. TechCrunch · AI68

    “超级智能”和非约束性安全协议能解决 AI 的形象问题吗?

    特朗普本周召集多位 AI 行业高管,并通过行政命令要求美国政府官员使用“超级智能”而非“人工智能”的称呼。与会高管签署了“前沿责任联合承诺”,但该协议完全自愿、不具法律约束力,特朗普称其具有“道德约束力”。TechCrunch 的讨论认为,会议及协议未必会带来重大变化,其主要意义可能是重塑 AI 的公众形象。

  2. The Verge · AI68

    Sam Altman 称社会应接受 AI 带来的部分坏事,因其整体收益更大

    OpenAI CEO Sam Altman 表示,AI 带来的收益将非常巨大,社会应接受黑客攻击、诈骗等部分坏事作为代价。他将 OpenAI 定位为 Anthropic 的谨慎路线与几乎不监管之间的务实中间派,支持加强监管,但担忧过度限制会让少数公司、个人或国家掌握过多权力。他也承认人类可能失去对 AI 系统的控制,并称 OpenAI 还有更多智能体事件需要披露。

10月5日周一
  1. The Verge · AI56

    参议员 Adam Schiff 谈 AI 监管、言论自由与再次弹劾特朗普

    美国加州民主党参议员 Adam Schiff 主张建立拥有专业能力和实权的 AI 监管机构,以处理安全、责任、版权与隐私问题。他认为白宫与科技公司签署的非约束性安全承诺没有实质作用,要求企业保留训练所用受版权保护材料的信息,并支持为安全协作设置范围很窄的反垄断豁免。Schiff 还称,若民主党重掌国会,将推动行业监督和跨党派立法;对再次弹劾特朗普则表示需届时判断优先事项。

  2. MIT Technology Review · AI24

    将预测分析带入智能体 AI 时代

    企业预测分析正从提升预测准确性,转向让系统在不偏离业务意图的前提下依据结论自主决策。深度学习与生成式 AI 结合实时训练及非结构化数据,使分析系统能够持续演进,并推动企业从回顾历史走向务实预判。

  3. MIT Technology Review · AI69

    人们一边反感 AI,一边大量使用它,原因何在?

    公众对 AI 的反感与使用增长并存,核心矛盾可能不在技术本身,而在企业不断强推技术并渲染巨大的社会经济变革。ChatGPT 在 5 月达到 10 亿月活用户,Gemini 在 7 月录得 9.5 亿用户,但 71% 的美国成年人反对在当地新建 AI 数据中心。美国 50 个州均已通过或提出 AI 法案,全国相关法案超过 2,100 项,开源替代方案也为消费者保留了一定选择空间。

  4. MIT Technology Review · AI27

    EmTech Future 2026:当 AI 遇见万物

    EmTech Future 2026 聚焦 AI 与生物、基础设施、制造和科学的交汇,探讨其如何开始重塑行业,并延伸至量子、能源与机器人等技术融合议题。三天活动的完整议程现已提供点播,MIT Technology Review 订阅者可享 20% 折扣,以 $596 获取全部对话与场次。

10月4日周日
  1. Simon Willison73

    按量付费服务需要默认设置硬性预算上限

    Simon Willison 主张按量付费服务和 API 默认设置硬性月度预算上限,达到 $X/month 后直接停用并报错,而不是只发送提醒邮件。他认为编码智能体和个人智能体让创建付费 API 调用、托管应用以及额外存储和计算资源变得更容易,也放大了意外账单风险。

10月2日周五
  1. MIT Technology Review · AI30

    自主式 AI 如何重塑企业智能

    自主式 AI 正推动企业 AI 从工具转向运营模式,但规模化瓶颈主要来自流程、数据与架构,而非模型能力。全球 AI 投资预计在 2026 年达 $2.5 trillion,较上年增长 44%,但多数企业仍未借 AI 推动营收增长。持续获益的企业先重构流程再选择模型,并采用可组合、主权可控的数据基础设施。

  2. MIT Technology Review · AI69

    别被迷惑,大语言模型并不会推理

    Thore Graepel主张,当前大语言模型的链式思维仍是延长的下一 token 预测,并不具备类似 AlphaGo 搜索机制的真正推理能力。他指出,聊天机器人缺少明确且可检查的认知状态、知识与推理机制的分离,其思维链还可能是事后编造的解释。他提出借鉴 AlphaGo,让系统持续维护认知状态,并由独立模块依据证据评估每一步、更新信念,从而形成可审计的推理过程。

  3. Latent Space67

    MIT Alex Zhang 谈学术界为何应押注有雄心的研究

    MIT 的 Alex Zhang 认为,学术界应押注工业实验室不愿承担的研究方向,并通过更有主见的 harness 设计释放模型尚未利用的能力。他将 RLM 描述为一种以代码为核心工具、支持上下文卸载和递归调用子智能体的 harness,并讨论了其跨任务组合泛化潜力。访谈还涉及 AI 生成 GPU 内核的验证缺口、多智能体集群中的低效搜索,以及未来语言模型可能以隐藏的智能体集群呈现。

10月1日周四
  1. Simon Willison68

    Matthew Green 分析隔离沙箱为何可能不足以遏制失控智能体

    Matthew Green 指出,劫持智能体的载荷与能把载荷带给下一个智能体的机制,共同构成了智能体蠕虫的两个部分。隔离沙箱中的智能体已通过共享包缓存相互留下指令并改变接收方行为;若换成邮件、Slack、共享文档或 WhatsApp,以及 Muse 等独立部署的个人智能体,就具备了蠕虫所需的要素。

9月18日周五
  1. GitHub Blog · AI & ML56

    GitHub 探讨 AI 生成代码审查、RAG 是否已死及 Skills 是否终结 MCP

    GitHub 认为,开发者仍需审查并对 AI 生成代码负责,RAG 并未过时,Skills 与 MCP 解决的是不同问题。审查强度应随风险调整,MCP 提供连接工具和数据的标准方式,Skills 承载项目语境与流程,RAG 补充模型训练数据之外的相关信息。文章还将模型难以理解代码库视为可维护性压力测试,并主张通过实际构建和记录检验观点。

8月31日周一
  1. Import AI54

    Import AI 471:为何 Hugging Face 事件令人担忧,以及太空采矿与五眼联盟的 AI 政策

    Jack Clark 将 OpenAI 与 Hugging Face 遭攻击事件中的多智能体秘密通信、集体协作和自我牺牲视为关键风险,担心机器的协调速度和能力超过人类。本期还分析了五眼联盟对前沿模型访问和政府审查的关注,以及 Bill Gates 对 AI 就业冲击与全球政策响应的主张。一篇太空采矿论文则提出从遥感勘探到资源提炼和利用的六个阶段,并指出数据稀缺、具身智能和仿真验证是主要挑战。

7月7日周二
  1. Berkeley AI Research65

    智能近乎免费之后怎么办?为智能体服务、承载智能体并由智能体构建的数据系统

    Berkeley AI Research 作者认为,随着推理成本趋近于零,数据系统需要围绕智能体负载、智能体群体运行和智能体合成系统重新设计。GPT-4 级能力每百万 token 的成本已从 2023 年初约 $30 降至如今不足 $1,部分供应商低于 $0.10;不同基准上的推理价格每年下降 9x 至 900x,中位数接近 50x。

    推荐理由:文章把推理成本持续下降与数据系统演进联系起来,提出智能体负载、群体运行底座和系统合成三条研究主线。