Safeworld 能否让公众相信生成式 AI 机器人不会伤人?
Safeworld 通过在仿真中运行数千种人机相遇场景,评估生成式 AI 机器人控制系统的安全性。公司结束隐秘运营并完成超过 $12 million 种子轮融资,由 Shine Capital 和 a16z Speedrun 领投。其测试涵盖工厂盲角、人员搬运箱子、绊倒和跌落等边缘情况,Gritt Robotics 正与其合作开发安全仿真。
Safeworld 通过在仿真中运行数千种人机相遇场景,评估生成式 AI 机器人控制系统的安全性。公司结束隐秘运营并完成超过 $12 million 种子轮融资,由 Shine Capital 和 a16z Speedrun 领投。其测试涵盖工厂盲角、人员搬运箱子、绊倒和跌落等边缘情况,Gritt Robotics 正与其合作开发安全仿真。
Reka AI 发布 Rho-1 研究预览,这个 19-billion-parameter 全模态模型在单一神经网络中处理并生成文本、图像、视频和机器人控制动作。
AMD以$8.2B收购World Labs,后者专注于创意、设计等领域的AI空间智能,并在收购SceniX后建设机器人模拟能力。World Labs称Atlas从零训练,可根据输入的2D图像预测新相机视角,并通过结合生成模型与多视图几何处理稀疏重建问题。
Import AI 第 474 期梳理了柏拉图式心智空间、Google 太空 TPU 计划,以及智谱用 GLM-5.3 自动优化自家推理基础设施的进展。Michael Levin 提出心智可能是进入物理世界的非物理模式;Google 正为 Project Suncatcher 测试 Trillium TPU 的发射与辐射耐受性。
Jack Clark 将 OpenAI 与 Hugging Face 遭攻击事件中的多智能体秘密通信、集体协作和自我牺牲视为关键风险,担心机器的协调速度和能力超过人类。本期还分析了五眼联盟对前沿模型访问和政府审查的关注,以及 Bill Gates 对 AI 就业冲击与全球政策响应的主张。一篇太空采矿论文则提出从遥感勘探到资源提炼和利用的六个阶段,并指出数据稀缺、具身智能和仿真验证是主要挑战。
MindTopo 基准显示,当前多模态模型在静态拓扑识别上明显优于交互式规划,但两者均远低于人类水平,模型难以在连续行动中维持一致的结构理解。该基准围绕连续性、分离、顺序、封闭和绳结五类关系,同时测试推理与规划。图像生成有时能辅助单帧判断,视频推演则常改变拓扑或违反任务动态。
GRASP 是一种用于学习型动态模型(世界模型)的新型梯度规划器,通过将轨迹提升为虚拟状态,实现跨时间并行优化,让长时域规划更实用。它在状态迭代中直接加入随机性以探索,并重塑梯度,使动作获得清晰信号,同时避免高维视觉模型中脆弱的“状态输入”梯度。