NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast
GPT-6 Astra Ultrafast 利用 NVIDIA Blackwell 架构进行推理优化,token 生成速度最高可达 Astra Standard 模式的 8x,现已面向 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由:最高 8x 的 token 生成加速被具体落到编码智能体循环,可用于理解低延迟如何缩短工具调用间的等待。
公司与模型
英伟达的 AI 芯片与生态动态:GPU 新品、CUDA 生态、机器人平台与 AI 算力市场的风向。
4 条精选近 30 天 4 条共收录 11 条
GPT-6 Astra Ultrafast 利用 NVIDIA Blackwell 架构进行推理优化,token 生成速度最高可达 Astra Standard 模式的 8x,现已面向 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户开放。
推荐理由:最高 8x 的 token 生成加速被具体落到编码智能体循环,可用于理解低延迟如何缩短工具调用间的等待。
NVIDIA 与 CoreWeave 将新一代智能体 AI 基础设施投入生产,CoreWeave 宣布 NVIDIA Vera Rubin NVL72 可用,并推出连接模型与智能体训练、评估和改进流程的 CoreWeave Forge。
推荐理由:材料结合真实软件工程负载与多项性能数据,可用于评估新基础设施对智能体推理、沙箱运行和训练成本的影响。
NVIDIA 发布开放表格基础模型 Kumo Tabular,无需训练、调优或特征工程,即可在单次前向推理中完成表格分类与回归。模型提供 28M 至 215M 参数的三种尺寸,仅用人工数据预训练,并在 TabArena、BeyondArena、TALENT 和 ScoringBench 排名第一。
推荐理由:它把表格分类与回归压缩为单次前向推理,并以四项基准结果呈现精度与效率相对传统流程的变化。
NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,公开了超过 2,800 种病毒的蛋白复合物预测 3D 结构,帮助研究人员储备疫情应对所需的结构生物学知识。
推荐理由:材料同时给出数据集规模、推理流程与置信度标注方式,为病毒结构研究提供可直接复用的开放资源。