跳到正文
NVIDIA Blog· Dion Harris·· 4 天前精选AI 评分79

NVIDIA GPU 如何加速 OpenAI GPT-6 Astra Ultrafast

How NVIDIA GPUs Help Accelerate OpenAI’s GPT-6 Astra Ultrafast

AI 导读

GPT-6 Astra Ultrafast 利用 NVIDIA Blackwell 架构进行推理优化,token 生成速度最高可达 Astra Standard 模式的 8x,现已面向 OpenAI API 及符合条件的 ChatGPT Work 和 Codex 用户开放。

推荐理由

最高 8x 的 token 生成加速被具体落到编码智能体循环,可用于理解低延迟如何缩短工具调用间的等待。

来源:NVIDIA Blog · blogs.nvidia.com