InstructGPT 作者 Diogo Almeida 谈 Jev 与 RLCD:为软件而非聊天造 System 1 模型
TypeSafe AI CEO Diogo Almeida 在 Latent Space 访谈中介绍其新模型 Jev,称其为面向代码消费的 System 1 大模型,优化目标是每美元智能而非聊天体验。
推荐理由:InstructGPT 作者复盘 RLHF 路线问题,并解释 RLCD 为何把校准概率而非人类偏好当作优化目标。
TypeSafe AI CEO Diogo Almeida 在 Latent Space 访谈中介绍其新模型 Jev,称其为面向代码消费的 System 1 大模型,优化目标是每美元智能而非聊天体验。
推荐理由:InstructGPT 作者复盘 RLHF 路线问题,并解释 RLCD 为何把校准概率而非人类偏好当作优化目标。
Berkeley AI Research 作者认为,随着推理成本趋近于零,数据系统需要围绕智能体负载、智能体群体运行和智能体合成系统重新设计。GPT-4 级能力每百万 token 的成本已从 2023 年初约 $30 降至如今不足 $1,部分供应商低于 $0.10;不同基准上的推理价格每年下降 9x 至 900x,中位数接近 50x。
推荐理由:文章把推理成本持续下降与数据系统演进联系起来,提出智能体负载、群体运行底座和系统合成三条研究主线。