跳到正文
Latent Space· Basil Chatha·· 3 小时前AI 评分55

Modal CEO Erik Bernhardsson 谈 AI 算力为何呈矩形合约与弹性需求错配

Why AI Compute Comes in Rectangles — Erik Bernhardsson, Modal CEO

AI 导读

Modal CEO Erik Bernhardsson 在访谈中解释 GPU 需求并非矩形:固定容量合约与真实波动的负载错配,Modal 通过聚合数千客户需求、弹性分配容量来平滑需求。他还讨论了 GPU 价格下跌的尾部风险、沙箱产品从濒临关闭到占收入三分之一的增长,以及快照和快速启动对智能体工作负载的重要性。

来源:Latent Space · latent.space