跳到正文

技术方向

部署工程 最新动态

把模型跑起来的工程实践：推理优化、显存与成本、Serving 架构与基础设施选型。

42 条精选近 30 天 34 条共收录 180 条

更新

精选归档 · 第 3 页

5月25日周一第 41–42 条
  1. Hugging Face Blog63

    Hugging Face 解析 AI 智能体中的 Harness、Scaffold 与关键术语

    Hugging Face 梳理 AI 智能体领域的易混术语，将 Scaffold 定义为模型周围决定行为的层，将 Harness 定义为调用模型、处理工具调用并决定何时停止的执行层。文章还区分了模型、智能体、上下文工程、Policy、工具、技能与子智能体，并解释了 RL 训练中的环境、Trainer、Rollout 和 Reward。

    推荐理由：文章以模型、Scaffold 与 Harness 的分层关系厘清易混术语，并串联上下文工程和强化学习训练环节，便于跨框架沟通。

10月24日周五
  1. Mistral AI60

    Mistral 发布 AI Studio 生产级 AI 平台

    Mistral 发布 AI Studio，面向企业提供可观测性、Agent Runtime 和 AI Registry 三大支柱，帮助团队从原型走向生产。平台支持混合、专有和自托管部署，并开放私有测试申请。

    推荐理由：Mistral 把自家生产系统沉淀为可观测、可治理的 Agent 平台，企业可据此判断能否把原型推进到生产。