The Decoder· Matthias Bastian·· 3 小时前AI 评分58
DeepSeek 开源推理框架 DeepInfer
Deepseek open-sources the inference engine that powers its fastest and cheapest AI model
AI 导读
DeepSeek 以 Apache 2.0 许可证开源其内部推理框架 DeepInfer，该框架基于 vLLM 构建，支撑 V4.1-Flash 模型的高效推理。
来源：The Decoder · the-decoder.com