周二下午，DeepSeek 宣布全面开源内部推理框架 DeepInfer，进一步开放大模型推理基础设施，旨在帮助开发者和企业降低大规模 AI 服务的算力成本与能源消耗。
据 DeepSeek 介绍，DeepInfer 集成高性能算子与优化推理引擎，支持分布式推理、推测解码、结构化输出等能力，并兼容英伟达与华为昇腾平台。基于该框架，DeepSeek 已实现 DeepSeek V4.1 Flash 的高吞吐、低延迟大规模推理服务。
老牌股票配资元股证券:ygzq.hkDeepSeek 还同步开源生产级 Token 编解码组件 deepseek-recipe，确保社区获得与官方部署一致的 API 体验。未来，DeepSeek 新模型的推理代码及后续优化也将在 DeepInfer 持续更新。
DeepSeek 表示布林线下轨，希望通过开放模型、算子库及推理框架，帮助开发者优化推理效率、降低部署成本，推动 AI 服务以更低成本触达更广泛的用户。
配资门户网站提示：本文来自互联网，不代表本网站观点。
