Kimi K3 开放权重:发布时间与架构信息
月之暗面将 K3 称为开放的 3T 级模型,并表示完整权重计划于 2026 年 7 月 27 日前发布。在准确仓库、许可证和推理说明公布前,能够在 Kimi 产品中使用并不等同于可复现的自托管发布。
当前发布状态
首发时,K3 已在 Kimi.com、Kimi Work、Kimi Code 和 Kimi API 上线;官方博客把完整模型权重与技术报告列为后续发布。计划本地推理、再分发或微调的团队必须区分这两种状态。
- 托管产品与 API:首发即用。
- 完整权重:官方计划于 2026 年 7 月 27 日前发布。
- 技术报告:计划同步披露更多架构、训练与评测细节。
已经披露的信息
K3 拥有 2.8T 总参数、100 万 token 上下文和原生视觉。稀疏 MoE 每次激活 896 个专家中的 16 个。架构结合 Kimi Delta Attention、Attention Residuals、Stable LatentMoE、Gated MLA,并从 SFT 阶段采用 MXFP4 权重与 MXFP8 激活的量化感知训练。
这些信息解释了设计,但还不是完整推理方案。硬件显存、张量格式、tokenizer、许可证条款和受支持推理引擎,都必须以最终发布产物为准。
自托管检查清单
即使每个 token 只激活部分专家,2.8T 稀疏模型仍然是分布式系统工程。不能只根据激活专家数量估算基础设施。
- 核对官方仓库、校验和与模型许可证。
- 确认受支持的量化格式与推理引擎版本。
- 按目标上下文长度评估专家并行通信和 KV Cache 显存。
- 投入生产前先复现一组小规模官方评测。
常见问题
Kimi K3 完整权重现在可以下载吗?
首发公告表示完整权重计划于 2026 年 7 月 27 日前发布。应通过月之暗面官方渠道确认最终仓库和许可证,不要依赖第三方上传。
只激活 16 个专家是否意味着 K3 容易自托管?
不是。总权重存储、专家分布、通信、KV Cache 和推理软件仍使 2.8T 模型成为大型基础设施项目。
官方来源
本文优先依据 Kimi 与 Moonshot AI 官方资料;产品权限与价格可能更新,请以链接页面的实时信息为准。