模型对比
Kimi K3 vs Kimi K2：关键升级对比
K3 并不是 K2 的小幅迭代。它把总参数从 1T 扩展到 2.8T，把上下文上限从 128K 提升到 1M，引入原生视觉，并同时改变序列注意力与跨深度信息流。
01
规格速览
下表比较初代 Kimi K2 开放模型与 K3 首发规格。两代之间的产品变体可能有不同限制，因此这是一份架构层面的对比。
| 规格 | Kimi K2 | Kimi K3 |
|---|---|---|
| 总参数 | 1T | 2.8T |
| 激活 / 总专家 | 8 / 384 | 16 / 896 |
| 上下文窗口 | 128K | 最高 1M |
| 原生视觉 | 不支持 | 支持 |
02
架构变化
K2 使用 MLA 注意力和 384 专家 MoE；K3 引入 Kimi Delta Attention、Attention Residuals 与 Stable LatentMoE。月之暗面称，架构、训练和数据方案结合后，相比 K2 的整体缩放效率约提高 2.5 倍。
Attention Residuals 在概念上尤其重要：模型不再把历史层简单视为均匀累加，而是能够按需从不同深度检索表征。
03
K2 用户是否应该迁移？
对于托管 API，当前 Kimi 模型列表已经引导用户使用 K3，并将旧 K2 API 系列列为下线。对于自托管研究，K2 仍然有价值，因为它的权重、报告和部署指南已经发布，而 K3 完整权重与技术报告仍按首发计划陆续提供。
- 除非产品约束另有要求，新托管项目优先使用 K3。
- 不要在活跃的 K2 会话中途切到 K3，建议新建会话。
- 用自己的任务进行评测，不同 Agent harness 会显著影响公开分数。
04
常见问题
K3 只是更大的 K2 吗？
不是。除了规模扩大，它还改变了注意力、残差信息流、MoE 稀疏性、量化感知训练和多模态能力。
K3 是否适合替代所有 K2 部署？
不一定。托管 API 用户有明确迁移路径；自托管用户应等待适合自身技术栈的 K3 权重、许可证与推理指南。
官方来源
本文优先依据 Kimi 与 Moonshot AI 官方资料；产品权限与价格可能更新，请以链接页面的实时信息为准。