Kimi K2 简介

Kimi K2 由 MoonshotAI 开发，是一种混合专家语言模型，专为高级 AI 任务设计。Kimi K2 拥有 1 万亿个总参数和 320 亿个激活参数，在知识处理、推理和编码方面表现出色。该模型的架构利用了 384 个专家，并在 15.5 万亿个 tokens 上进行了预训练，确保了稳健和稳定的性能。

Kimi K2 针对代理能力进行了优化，从而实现自主问题解决和工具使用。用户可以通过 Kimi 平台 API 访问 Kimi K2，该 API 兼容 OpenAI 和 Anthropic 标准，或者使用 vLLM、SGLang 或 TensorRT-LLM 等推理引擎在本地部署它。该模型的基础版本和指令版本都可以在 Hugging Face 上找到。

Kimi K2 由 MoonshotAI 开发，是一个混合专家大型语言模型 (LLM)，拥有 1 万亿参数，其中激活了 320 亿个参数。Kimi K2 模型专为代理能力而设计，侧重于工具使用、推理和自主问题解决。它使用 MuonClip Optimizer 在 15.5 万亿个 token 上进行了预训练。用户可以通过 kimi.com 网站或通过与 OpenAI 和 Anthropic 标准兼容的 API 访问 Kimi K2。基础版和 instruct 版本可在 Hugging Face 上找到。对于本地部署，建议使用 vLLM、SGLang、KTransformers 或 TensorRT-LLM 推理引擎。

Kimi K2由MoonshotAI开发，是一种混合专家语言模型，专为代理能力而设计。Kimi K2总参数达1万亿，激活参数达320亿，在知识、推理和编码任务方面表现出色。Kimi K2模型可通过兼容OpenAI和Anthropic的API使用，并可使用vLLM等推理引擎在本地部署。Kimi K2经过15.5万亿token的预训练，采用MuonClip优化器。Kimi K2的基础版本和指令版本均可在Hugging Face上获取。

优点

• Kimi K2 拥有一万亿个参数。
• 提供开源的基础模型和指令模型。
• 专为 Agentic 任务和自主问题解决而设计。
• 预训练使用了 15.5 万亿个 token。
• 支持 128K token 的上下文长度。

缺点

• 目前不支持视觉功能。
• 需要高 RAM 容量才能在本地运行。
• Web 上的多聊处理 (MCP) 功能正在开发中。
• API 使用可能会产生费用。