Kimi K2 簡介

Kimi K2 由 MoonshotAI 開發，是一種混合專家語言模型，專為高級 AI 任務設計。Kimi K2 擁有 1 兆個總參數和 320 億個啟動參數，在知識處理、推理和編碼方面表現出色。該模型的架構利用了 384 個專家，並在 15.5 兆個 tokens 上進行了預訓練，確保了穩健和穩定的效能。

Kimi K2 針對代理能力進行了最佳化，從而實現自主問題解決和工具使用。使用者可以透過 Kimi 平台 API 訪問 Kimi K2，該 API 兼容 OpenAI 和 Anthropic 標準，或者使用 vLLM、SGLang 或 TensorRT-LLM 等推理引擎在本機部署它。該模型的基本版本和指令版本都可以在 Hugging Face 上找到。

Kimi K2 由 MoonshotAI 開發，是一個混合專家大型語言模型 (LLM)，擁有 1 兆參數，其中啟用了 320 億個參數。Kimi K2 模型專為代理能力而設計，側重於工具使用、推理和自主問題解決。它使用 MuonClip Optimizer 在 15.5 兆個 token 上進行了預訓練。使用者可以透過 kimi.com 網站或透過與 OpenAI 和 Anthropic 標準相容的 API 訪問 Kimi K2。基礎版和 instruct 版本可在 Hugging Face 上找到。對於本地部署，建議使用 vLLM、SGLang、KTransformers 或 TensorRT-LLM 推理引擎。

Kimi K2是由 MoonshotAI 開發的混合專家語言模型，專為代理能力而設計。 Kimi K2 總參數達 1 兆，激活參數達 320 億，在知識、推理和編碼任務方面表現出色。 Kimi K2 模型可透過相容 OpenAI 和 Anthropic 的 API 使用，並可使用 vLLM 等推理引擎在本機部署。 Kimi K2 經過 15.5 兆 token 的預訓練，採用 MuonClip 優化器。 Kimi K2 的基礎版本和指令版本均可在 Hugging Face 上取得。

優點

• Kimi K2 擁有一萬億個參數。
• 提供開源的基礎模型和指令模型。
• 專為 Agentic 任務和自主問題解決而設計。
• 預訓練使用了 15.5 兆個 token。
• 支援 128K token 的上下文長度。

缺點

• 目前不支援視覺功能。
• 需要高 RAM 容量才能在本機執行。
• Web 上的多聊處理 (MCP) 功能正在開發中。
• API 使用可能會產生費用。