Kimi K3、2.8兆パラメータと100万トークン文脈の重みを公開
Moonshot AIは、総2.8兆・活性1040億パラメータのMoEモデルKimi K3を公開しました。テキストと画像、104万8576トークンの文脈、MXFP4重みとMXFP8活性を掲げ、vLLMやSGLangでの提供手順も示しています。比較値は最大推論設定や異なるハーネスを含むため、実際のGPU構成、ツール呼び出し、文脈管理で再評価が必要です。
公開重みでも、総パラメータ数より活性パラメータ、量子化形式、サービング互換性が運用コストを決めます。長文脈の仕様値と、長時間エージェントの安定性を分けて検証する必要があります。
- 読むべき人
- LLM基盤担当、AIエージェント開発者、公開モデルを評価するチーム
- HN
- 1299 points / 510 comments