Kimi K3はオープン。でも、なぜ今はローカルで動かせないのか？

Kimi K3は今日から使えます。ただし、使えるのはKimiのホスト型製品とAPI経由だけです。 Moonshotによれば完全な重みは 2026年7月27日まで に公開予定で、現時点では検証済みのcheckpointをダウンロードしてセルフホストすることはできません。障壁はモデルの規模です。2.8兆パラメータのモデルは、4-bit重みだけでも計画上の下限が約 1.4TB。ランタイムのオーバーヘッドや長文コンテキスト用KVキャッシュは含まれていません。これは「4090一枚に入るか」ではなく、クラスタをどう設計するかという話です。

この記事でわかること:

• Moonshotが公開しているKimi K3の仕様と利用方法
• 2.8Tモデルが低精度でも複数GPUを必要とする理由
• APIと将来のセルフホストを選ぶ基準
• 重み公開日に安全に検証・デプロイするためのチェックリスト

Kimi K3で確認されていること

MoonshotはKimi K3を、2.8Tパラメータ、ネイティブのビジョン入力、100万トークンのコンテキストウィンドウを持つモデルとして説明しています。Kimi Delta Attention、Attention Residuals、疎なMoEを採用し、トークンごとに896専門家のうち16を有効化します。公開時点ではKimi.com、Kimi Work、Kimi Code、Kimi APIで利用でき、推論努力のデフォルトはmaxです。これらの一次情報はMoonshotの公式発表で確認できます。

この表で重要なのは総パラメータ数です。疎なモデルは各トークンで一部の専門家だけを計算しますが、ローカル推論では完全なcheckpointにアクセスできる必要があります。アクティブパラメータが示すのはトークンあたりの計算量であり、2.8Tの重みをデスクトップ級のダウンロードに縮めるものではありません。

Kimi K3は使えるが、まだダウンロードできない

現時点で、公式に検証済みのcheckpointからKimi K3をローカル実行することはできません。 ホスト型のKimi K3は使えますが、Moonshotは完全な重みと技術レポートをまだ公開していません。そのため、最低VRAM、サービングコマンド、量子化の推奨、商用ライセンスの解釈を信頼して断言できる人はいません。

選ぶべき道は目的で決まります。

• 今すぐコーディングや知識作業にK3を使いたい？ Kimi製品またはAPIを使います。
• 将来のデプロイを見積もりたい？ 下の計画用の計算を使い、十分な余裕を取ります。
• 今週中に自分で管理できるオープンウェイトモデルが必要？ 重み、対応ランタイム、実測ハードウェア指針が公開済みのモデルを選びます。ローカルLLMのGPU要件ガイドが出発点になります。

最後の選択肢は必ずしも妥協ではありません。計測・保護・安定運用できる32Bや120Bのモデルの方が、デプロイ詳細が不明な巨大モデルを待つより役立つ場面は多くあります。

Kimi K3のハードウェア要件：1.4TBという現実

Kimi K3の公式な最低VRAM要件はまだありません。以下は計画用の概算であり、公開された必要条件ではありません。

重みストレージの下限は、総パラメータ数 × パラメータあたりのバイト数で計算できます。パッケージングとランタイムのオーバーヘッドを無視すると、2.8兆パラメータは16-bitで約5.6TB、8-bitで約2.8TB、4-bitで約1.4TBです。

実際のサービングにはこの表以上のメモリが必要です。モデルmetadata、CUDA workspace、tensor parallelismの通信buffer、各リクエストのKVキャッシュを確保しなければなりません。100万トークンを受けられることは、100万トークンを安く提供できることとは別です。プロダクションではバッチ、障害、保守の余裕も必要になります。

4-bitのKimi K3でも、計画は「大きめのGPU一枚」ではなく大容量GPU複数枚またはクラスタから始めるべきです。RTX 4090は24GBで、4-bit重みだけの概算下限と比べても約58分の1です。将来CPU offloadで実験できる形式が出るかもしれませんが、メモリの代わりに生成速度を大きく失います。

注意： 公式checkpointのサイズと実測済み構成が出るまで、この概算でハードウェアを選んだり、顧客にセルフホストの価格を提示したりしないでください。

APIかセルフホストか：今選ぶべき道

現在の大半のチームにとって、現実的なのはAPIです。いつ互換性のある重みが出るのか、実際にどのGPUが必要なのかという二つの大きな不確実性を避けられます。

Moonshotの公開料金は、入力100万トークン$3.00、出力100万トークン$15.00、キャッシュヒット入力100万トークン$0.30です。料金と利用規約は変わり得るため、見積もる前にKimi APIプラットフォームで確認してください。

初期評価のコストは次の式で求められます。

代表的なpromptで入力・出力の長さを記録し、最新の料金表で計算してください。将来のクラスタと比較するための実データになり、未検証の重みから架空の時間料金を作ることを避けられます。

重み公開日の安全なセルフホスト手順

重みが公開された直後に、最初のミラーを落として一般的なserverコマンドを実行したくなるかもしれません。次の順番で進めてください。

1. 出所とライセンスを確認する。 Moonshot公式repositoryまたはモデルページから始め、revision、利用許可、アクセス条件を記録します。
2. 技術レポートとmodel cardを読む。 公式のcontext limit、必要なTransformers／serving engineの版、prompt形式、推奨精度を確認します。
3. 保守的なコンテキストから始める。 長いコンテキストはKVキャッシュを増やします。短いリクエストを成功させてから、公称上限の容量を検討します。
4. マルチGPU runtimeを意図的に設定する。 vLLMとSGLangはGPU間でモデルを分散できますが、tensor parallelとpipeline parallelの正しい設定は公開後のアーキテクチャ次第です。
5. 利用者を増やす前に計測する。 1リクエストのVRAM、最初のトークンまでの時間、tokens/s、エラー率、出力品質を取り、段階的に同時実行数を増やします。
6. checkpointを永続化する。 数TBのモデルは起動ごとに取得するものではありません。検証済みの重み、checksum、revisionを永続ストレージに残します。

Glows.aiでは、構成済みのvLLMまたはSGLang環境でマルチGPU instanceを作成し、モデルを永続ストレージに置く流れになります。基盤の考え方はDeepSeek-R1のマルチマシンSGLangチュートリアルと同じですが、K3の公式サービング指針が出るまでモデル設定をそのまま流用しないでください。checkpointの保存と取得はHugging Faceモデルのダウンロードガイドを参照してください。

重みを待つ間に何を動かすべきか

本当の目的が「自分で制御できる強いモデル」なら、モデルの規模を利用可能なGPUに合わせます。24GBは小規模な推論、80GBはより大きなオープンウェイト、完全な重みが一枚に入らないモデルはマルチGPUクラスタ向けです。選択肢は2026年ローカルモデルGPUガイドで確認できます。

目的がKimi K3そのものなら、今はAPIが妥当です。コーディング、ビジョン、長文コンテキストの挙動をチームで評価し、重み、ライセンス、実測スループットが揃ってから、プライバシーや利用量に合うか判断できます。

よくある質問

Kimi K3はオープンソースですか？

MoonshotはKimi K3をopen 3T-class modelと呼び、完全な重みを2026年7月27日までに公開するとしています。重みとライセンス本文が出るまでは、正確なセルフホスト条件や商用利用条件は未確認として扱ってください。ホスト型製品とAPIはすでに使えます。

RTX 4090一枚でKimi K3を動かせますか？

現時点で検証済みのセルフホスト構成はありません。総パラメータは2.8Tで、4-bit重みだけの計算下限は約1.4TBです。RTX 4090は24GBなので、必要なのは消費者向けGPU一枚ではなくマルチGPU基盤です。

Kimi K3に必要なVRAMはどのくらいですか？

Moonshotは公式の最低値を公開していません。1.4TBはランタイムのオーバーヘッドとKVキャッシュを含まない4-bit重みの算術です。checkpoint、量子化の選択肢、実測サービング報告が出てから構成を選びましょう。

Kimi K3にはAPIがありますか？

あります。MoonshotはKimi K3をKimi APIに掲載しており、Kimi.com、Kimi Work、Kimi Codeでも提供しています。現在のmodel ID、料金、制限は公式APIプラットフォームで確認してください。

どんなときにセルフホストが合理的ですか？

プライベート推論、固定されたモデルrevision、カスタム基盤、または継続的に十分大きい利用量が必要なときです。実測したAPI支出と、GPU、ストレージ、ネットワーク、運用、人件費を含めた総コストを比較してください。

関連ガイド

• 24GB、80GB、マルチGPUで動かせるローカルモデルを確認する
• PCで動かない新モデルをGPU購入なしで試す方法
• SGLangで大規模モデルを複数マシンに展開する方法

確認済みの経路から始める

Kimi K3の規模は確かに珍しいものです。しかしリリース当日に役立つ判断は単純です。今はホスト型K3またはAPIを使い、公式artifactが出る前にK3用クラスタを借りないことです。今日プライベートなモデルendpointが必要なら、Glows.aiで公開済みの重みと検証済みrunbookを持つモデル用にGPU instanceを作成してください。K3の重みが出たらDatadriveに保存し、他人の推測ではなく自分のワークロードでbenchmarkしてください。