🔥 L40s Server Is Now Live – Just 0.83 credits/hr!
Glows.ai

vLLM と ComfyUI 向け GPU クラウド:性能とコスト

クラウド GPU
vLLM
ComfyUI
GPU コスト最適化

vLLM と ComfyUI 向け GPU クラウド:性能とコスト

vLLM と ComfyUI に適した GPU クラウドを選ぶ際は、メモリ容量、ソフトウェアの互換性、実効スループット、ワークロードを完了するまでのコストを比較しましょう。vLLM は言語モデルへのリクエストを処理し、ComfyUI はノードベースの生成ワークフローを実行します。一方で高い性能を発揮する構成が、もう一方にも適しているとは限りません。

Glows.ai は、秒単位で課金されるオンデマンド GPU 上で、これらのツールを自分で設定したい開発者に適しています。イメージカタログには vLLM 環境と ComfyUI イメージがあり、FLUX.1-Kontext も含まれます。まずワークロードに合うイメージと GPU を選び、レイテンシー、出力品質、実行全体のコストを測定してから規模を拡大しましょう。

1. ワークロードに合わせてクラウド構成を選ぶ

どちらのワークロードにも十分な GPU メモリが必要ですが、使い方は異なります。vLLM では、モデルの重み、キーバリューキャッシュ、実行時バッファーがメモリを共有します。コンテキスト長と同時リクエスト数がメモリ要件に影響します。ComfyUI では、ワークフローが複数のモデルと中間テンソルを読み込む場合があり、解像度、バッチサイズ、動画の長さ、カスタムノードによってピーク使用量が変わります。

要件vLLMComfyUI
メモリ容量モデルの重み、KV キャッシュ、実行時バッファー、同時実行数読み込むモデル、中間テンソル、解像度、ワークフローの各段階
実用上の性能必要なレイテンシー目標内で正常に出力できるトークンのスループット必要な品質を満たす採用可能な画像・動画の単位時間あたりの数
起動と I/O重みの読み込みと推論ランタイムの準備チェックポイント、カスタムノード、入力メディア、出力ファイルの読み書き
アクセス方法アプリケーションが推論 API にリクエストを送信ユーザーがブラウザーでワークフローを編集、またはクライアントがキューにジョブを投入

実際のワークロードに対してメモリに余裕のある試行用構成を選んでください。RTX 4090 は 24 GB の VRAM を搭載しており、その容量に収まるワークロードの開始候補になります。A100 80GB と H100 80GB は、より大きなメモリ容量を提供します。GPU メモリだけから、対応するモデルサイズ、コンテキスト上限、画像生成能力を断定しないでください。

同じインスタンスで vLLM と ComfyUI を動かす場合は、両者を合わせたメモリとリソースの需要を測定しましょう。インスタンスを分けると、リソース競合、スケジューリング、ワークロードごとのコストを管理しやすくなります。複数の GPU が自動的に単一の共有メモリプールになるわけではありません。

2. インスタンス料金と処理完了までのコストを比較する

Glows.ai オンデマンドインスタンス料金 · 米ドル/GPU 時間

NVIDIA GPU料金検証する項目
RTX 4090 · 24 GB VRAM$0.49想定するコンテキストやワークフロー設定でメモリが足りるか
L40S$0.83利用可能な構成と実測したワークロードのスループット
A100 80GB$1.20メモリの余裕と総実行時間
RTX PRO 6000$2.30必要な構成を決める前に、利用可能なバリアントと VRAM を確認
H100 80GB$2.59バリアント、GPU 数、性能が時間単価に見合うか

計算リソースは秒単位で課金されます。RTX 5090、H200、B200 の空き状況と料金、および H100 の大量注文の見積もりは、Glows.ai にお問い合わせください。実行前に、最新の料金と構成を確認しましょう。

これらはオンデマンド GPU インスタンスの料金であり、マネージドのサーバーレスエンドポイントやトークンの料金ではありません。Inference on Cloud を利用する場合は、対応モデルとランタイム、スケーリングの動作、適用される課金を別途確認してください。Auto Deploy では、リクエストを受信すると Glows.ai がインスタンスを作成し、一定のアイドル期間後に解放することで、アイドル時の計算料金を抑えます。解放後の最初のリクエストにはコールドスタートの時間がかかります。

GPU 計算コスト = Σ(GPU 数 × GPU 時間単価 × 課金対象時間)

課金対象となる読み込み、アイドル時間、失敗した試行、再試行を計算料金に含め、その後、別途課金されるストレージ、データ転送、その他のサービスを加えます。詳細条件は正式なサービス契約をご確認ください。

vLLM では、正常に出力された 100 万トークンあたりのコストを、入力・出力長の分布とレイテンシー目標とともに示します。ComfyUI では、解像度と品質設定を固定し、採用可能な画像または動画 1 点あたりのコストを示してください。使える出力が得られなかった処理についても、その費用をコスト計算の分子に含めます。

例として、RTX 4090 を 1 基、1 GPU・1 時間あたり $0.49 で 2 時間利用すると、GPU 計算コストは $0.98 です。この仮定の実行で採用可能な画像が 100 枚得られた場合、画像 1 枚あたりの計算コストは $0.0098 になります。出力数は仮定であり、ベンチマークではありません。ストレージやその他の料金は含めていません。

3. メモリとレイテンシーの目標に合わせて vLLM を調整する

vLLM は、ページ単位の KV キャッシュ管理や連続バッチ処理などを使い、推論サービスの効率を高めます。その効果は、モデル、リクエストの構成、ハードウェア、ランタイム設定に左右されます。同時実行数を増やすと全体のスループットが向上する一方、キュー待ち時間やテールレイテンシーが増える場合があるため、両方を測定しましょう。

  • 比較条件を固定する:モデルとトークナイザーのバージョン、精度または量子化方式、最大コンテキスト、入力・出力長、推論ランタイムのバージョンを記録します。デプロイ前に、モデルと量子化方式への対応を確認してください。

  • プリフィルとデコードを測定する:同時実行数を徐々に増やしながら、最初のトークンが返るまでの時間、出力トークンのスループット、p50/p95 レイテンシー、エラー、VRAM のピーク使用量を追跡します。アプリケーションを代表するリクエスト構成を使いましょう。

  • 目的に応じて並列処理を使う:テンソル並列は、対応モデルを複数 GPU に分散できますが、通信のオーバーヘッドとインターコネクトも重要です。独立したレプリカはより多くのリクエストを処理できますが、単一リクエストのレイテンシーを下げるとは限りません。

対応する vLLM の構成では OpenAI 互換 API を利用できますが、個別の API 機能との互換性は確認が必要です。vLLM のサーバーはデフォルトではキーなしでリクエストを受け付けます。起動時に --api-key <your-key> を指定すると、キーのないリクエストは拒否されます。<your-key> は使用するキーに置き換えてください。

4. 再現可能な ComfyUI ワークフローを構築する

  1. イメージを選び、検証する。ワークフローに適した ComfyUI イメージを選びます。ComfyUI、Python、CUDA、PyTorch、カスタムノード、モデルのバージョンをまとめて確認してください。カタログへの掲載は、すべての GPU とイメージの組み合わせが利用できることを保証しません。

  2. アクセスを設定する。SSH または JupyterLab でセットアップします。ComfyUI はポート 8188 で動作し、ログイン機能を内蔵していません。個人で使う場合は SSH トンネルで接続しましょう。インスタンスの Access タブから SSH Command をコピーし、ssh の後に -L 8188:localhost:8188 を追加します。例:ssh -L 8188:localhost:8188 -p <ssh-port> root@<host>。<ssh-port> と <host> は元の SSH Command の値に置き換えてください。接続を維持したまま、ブラウザーで http://localhost:8188 を開きます。VNC が利用できるかは、選択したイメージによります。

  3. ワークフロー全体を保存する。ワークフローのグラフ、モデル識別子、カスタムノードのバージョン、シード、サンプラー、ステップ数、メディアの寸法を記録します。インスタンスを解放すると、そのディスク上のデータは消去されます。モデルと出力は DataDrive に保存し、インストール済みの環境は解放前に Snapshot で保存してください。

初回の読み込みと、ウォーム状態での実行は分けて測定しましょう。精度、アテンションカーネル、並列ジョブ数を変更する前に、各ノードと I/O を分析し、変更のたびに出力品質を確認します。API やヘッドレス実行はジョブ投入を自動化できますが、それ自体が認証を提供するわけではありません。

5. 規模を拡大する前に代表的な条件で試行する

ワークロードを固定し、構成は一度に 1 項目ずつ変更します。vLLM では、同じ品質とレイテンシー要件の下で、リクエスト構成と同時実行数を比較してください。ComfyUI では、同じワークフロー、モデルファイル、寸法、サンプリング設定を使用します。正常な出力、失敗、ピークメモリ使用量、総課金時間、適用されるサービス料金を記録しましょう。

ウォーム状態の内部ループだけでなく、コールドスタート、アイドル期間、実際に近いデータ読み込みも含めます。試行を繰り返して変動を確認してください。最適化が効果を生まない場合は、単一のボトルネックを決めつけず、メモリ負荷、計算、スケジューリング、I/O、ネットワークの制限を調べましょう。

共同作業では、Glows.ai Team によって GPU リソース、環境、データセット、権限、クォータを 1 つのワークスペースにまとめられます。ワークロードの担当者と予算上限を決めてください。マネージドエンドポイントの方が適している場合は、Inference on Cloud を別途検討し、自分で管理しているランタイムを移行する前に互換性と利用条件を確認しましょう。

よくある質問

Glows.ai は vLLM と ComfyUI の両方のイメージを提供していますか?

はい。イメージカタログには vLLM 環境と ComfyUI イメージが掲載されており、FLUX.1-Kontext を組み合わせた ComfyUI も含まれます。選択したモデルやワークフローについて、現在利用可能なイメージの構成、依存関係、GPU との互換性を確認してください。

最初にどの GPU を試すべきですか?

ワークロード全体が収まり、メモリに余裕のある構成から始めましょう。RTX 4090 24 GB は 1 GPU・1 時間あたり $0.49 から利用できます。メモリが足りない場合は A100 80GB や H100 80GB などを比較し、一定の高速化率を仮定せず、有用な出力あたりのコストを測定してください。

常時稼働のインスタンスと自動スケーリング推論のどちらを選ぶべきですか?

代表的なトラフィックパターン、レイテンシー要件、料金全体を比較してください。常時稼働のインスタンスでは、実行中の環境を自分で管理できます。自動スケーリングサービスは、変動する需要への対応に役立つ場合があります。どちらかが安いと決めつけず、コールドスタートの動作、最小リソース、課金条件を確認しましょう。

ComfyUI や vLLM API をそのまま公開してもよいですか?

まず適切な認証と、制限されたネットワークアクセスを設定してください。ブラウザー UI、パブリック IP、API モード、OpenAI 互換のリクエスト形式は、アクセス制御の仕組みではありません。管理用アクセスを分離し、想定するクライアント接続をテストしましょう。

測定できるワークロードから始める

モデルやワークフローを選び、イメージの互換性とメモリ容量を確認してから、レイテンシー、採用可能な出力、処理完了までのコストを比較しましょう。Glows.ai On-Demand Cloud で vLLM や ComfyUI の試行環境を構成するか、マネージド推論の要件について当社チームにご相談ください。

オンデマンドクラウドを見る

クラウド推論を見る

Glows.ai のドキュメントを読む

Glows.ai に問い合わせる

Glows.ai
すべてのサービスは正常に稼働中
ISO/IEC 27001:2022 Certified
  • Twitter
  • Github
  • Discord
© 2026 Glows.ai - All rights reserved.