GPU VPSの用途別ガイド
何ができて、何に向かないか
GPU VPSは「AIを動かすサーバ」だけではありません。LLM推論、画像生成、音声認識、動画変換、3Dレンダリング、LoRA微調整、データ処理まで、用途ごとに「24GBのGPU1枚で足りるか」「先に何を確認するか」を整理しました。
用途別の早見表
| 用途 | 具体例(公式が挙げるもの) | 24GB・GPU1枚 | 先に確認すること |
|---|---|---|---|
| LLM推論 | Ollama、LLaMA系モデル | 7B〜13Bは余裕、34Bは4bitで可、70Bは不可 | モデルの重み容量とKVキャッシュ |
| 画像生成 | Stable Diffusion、ComfyUI | 向く | 解像度・同時生成数・保存容量 |
| 音声認識 | Whisper | 向く | 音声ファイルの量と処理時間 |
| 動画変換 | FFmpegのGPU処理(NVENC) | 向く | 使うエンコーダの対応 |
| 3Dレンダリング | Blender、Maya | 向く | シーンのVRAM使用量 |
| 学習・微調整 | PyTorch、TensorFlow、JAX | 小型モデルとLoRAは向く、大規模学習は不向き | モデルサイズとバッチ |
| データ処理・科学計算 | CuPy、XGBoost、CUDA/OpenCL | 単精度なら向く | 計算が単精度で足りるか |
| AI開発環境 | Jupyter、VS Code Remote | 向く | フレームワークがGPUに対応するか |
用途1:LLM推論(自分のAIチャット・API)
手元のPCにGPUがなくても、GPU VPSでOllamaやvLLMを動かせば、自分用のAIチャットやAPIを持てます。最初の判断は「そのモデルが24GBに載るか」です。重みの容量は、パラメータ数 × 1パラメータあたりのバイト数(FP16は2、8bitは1、4bitは約0.5)で単純計算できます。
| モデル規模 | FP16 | 8bit | 4bit | 24GBに載るか(重みのみ) |
|---|---|---|---|---|
| 7B | 約14GB | 約7GB | 約3.5GB | すべて載る |
| 13B | 約26GB | 約13GB | 約6.5GB | 8bit・4bitなら載る |
| 34B | 約68GB | 約34GB | 約17GB | 4bitのみ(余裕は小さい) |
| 70B | 約140GB | 約70GB | 約35GB | 載らない |
※重みだけの単純計算です。実際は会話の長さに応じたKVキャッシュと実行環境の分が別に必要で、ツールやモデルによっても変わります。余裕を見て選んでください。
APIとして公開する場合は、推論サーバーのポートを直接公開しないでください。VPS.orgはDoS対策を含めていないと明記しているため、認証付きのゲートウェイを前段に置く設計が必要です(vLLMでLLM APIを公開するときの注意点)。入力データの扱いはローカルLLMのプライバシーも確認してください。
用途2:画像生成(Stable Diffusion・ComfyUI)
公式はStable DiffusionとComfyUIを対応例として挙げています。必要なVRAMはモデルと解像度で大きく変わるため、数字を決め打ちせず、解像度と同時生成数を段階的に上げて、VRAMの使用量を測るのが確実です。チェックポイントやLoRAのファイルを置くストレージ容量も先に確認します。生成物の著作権や、利用するモデルのライセンスは自分で確認します。
用途3:音声認識(Whisper)
公式は音声認識を用途に挙げ、Whisperを対応例に載せています。会議の録音や動画の文字起こしを、手元のPCを占有せずに任せたい場合に向きます。処理する音声の総時間と、1件あたりの処理時間を最初に計り、GPUを使う時間を見積もります。録音データに個人情報や秘密情報が含まれる場合は、保存先と削除のタイミングも決めておきます。
用途4:動画変換・3Dレンダリング
公式は、NVENCによる動画トランスコードの高速化、BlenderやMayaでの3Dシーンのレンダリングを用途に挙げています。手元のPCで何時間もかかる処理を、サーバに投げて任せる使い方です。処理の量が少ないと、GPUの料金のほうが高くつくこともあるため、素材の容量、処理時間、同時ジョブ数を先に測ります。対応するエンコーダ(コーデック)は公式ページに記載がないため、使うFFmpegのエンコーダで事前に確認してください。詳しくはGPU VPSで動画変換・3Dレンダリングにまとめています。
用途5:LoRAなどの微調整・学習
公式は、24GBのTesla P40は大規模な学習よりも、小型モデルとLoRAの微調整に適していると説明しています。PyTorch、TensorFlow、JAXでの学習は可能ですが、モデルが大きいほどVRAMが不足します。学習の前に、モデルサイズ・バッチサイズ・学習時間を見積もり、24GBに収まらない場合は設計を変えます。
用途6:データ処理・科学計算・開発環境
- データ処理:CuPy、XGBoost、PyTorchで、配列計算や勾配ブースティングをGPUで高速化できます(公式)。
- 科学計算:分子動力学やシミュレーションなど、CUDAやOpenCLのワークロードを単精度で実行する用途です(公式)。倍精度が必要な計算は、公式の性能値(FP32 12 TFLOPS・INT8 47 TOPS)では判断できないため、事前に確認が必要です。
- AI開発環境:Jupyterノートブック、VS Code Remote、自分のCUDA開発環境で、AIアプリを作ってテストできます(公式)。
DifyをGPU VPSで動かす実装手順
結論:Dify本体にGPUは要りません。GPUが必要になるのは、Difyが呼び出す「ローカルのLLM(OllamaやvLLM)」を自分のサーバで動かすときだけです。Difyの公式手順(Docker Compose)の最小要件は「CPU 2コア以上・RAM 4GiB以上」で、GPUは求められていません(Dify公式ドキュメント、2026年10月7日確認)。
構成は3通り。最初はAだけで足ります
| 構成 | GPU | 向く人 | 注意 |
|---|---|---|---|
| A:Dify+外部のLLM API | 不要 | まず試作したい初心者 | プロンプトや入力文が外部APIに送られます。APIの利用料は従量課金です |
| B:Dify+同じGPU VPSでOllama | 必要(24GB・1枚) | 入力データを外に出したくない、APIの従量課金を避けたい | DifyとモデルでメモリとVRAMを分け合います。Dify側はRAM 4GiB以上 |
| C:標準VPSにDify、別のGPU VPSにモデル | モデル側のみ | Difyだけ常時稼働し、GPUは必要な間だけ起動したい | 2台分の管理が必要。モデルのポートは公開せず、接続元を絞ります |
本記事の現時点では、VPS.orgのGPUは注文できません(2026年10月6日確認)。そのため、AとCのDify側は今すぐ標準VPSで試し、モデルの置き場だけを後からGPUに切り替える進め方が現実的です。
GPUの選定基準:24GBに載るかを先に決める
- チャット用モデル:本記事の用途1の表で、重みが24GBに収まるかを確認します。KVキャッシュの分も要るため、34Bの4bitは余裕が小さく、7B〜13Bが扱いやすい範囲です。
- ナレッジ(RAG)を使うとき:文書を検索するための埋め込みモデルも別に動かすなら、その分のVRAMも要ります。チャット用と合計して24GBに収めます(社内文書のRAG)。
- GPUの世代:Tesla P40はPascal世代(計算能力6.1)です。使う推論ソフトとモデルが対応しているか、先に確認します。
- 複数GPU:公式では現在使えません。24GBを超えるモデルは別の構成を考えます。
設定手順(構成B:同じサーバでDifyとOllama)
nvidia-smiでGPUが見えることを確認します。dockerフォルダに移り、cp .env.example .envのあとdocker compose up -dです。docker compose psでコンテナが起動していることを確認します。http://サーバのIPアドレス/installを開いて管理者アカウントを作ります。公開する前に、HTTPS化とアクセス元の制限を決めます。localhostはOllamaではなくDifyのコンテナ自身を指すため、接続エラーになります。Difyの公式案内に沿って、http://host.docker.internal:11434のようにホスト側のアドレスを指定します(環境によってはホストのIPアドレス)。Ollamaが外部コンテナからの接続を受け付けるかどうかはOllama側の設定なので、Ollama公式の案内も確認してください。コスト試算のしかた(GPUの料金は未公開)
VPS.orgのGPU料金は公開されていないため、この記事では金額を示せません。公開されたら、次の式で外部APIとの損益分岐を確認します。
| 費用の項目 | 構成A(外部API) | 構成B(GPU VPS) |
|---|---|---|
| サーバ | 標準VPS(Difyのみ。RAM 4GiB以上のプラン) | GPU VPS(料金は注文開始時に公開予定) |
| モデルの利用料 | トークン量に応じた従量課金 | サーバ料金に含まれる(モデルは無料のものを使う場合) |
| 停止中の費用 | サーバを削除すれば止まる | 公式は「削除すれば課金が止まる」(標準プラン)。GPUが同じか要確認 |
損益分岐の考え方:「1か月に使う外部APIの料金」が「GPU VPSを1か月動かす料金」を超えるなら、構成Bが安くなる可能性があります。逆に、使う回数が少ないうちは、外部APIのほうが安く済みます。なお、モデルの利用規約(商用利用の可否)は、取得するモデルごとに自分で確認します。
初心者向けの注意点
- 最初からGPUを借りない:Difyの画面操作に慣れる段階では、GPUは不要です。標準VPSか手元のPCで構成Aを試し、必要を感じてからGPUに移ります。
- RAM 2GBのVPSでは足りません:Dify公式の最小要件はRAM 4GiB以上です。Dockerで多くのコンテナが同時に動きます。
- ポートを公開しすぎない:Ollamaの11434番などモデルのポートはインターネットに開けません。DoS対策は含まれていないため、公開するアプリはDifyの認証を通します。
- 秘密情報を入れない:自分のサーバで動かしても、ログに入力内容が残ります。保存期間と閲覧できる人を先に決めます(DifyをVPSで使うときの注意)。
- 自動公開しない:生成した文章を人が確認せずに公開・送信する設定は、最初は避けます。
向かない用途・注意が必要なケース
| ケース | 理由(公式の記載) |
|---|---|
| 24GBに載らない大きなモデル | VRAMは24GB(GDDR5)で、GPUは1枚。複数GPUは現在使えません |
| 大規模な学習 | 公式が「大規模な訓練より、小型モデルとLoRAに適する」と説明 |
| 最新のフレームワーク前提の環境 | Tesla P40はPascal世代(計算能力6.1)。使うフレームワークが対応しているか、自分で確認する必要がある |
| 公開サービスをそのまま運用 | DoS対策は含まれていない。公開するなら前段で保護する |
| 標準VPSの環境をそのまま移したい | 標準VPSからGPUへのアップグレードは不可。新しいサーバを作り、データをコピーする |
契約前に確認するチェックリスト
よくある質問
GPU VPSとは何ですか?
物理GPUを1台の仮想サーバに割り当て、AI推論・モデルの微調整・動画変換・レンダリングなどに使えるサーバです。VPS.orgの説明では、GPUはPCIeパススルーで1台のサーバに専有され、他の利用者とは共有されません。
VPS.orgのGPU VPSは今すぐ使えますか?
2026年10月6日時点では注文できません。公式ページは「近日公開」で、最初のGPUはNVIDIA Tesla P40(24GB VRAM)と案内され、利用開始の連絡は問い合わせ経由です。料金とGPUの契約条件は、注文開始時に公開されると書かれています。
NVIDIAドライバーは最初から入っていますか?
入っていません。公式の説明では、必要なバージョンのNVIDIAドライバーとCUDAツールキットを自分でインストールします。最も成熟したドライバーパッケージを持つUbuntu LTSが案内されています。
標準のVPSからGPU VPSに切り替えられますか?
できません。GPUサーバは別のGPUノードで動くため、移行するときは新しいサーバを作り、データをコピーします。
24GBのVRAMで70Bクラスのモデルは動きますか?
重みの容量だけを単純計算すると、70Bモデルは4bitでも約35GBになり、24GBには載りません。実際にはKVキャッシュなども必要なので、余裕を見て選びます。
DifyをGPU VPSで動かすにはGPUが必須ですか?
必須ではありません。Dify本体は、公式の最小要件がCPU 2コア以上・RAM 4GiB以上です。GPUが要るのは、OllamaやvLLMなどローカルのモデルを自分のサーバで動かすときだけです。外部のLLM APIにつなぐ構成なら、GPUなしで使えます(実装手順)。
関連:DifyをVPSで使う/自分専用のAIチャット/社内文書のRAG
出典:VPS.org公式GPUページ(2026年10月6日確認)。GPUの提供状況・仕様・料金は変わるため、申込み前に必ず公式の最新情報を確認してください。