VM

VMは、GPUを搭載した仮想マシンです。SSHで接続し、OS・コンテナ・学習のコードを自社で設定できます。

VM

SSHで接続し、手元と同じ手順で学習を進めます。チェックポイントは、東京の拠点のディスクに保存されます。

terminalShell
$ ssh ml@train-node
$ nvidia-smi --query-gpu=name,memory.total --format=csv
NVIDIA B300, 288GB  × 8
$ torchrun --nproc_per_node=8 train.py --data ./corpus
epoch 1/3  step 400/1200  loss 1.42
epoch 3/3  step 1200/1200  loss 0.81
✓ checkpoint saved  /data/ckpt/step-1200
  • B300 × 8 · JPTY01専有サーバーの例
  • /data/ckpt/step-1200国内のディスクに保存
  • 期間を決めて専有学習や検証で使う期間に合わせて、GPU環境を確保できます。ほかの利用者と共有しない環境で、計画どおりに学習を進められます。
  • 学習の環境を自社で設定GPU・ネットワーク・監視はHelloCloudが受け持つため、学習の環境づくりに集中できます。OSのイメージには、GPUのドライバーとCUDAをインストール済みです。
  • 国外に出せないデータも学習に使える自社のデータも、学習したモデルも、東京の2拠点(JPTY01 / JPTY02)のサーバーに置けます。

推論API・コンテナの実行環境・GPUの仮想マシンの3つから、自社で用意するものと任せたい範囲に合わせて選べます。

横にスワイプして比較

3つのサービスの比較
VMZDR routerサーバーレスGPU実行環境
使い方SSHで接続して操作APIを呼び出すコードをデプロイしてコンテナを実行
動かすモデル自社のモデルとコードHelloCloudが提供するモデル自社のモデルとコード
GPUの種類と枚数選んで作成指定しないコードで指定
お客様が用意するものOS・コンテナ・学習のコードAPIを呼び出すコードコードとコンテナイメージ
HelloCloudが受け持つものGPU・ネットワーク・監視GPU・モデル・推論サーバーGPU・サーバー・コンテナの増減
料金の決まり方GPUの時間単価 × 枚数 × 時間月額の定額か、トークン数の従量GPUの秒単価 × 枚数 × 動いた秒数
処理する場所東京のJPTY01 / JPTY02Kimi K3以外は自社保有のGPU東京のJPTY01 / JPTY02
向いている用途学習・ファインチューニング・検証社内のAIチャット・コーディングの支援自社のモデルの推論・バッチ処理

ZDR routerのKimi K3は、TEE(信頼できる実行環境)を用いた分散GPUで動かすため、ノードの所在国は特定できません。

次の3つは、学習1回分の金額を時間単価で計算した例です。正式な金額は、GPUの種類・枚数・期間を伺ってお見積りいたします。

  • 小さく試す

    LoRAでのファインチューニングを検証

    GPU
    RTX 6000
    枚数
    1枚
    期間
    1日

    ¥9,120

    380円 × 1枚 × 24時間

    この構成について相談
  • 本格的なファインチューニング

    30B級のモデルのファインチューニング

    GPU
    RTX 6000
    枚数
    8枚
    期間
    3日

    ¥218,880

    380円 × 8枚 × 72時間

    この構成について相談
  • 大型モデルの学習

    大型モデルの追加学習

    GPU
    B300
    枚数
    8枚
    期間
    1週間

    ¥1,989,120

    1,480円 × 8枚 × 168時間

    この構成について相談

金額は、公開している時間単価(GPU1枚・1時間あたりの参考価格)で計算しています。ストレージとデータの持ち込み方によって変わります。

  • 向いている使い方

    • 自社のデータで、モデルをファインチューニングする
    • 大型モデルの追加学習を、複数のGPUで進める
    • モデルや推論サーバーの構成を、本番の前に同じGPUで検証する
  • 向いていない使い方

    • 負荷に合わせて台数を増減する

      VMは作成した台数のまま動き、起動している間は処理をしていなくても料金が発生します。負荷に合わせてコンテナの数を自動で増減するなら、サーバーレスGPU実行環境が向いています。

      サーバーレスGPU実行環境を見る
    • OSやライブラリの管理を任せる

      OS・コンテナ・ライブラリの更新は、お客様が受け持ちます。モデルを呼び出すだけなら、運用をHelloCloudに任せられるZDR routerが向いています。

      ZDR routerを見る

固定の契約期間はありますか?
ありません。動かした時間の分だけお支払いいただき、いつでも利用を止められます。
自社で用意したモデルやコンテナを使えますか?
使えます。OS・コンテナ・学習のコードは、お客様が設定できます。
データはどこに保管されますか?
東京の2拠点(JPTY01 / JPTY02)のサーバーに保管します。学習のデータも、学習したモデルも国内に置けます。
どのGPUを選べますか?
RTX 6000とB300から選べます。GPUの種類・枚数・期間を伺って、お見積りいたします。