VM
SSHで接続し、手元と同じ手順で学習を進めます。チェックポイントは、東京の拠点のディスクに保存されます。
$ ssh ml@train-node
$ nvidia-smi --query-gpu=name,memory.total --format=csv
NVIDIA B300, 288GB × 8
$ torchrun --nproc_per_node=8 train.py --data ./corpus
epoch 1/3 step 400/1200 loss 1.42
epoch 3/3 step 1200/1200 loss 0.81
✓ checkpoint saved /data/ckpt/step-1200B300 × 8 · JPTY01専有サーバーの例/data/ckpt/step-1200国内のディスクに保存
- 期間を決めて専有学習や検証で使う期間に合わせて、GPU環境を確保できます。ほかの利用者と共有しない環境で、計画どおりに学習を進められます。
- 学習の環境を自社で設定GPU・ネットワーク・監視はHelloCloudが受け持つため、学習の環境づくりに集中できます。OSのイメージには、GPUのドライバーとCUDAをインストール済みです。
- 国外に出せないデータも学習に使える自社のデータも、学習したモデルも、東京の2拠点(JPTY01 / JPTY02)のサーバーに置けます。
